OpenAI, tvorac popularnog chatbot ChatGTP, objavio je softverski alat za identifikaciju teksta koji generiše veštačka inteligencija, saopštila je kompanija u blog postu u sredu, piše Rojters.
ChatGPT je besplatni program koji generiše tekst kao odgovor na upit, uključujući članke, eseje, šale, pa čak i poeziju, koji je stekao široku popularnost od svog debija u novembru, istovremeno izazivajući zabrinutost zbog autorskih prava i plagijata.
AI klasifikator, jezički model obučen na skupu podataka parova teksta napisanog od strane ljudi i teksta napisanog od veštačke inteligencije na istu temu, ima za cilj da razlikuje tekst koji je pisala AI. Koristi različite provajdere za rešavanje problema kao što su automatizovane kampanje dezinformacija i akademsko nepoštenje, saopštila je kompanija.
U svom javnom beta režimu, OpenAI priznaje da je alatka za detekciju veoma nepouzdana na tekstovima ispod 1.000 znakova, a tekst napisan AI može da se menja da bi se prevario klasifikator.
„Ovaj klasifikator činimo javno dostupnim da bismo dobili povratne informacije o tome da li su nesavršeni alati poput ovog korisni“, rekao je OpenAI.
„Prepoznajemo da je identifikacija teksta napisanog veštačkom inteligencijom bila važna tačka za diskusiju među nastavnicima, a podjednako važno je i prepoznavanje ograničenja i uticaja klasifikatora teksta generisanih veštačkom inteligencijom u učionici.“
Otkako je ChatGPT debitovao u novembru i stekao široku popularnost među milionima korisnika, neki od najvećih školskih okruga u SAD, uključujući Njujork, zabranili su AI chatbot zbog zabrinutosti da će učenici koristiti generator teksta da varaju ili plagiraju.
Drugi su kreirali alate za otkrivanje trećih strana, uključujući GPTZeroKs, kako bi pomogli nastavnicima da otkriju tekst generisan AI.
OpenAI je rekao da se sarađuje sa edukatorima kako bi razgovarali o mogućnostima i ograničenjima ChatGPT-a i da će nastaviti da radi na otkrivanju teksta generisanog veštačkom inteligencijom.
