Kineska policija saopštila je da je nedavno uhapsila korisnika ChatGPT-a jer je navodno koristio četbot sa veštačkom inteligencijom za kreiranje lažne vesti o nepostojećoj železničkoj nesreći. To je jedna od prvih prinudnih radnji prema nedavno usvojenom kineskom zakonu koji reguliše „duboke lažiranja“ generisane veštačkom inteligencijom — naizgled realistične, ali izmišljene digitalne slike, video ili druge medije.
Prema policijskom izveštaju iz severozapadne kineske provincije Gansu, čovek identifikovan samo po prezimenu, Hong, koristio je ChatGPT da kreira lažni članak o nesreći koja je navodno dovela do smrti devet građevinskih radnika u Gansuu. Dvadeset jedan nalog na popularnoj društvenoj platformi, svi u vlasništvu medijske kompanije sa sedištem u južnoj Kini, proširio je lažnu priču u kratkom vremenskom periodu.
Kao i većina stranih veb lokacija i aplikacija, ChatGPT je tehnički nedostupan u Kini zahvaljujući „Velikom zaštitnom zidu“ u zemlji, koji cenzuriše internet za stanovnike. Ali odlučni pojedinci mogu dobiti pristup preko uobičajeno dostupnog softvera „virtuelne privatne mreže“ koji zaobilazi zaštitni zid. Policijski izveštaj nije opisao kako je Hong uspeo da koristi ChatGPT.
U vreme kada su bezbednosni zvaničnici Gansua shvatili da je članak lažan, imao je 15.000 pregleda, navodi se u izveštaju. Policija je nakon toga izvršila raciju u Hongovu rezidenciju kako bi prikupila dokaze, a zatim je preduzela „krivične mere prinude“ protiv samog Honga. Policija koristi tu frazu da opiše privremene mere za ograničavanje slobode osumnjičenog.
Novi kineski zakon o dubokom lažiranju stupio je na snagu 10. januara. On zabranjuje nekoliko kategorija lažnih medija proizvedenih „tehnologijama duboke sinteze“ kao što su mašinsko učenje i virtuelna stvarnost, ali nudi samo nejasne definicije za mnoge od ovih zabranjenih klasa.
Prema prevodu zakona koji je dao sajt za masovno prevođenje China Lav Translate, on zabranjuje deepfakes koji se koriste u aktivnostima koje ugrožavaju nacionalnu bezbednost, štete imidžu nacije ili društvenom javnom interesu ili remete „ekonomski ili društveni poredak“. Izričito zabranjuje upotrebu takvih tehnologija za proizvodnju, objavljivanje ili prenošenje lažnih vesti.
