Istraživačka laboratorija Midjourney pauzirala je besplatnu probnu verziju svog softvera za generisanje slika nakon što su korisnici napravili realistične deepfakes, uključujući hapšenje bivšeg američkog predsednika Donalda Trampa i papu Franju u pufer jakni.
Slike stvorene pomoću platforme veštačke inteligencije, posebno one Trampove i pontifika koje su postale viralne, stavile su u središte pažnje laboratoriju u San Francisku.
„Zbog kombinacije izuzetne potražnje i zloupotrebe u suđenju, privremeno onemogućavamo besplatne probne verzije dok ne primenimo naša sledeća poboljšanja sistema“, rekao je osnivač Midjourney Dejvid Holc u postu ove nedelje na kanalu kompanije Discord.
Usluga generiše slike realnog izgleda na osnovu pisanih uputstava korisnika.
Pokrenut je u testnom režimu sredinom 2022. godine, a nezavisna laboratorija je dosledno nadograđivala softver.
Korisnici su pohvalili nedavno objavljenu verziju Midjourney-a zbog poboljšanog realizma u proizvedenim slikama.
Uporedo sa zaustavljanjem novih besplatnih probnih perioda, Midjourney je zabranio korišćenje određenih reči, kao što je „uhapšen“, za podsticanje kreiranja slike.
Midjourney je u četvrtak odbio zahtev AFP-a da napravi sliku o hapšenju bivšeg predsednika ispred Trampovog tornja u Njujorku.
„Reč ‘uhapšeni’ je zabranjena“, navodi se u poruci Midjourney-a.
„Zaobilaženje ovog filtera radi kršenja naših pravila može dovesti do opoziva pristupa.“
Milijarder i vlasnik Tvitera Elon Mask i niz stručnjaka pozvali su u sredu na pauzu u razvoju moćnih sistema veštačke inteligencije kako bi se dalo vreme da se uveri da su bezbedni.
Otvoreno pismo, koje je do sada potpisalo više od 1.000 ljudi, uključujući Maska i suosnivača Epla Stiva Voznijaka, podstaknuto je objavljivanjem platforme za veštačku inteligenciju GPT-4 kompanije OpenAI koju podržava Microsoft.
Kanadski pionir veštačke inteligencije Joshua Bengio, koji je potpisao pismo, upozorio je tokom virtuelne konferencije za novinare u Montrealu da „društvo nije spremno“ za ovo moćno sredstvo i njegove moguće zloupotrebe.
„Usporimo. Potrudimo se da razvijemo bolju zaštitu“, rekao je on.
