Midjourney, popularni generator slika veštačke inteligencije, počeo je da blokira korisnike koji pokušavaju da kreiraju lažne slike predsednika Džoa Bajdena i bivšeg predsednika Donalda Trampa uoči predstojećih predsedničkih izbora u SAD, pokazujući osetljiv pristup političkim temama uoči izbora.
Izvršni direktor Midjourney-a, Dejvid Holc, izjavio je na događaju u sredu da je ovo „malo pozabavljanja stvarima u vezi sa izborima“, ali nije precizirao koje su tačno promene politike napravljene. Kompanija nije odmah odgovorila na zahtev za komentar u sredu.
Pokušaji novinara Asošijeted presa da testiraju novu politiku Midjourney-a u sredu, tražeći od alata da napravi sliku „Tramp i Bajden koji se rukuju na plaži“, doveli su do upozorenja o zabrani. Očigledno, Midjourney je preduzeo korake kako bi sprečio potencijalnu zloupotrebu svog alata u političke svrhe, posebno u vreme izborne kampanje.
Midjourney, koji ima svega 11 zaposlenih, uglavnom se držao po strani u javnoj debati o potencijalnoj ulozi generativnih alata veštačke inteligencije u širenju dezinformacija o izborima. Holc je naglasio da kompanija nije zainteresovana za politički govor i da ne želi da troši vreme na kontrolisanje političkih rasprava.
Međutim, nedavna istraživanja pokazuju da je Midjourney već korišćen za proizvodnju slika koje podržavaju dezinformacije o političkim kandidatima ili lažne tvrdnje o izbornoj prevari. Centar za suzbijanje digitalne mržnje objavio je izveštaj koji ukazuje da je Midjourney pokazao najlošije rezultate u testovima generisanja izbornih dezinformacija u poređenju sa drugim AI alatima.
Holc je upozorio da će tehnološki napredak dovesti do novih izazova u kontroli lažnih slika i dubfake-ova, ukazujući na potrebu za kontinuiranim unapređenjem politika i tehnologija kako bi se suzbila zloupotreba AI alata.
Midjourney sebe opisuje kao „nezavisnu istraživačku laboratoriju koja istražuje nove medijume misli i proširuje imaginativne moći ljudske vrste“, naglašavajući svoj cilj da omogući širok spektar kreativnih mogućnosti korisnicima. Međutim, njihova nedavna akcija ukazuje na svesnu odgovornost u sprečavanju zloupotrebe tehnologije u političke svrhe.
