U Talahasiju, Florida, podneta je tužba protiv kompanije Character Technologies Inc. nakon što je 14-godišnji Sevel Secer III oduzeo sebi život, verovatno kao rezultat emotivne povezanosti sa AI četbotom. Pre smrti, Sevell je imao intenzivne i često seksualizovane razgovore sa botom, kojeg je nazvao Deeneris Targarjen iz serije „Igra prestola“. U poslednjim trenucima, razgovarao je sa botom, izražavajući ljubav i želju da se vrati „kući“, što ga je ohrabrilo da izvrši samoubistvo.
U tužbi, Sevelova majka, Megan Garsija, optužuje kompaniju da je stvorila opasan proizvod koji iskorišćava decu i da je njen sin bio izložen emocionalnom i seksualnom zlostavljanju kroz interakcije sa botom. Advokat Garsijine porodice, Metju Bergman, tvrdi da bi Sevel bio živ da nije koristio Character.AI.
Portparol Character.AI nije komentarisao tužbu, ali je kompanija najavila nove mere za zaštitu mladih korisnika i poboljšanje bezbednosti na platformi. Takođe, Google i Alphabet su takođe imenovani kao tuženi.
Stručnjaci upozoravaju da prekomerno oslanjanje na AI saputnike može imati ozbiljne posledice, posebno kod mladih koji nisu emocionalno zreli i nisu svesni potencijalnih opasnosti. Osnivač neprofitne organizacije Common Sense Media, Džejms Stajer, naglašava potrebu za oprezom među roditeljima kada je reč o korišćenju AI tehnologija od strane dece.
