Istraživači Georgia Tech-a rade na stvaranju novog softverskog alata koji pokreće veštačka inteligencija (AI) kako bi se pozabavili nedovoljno istraženom oblasti digitalne bezbednosti i zlostavljanja u porodici.
Ove oblasti se često preklapaju sa zlostavljačima koji često koriste internet i mobilnu tehnologiju kako bi proširili domet svog zlostavljanja. Međutim, manji obim ovih onlajn napada rezultirao je manje pažnje istraživača bezbednosti.
Nadovezujući se na razvoj nedavno napravljen u kognitivnoj bezbednosti, glavni istraživač Kortni Kruks i diplomirani student Sneha Talvalkar rade na tome da pruže olakšanje žrtvama porodičnog nasilja.
Uticaj nasilja u porodici, inače zvanog nasilje od intimnog partnera (IPV), na javno zdravlje je nešto što Kruks proučava već nekoliko godina kroz istraživanje i praksu u svojoj ulozi licenciranog psihologa i istraživača.
Nakon što je videla kako je nova tehnologija otvorila nove metode zlostavljanja na mreži, Crooks je shvatila da bi mogla da pomogne da se popune praznine u ovom istraživačkom prostoru koristeći svoje iskustvo u radu sa Georgia Tech Research Institute, Školom za sajber bezbednost i privatnost (SCP) na Georgia Tech-u i Medicinski fakultet Univerziteta Emori.
Da bi dobili ono što žele, zlostavljači pokušavaju da promene stanje uma svoje žrtve putem kognitivne manipulacije i koriste različite taktike da to urade. Crooks je odlučio da istraži načine da pomogne preživelima od IPV-a da se suprotstave ovim poboljšanim kognitivnim bezbednosnim rizicima omogućenim tehnologijom dok su napredovali kroz oporavak.
Softver koji Crooks i Talvalkar rade na razvoju bi upozorio preživele na ove potencijalne ili uočene zloupotrebe koristeći dobro poznate, razvojno prikladne, psihološki zasnovane strategije učenja. Alat će se fokusirati isključivo na jedinstvene rizike sa kojima se suočavaju osobe koje su preživele IPV. Primena principa dizajna usmerenih na čoveka i etičkih standarda na dizajn veštačke inteligencije biće glavni prioritet za tim.
Tim radi na razvoju intervencija uz pomoć veštačke inteligencije koje su psihološki informisane i napravljene posebno da se fokusiraju na jedinstvene rizike sa kojima se suočavaju preživeli. Ove intervencije će biti osmišljene tako da se odvijaju zajedno sa tradicionalnim metodama podrške, kao što su mentalno zdravlje i resursi zajednice.
„Važno je razumeti da su nasilni odnosi komplikovani. Dok neki ljudi mogu da im pobegnu, mnogi ne mogu“, rekao je Kruks. „Ili mogu fizički da pobegnu, ali resursi kao što su njihovi telefoni, onlajn računi ili finansije mogu i dalje biti ranjivi na njihove zlostavljače. Preživeli će možda morati da nastave da komuniciraju sa svojim zlostavljačem, kao u slučajevima u kojima dele decu.“
Bez obzira na okolnosti, preživelima je često teško da prestanu da komuniciraju sa svojim nasilnicima kada pobegnu iz veze. Ova nemogućnost prekida veze je zbog psiholoških veza koje su ojačale dok su bili sa svojim bivšim partnerom.
AI tehnologije koje Crooks i Talvalkar predlažu neće delovati kao ChatGPT chat bot. Umesto toga, ponašaće se kao trener, učeći iz taktika nasilnog ponašanja i potencijalnih odgovora preživelih.
Alat će zatim dati predloge na osnovu specifičnog napretka i ciljeva oporavka svakog korisnika, uz uvažavanje potencijalnih rizika. Da bi poboljšao svoje trenerske performanse i opštu bazu znanja, AI će nastaviti da uči iz ishoda svakog incidenta sa kojim se suočavaju.
„Model pruža neophodnu intervenciju za pomoć u oporavku osobe koja je preživela IPV“, rekao je Talvalkar. „Želimo da koristimo veštačku inteligenciju za dobro, a ovaj projekat je korak u tom pravcu.
Časovi u SCP master programu su odigrali ključnu ulogu u oblikovanju Talvalkarovog istraživanja u ovoj oblasti. Istražujući internet cenzuru i jezičke modele, prepoznala je nove izazove koje predstavlja AI u bezbednosti. Nakon pronicljivog razgovora sa SCP profesorom Peterom Svireom, Talvalkar je stekla samopouzdanje da preusmeri svoj fokus na istraživanje zlonamernih namera u okruženjima koja su impresivna. Uz Crooksovo vođstvo, počela je da istražuje socio-tehničko okruženje IPV-a.
„Dizajniranje veštačke inteligencije usmerene na korisnika za pomoć u oporavku od nasilja u porodici“ prihvaćeno je kao prošireni sažetak i predstavljeno na Svetskom kongresu o računarskim naukama, računarskom inženjerstvu i primenjenom računarstvu 2023. ovog leta. Zbornik radova IEEE objavljuje rad u narednom broju.
