Nvidia, veliki dobavljač čipova i računarskih sistema za veštačku inteligenciju, u utorak je objavila set softverskih alata koji imaju za cilj da pomognu chatbotovima da pažljivo biraju svoje reči.
Nvidijini čipovi su pomogli kompanijama poput Microsoft-a da dodaju čovekolike funkcije razgovora u pretraživače poput Bing-a. Međutim, chatbotovi mogu i dalje da budu nepredvidivi i da izgovore stvari koje njihovi tvorci ne bi želeli da izgovore.
U februaru je Microsoft ograničio korisnike na pet pitanja po sesiji sa svojim pretraživačem Bing, nakon što je New York Times izvestio da sistem daje uznemirujuće odgovore tokom dugih razgovora.
Nvidijini softverski alati, koji se pružaju besplatno, namenjeni su da pomognu kompanijama da se zaštite od neželjenih odgovora chatbotova. Neke od tih primena su jednostavne – proizvođaču chatbota za korisničku podršku možda neće biti u interesu da sistem pominje proizvode svojih konkurenata.
Ali alati Nvidije takođe su namenjeni da pomognu tvorcima sistema veštačke inteligencije da stave na mesto važne sigurnosne mere, kao što je osiguravanje da chatbotovi ne odgovaraju sa potencijalno opasnim informacijama kao što su načini izrade oružja ili slanje korisnika na nepoznate linkove koji bi mogli da sadrže kompjuterske viruse.
Američki zakonodavci su pozvali na regulacije oko AI sistema, jer su aplikacije poput ChatGPT porasle na popularnosti. Malo pravnih pravila ili industrijskih standarda postoji o tome kako učiniti AI sisteme bezbednim.
Jonathan Cohen, potpredsednik primenjenog istraživanja u Nvidia, rekao je da kompanija cilja da pruži alate za stavljanje tih standarda u softverski kod ako i kada oni stignu, bilo kroz industrijski konsenzus ili regulaciju.
„Mislim da je teško govoriti o standardima ako nemate način da ih implementirate“, rekao je on. „Ako standardi nastanu, onda će biti dobro mesto za njihovo postavljanje.“
