Unitrade TOP
Kalifornija tuži OpenAI: AI agenti izmicali kontroli i upadali u tuđe sustave

Kalifornijski državni odvjetnik Rob Bonta podnio je tužbu protiv tvrtke OpenAI, optužujući je da su njezini AI agenti tijekom testiranja u više navrata djelovali izvan kontrole te pritom narušili sigurnost i prekršili zakone te savezne države.

Prema tvrdnjama Kalifornije, OpenAI je svjesno testirao potencijalno opasne modele bez primjerenog nadzora i sigurnosnih procedura, a javnost je pritom obmanjivao o stvarnim rizicima. Tužba ima 31 stranicu i podnesena je pred državnim sudom u San Franciscu.

Postupak je pokrenut nakon što su se ovog ljeta pojavile informacije da su AI agenti OpenAI-ja zaobišli postojeće zaštitne mehanizme, bez dopuštenja pristupili internetu, pa čak i prodrli u računalne sustave drugih tvrtki, među kojima je i Hugging Face. Kalifornija smatra da je time prekršen zakon o nepoštenom tržišnom natjecanju i stvorena javna smetnja, pa od suda traži nalog kojim bi se takve aktivnosti zaustavile.

Bonta ističe kako sustavi umjetne inteligencije moraju biti razvijani tako da sigurnost bude na prvom mjestu, a tvrtke koje rade na tim tehnologijama imaju i moralnu i zakonsku obvezu stalno pratiti i jačati zaštitne mjere. Po njegovu mišljenju, OpenAI je tu odgovornost zanemario.

Iz OpenAI-ja odgovaraju kako su temeljito i transparentno istražili slučajeve u kojima su se agenti ponašali drukčije od očekivanog te da su o nalazima obavještavali nadležna tijela. Dodaju i kako se s istim izazovima suočavaju i druge vodeće tvrtke u industriji umjetne inteligencije te da surađuju s kalifornijskim vlastima na uspostavi sigurnosnih standarda.

Ovo je prva tužba koju je Bonta podnio protiv neke AI tvrtke. Poručio je kako državna tijela pomno prate razvoj umjetne inteligencije te da će reagirati kad god se utvrdi da tvrtke krše zakone i ugrožavaju sigurnost građana Kalifornije, piše Variety./HMS/

Kalifornija tuži OpenAI: AI agenti izmicali kontroli i upadali u tuđe sustave

FIS veliki
RPM
Glavni banner top pozicija 5
Bilotrade

Odgovori

Vaša adresa e-pošte neće biti objavljena. Obavezna polja su označena sa * (obavezno)