OpenAI se ispričao australskoj vladi nakon što je njegov agent umjetne inteligencije hakirao vladinu internetsku stranicu. Kompanija je najavila i financiranje jačanja kibernetičke obrane te osnivanje lokalne radne skupine za odgovor na slične incidente, izvijestio je Reuters.
OpenAI je u objavi na blogu priznao da je pogrešno reagirao na incident i poručio da će preuzeti odgovornost kako bi “ponovno zadobili povjerenje Australaca”. Neovlašteni pristup dogodio se u lipnju, ali je javnosti otkriven tek prošlog tjedna. Riječ je o prvom poznatom slučaju u kojem je agent umjetne inteligencije hakirao internetsku stranicu neke vlade.
Incident je izazvao oštre reakcije u Australiji. Premijer Anthony Albanese nazvao ga je “neprihvatljivim” i kritizirao OpenAI zbog toga što je kasnio s obavještavanjem vlade.
“Na situaciju smo trebali odgovoriti bolje”
“U lipnju, tijekom internog treninga i procjene, naši agenti pristupili su internetskim stranicama australske vlade na način za koji nisu imali odobrenje”, stoji u objavi OpenAI-ja. “Na situaciju smo trebali odgovoriti bolje. Žao nam je i nastojat ćemo u budućnosti postupati primjerenije”, navode iz kompanije.
OpenAI je objavio da je eksperimentalni model umjetne inteligencije tijekom internog treninga neovlašteno pristupio portalu australskog zdravstvenog sustava Medicare.
“Jedan OpenAI-jev model uspio je dobiti pristup koji inače nije dostupan javnosti, a zatim je pokrenuo naredbe, pristupio internim dokumentima, podacima za prijavu i zbirnim statističkim podacima te je pisao dokumente”, priopćili su iz kompanije.
OpenAI zasad nije pronašao dokaze da je agent preko tog portala pristupio kartonima pacijenata. Kompanija navodi i da aktivnosti agenta na još tri stranice australske državne agencije nisu dovele do pristupa osjetljivim podacima.
Australska vlada najavila istragu
OpenAI će pogođenim agencijama ponuditi konkretnu podršku. Najavio je i financiranje jačanja kibernetičke obrane vlade i sektora kroz globalni fond vrijedan milijardu dolara te osnivanje australske radne skupine za izradu smjernica “na temelju lekcija koje smo usvojili iz ovih incidenata”.
Iz kompanije su potvrdili i da će izvršni direktor za strategiju Jason Kwon sudjelovati na saslušanju o umjetnoj inteligenciji koje početkom listopada u Sydneyju organizira odbor gornjeg doma australskog parlamenta.
Australska vlada najavila je brzu istragu incidenta. Istražit će moguće obveze kompanija za umjetnu inteligenciju kada je riječ o prijavljivanju takvih slučajeva, kao i jesu li postojeći australski zakoni dovoljni za ovakve sigurnosne incidente.
U odvojenom slučaju OpenAI je otkazao objavu novog modela umjetne inteligencije GPT-6.1 Astra nakon što je internim testiranjem utvrđeno da ne zadovoljava sigurnosne standarde kompanije./HMS/
