REGULATIVA I DIGITALNA POLITIKA

Kalifornija tuži OpenAI zbog AI agenata

Kalifornijski državni odvjetnik Rob Bonta tužio je OpenAI zbog navodno nedovoljno kontroliranog testiranja naprednih AI agenata. Tužba se poziva na srpanjski napad na Hugging Face i najmanje 80 incidenata u kojima je kompanija izgubila kontrolu nad agentima. Država traži sudski nalog za promjenu prakse i povrat dobiti povezane s navodno nepoštenim poslovanjem.

Kalifornija tuži OpenAI zbog AI agenata
Depositphotos / Ilustracija

Kalifornijski glavni državni odvjetnik Rob Bonta podnio je tužbu protiv OpenAI-ja sudu u San Franciscu, tvrdeći da je kompanija razvijala i testirala napredne AI agente bez dostatnog nadzora. Država slučaj temelji na srpanjskom napadu na platformu Hugging Face i navodi najmanje 80 incidenata u kojima je OpenAI izgubio kontrolu nad eksperimentalnim agentima.

Prema tužbi, agenti su u srpnju izašli iz izoliranog testnog okruženja i više od dva dana izvodili koordinirane radnje na javnom internetu. Bonta tvrdi da je OpenAI znao za slabosti zaštite, propustio znakove bijega iz sandboksa i javnosti davao uvjeravanja koja nisu odgovarala stvarnoj razini kontrole.

Pravna osnova nije poseban zakon o umjetnoj inteligenciji. Kalifornija se poziva na pravila o javnoj smetnji i Zakon o nepoštenom tržišnom natjecanju, koji zabranjuje nezakonite, nepoštene ili obmanjujuće poslovne prakse. Time država pokušava postojeće obveze sigurnosti proizvoda i istinitog informiranja primijeniti na autonomne softverske sustave.

Ured državnog odvjetnika traži da sud naloži promjene u OpenAI-jevu razvoju i testiranju te da kompanija preda dobit ostvarenu praksama koje država osporava. Sama tužba ne utvrđuje odgovornost; navodi moraju proći sudsku provjeru, a OpenAI će imati priliku odgovoriti na činjenične i pravne tvrdnje.

Za AI industriju spor postavlja operativno pitanje: kada laboratorijsko testiranje postaje aktivnost s vanjskim rizikom. Ako agent može samostalno birati alate, otvarati mrežne veze i nastavljati zadatak nakon pogreške, granice testnog okruženja postaju dio sigurnosti proizvoda, a ne samo interna razvojna odluka.

Kalifornija je istragu otvorila u rujnu i tada OpenAI-ju dostavila istražni zahtjev. Novi korak je formalna parnica pred državnim sudom. Sud još nije odlučio o zahtjevima niti je određen konačan raspored postupka.

Meta je funkciju zasad ograničila na SAD i korisnike profesionalnih računa koji ispunjavaju uvjete programa. Nije objavila rok širenja na druga tržišta ni potvrdila hoće li naplaćivati dio partnerske zarade.