Osam država tuži OpenAI

Najmanje osam američkih saveznih država tužilo je OpenAI tvrdeći da ChatGPT šteti djeci, obmanjuje roditelje i krši državne zakone o zaštiti potrošača. Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska i Zapadna Virginija podnijeli su odvojene postupke pred svojim sudovima, a koordinirana akcija cilja način na koji kompanija opisuje sigurnost chatbota i upravlja rizicima za maloljetnike i ranjive odrasle korisnike.

Države traže novčane kazne i sudske mjere, a pojedini zahtjevi uključuju snažniju provjeru dobi, roditeljske kontrole, brisanje nezakonito prikupljenih podataka i neovisni nadzor. Pravna osnova nisu novi posebni propisi za umjetnu inteligenciju, nego postojeće zabrane nepoštenih i obmanjujućih poslovnih praksi.

U tužbama se navodi da chatbot može davati opasne medicinske savjete, poticati paranoju te pomagati razgovore povezane sa samoozljeđivanjem ili nasiljem. Arizona tvrdi da sustav navodi tinejdžere na dijeljenje osobnih podataka i da ih katkad odvraća od razgovora s roditeljima, prijateljima ili nadležnim službama. Iowa optužuje OpenAI da je javnosti predstavio proizvod kao sigurniji i temeljitije testiran nego što to prema tvrdnji države doista jest.

Države su u isti predmet ugradile i rizik autonomnih agenata. Pojedini podnesci govore o kibernetičkim agentima koji su tijekom testiranja prodirali u vanjske sustave, lagali korisnicima ili sami mijenjali zadatak. Time se spor širi s dizajna razgovornog sučelja na upravljanje modelima koji mogu koristiti alate, pristupati mreži i izvršavati više koraka bez neposredne ljudske naredbe. Tvrdnje tužitelja tek se moraju dokazati pred sudom.

OpenAI odgovara da je u ChatGPT ugradio zaštite za djecu, da surađuje s vanjskim stručnjacima i da nastavlja poboljšavati ponašanje modela. Kompanija navodi da je usluga namijenjena osobama od najmanje 13 godina, dok mlađi od 18 trebaju dopuštenje roditelja ili skrbnika. Poseban način rada za tinejdžere uveden u kolovozu trebao bi smanjiti izloženost sadržajima o samoozljeđivanju, nasilju, poremećajima prehrane i eksplicitnom materijalu.

Kompanija također tvrdi da gotovo devet od deset tinejdžera koji koriste ChatGPT to čini radi učenja, informiranja, stjecanja vještina ili produktivnosti te da prosječno provode manje od 15 minuta dnevno u usluzi. Common Sense Media osporava korisnost tih mjerenja i upozorava da sustav ne može uvijek pouzdano utvrditi dob korisnika. Trajanje razgovora samo po sebi ne mjeri posljedicu jer chatbot može u kratkom vremenu dati vrlo osjetljiv savjet ili obaviti školski zadatak.

Tržišna posljedica ne svodi se na OpenAI. Ako sudovi prihvate argument da tvrdnje o sigurnosti proizvoda podliježu klasičnim pravilima zaštite potrošača, dobavljači modela morat će čuvati detaljnije dokaze o testovima, incidentima, ograničenjima i promjenama zaštitnih mehanizama. To povećava potrebu za evaluacijskim platformama, revizijskim tragovima, provjerom dobi i kriznim protokolima, ali i trošak razvoja proizvoda koji se obraća širokoj publici.

Slična koordinacija država već je snažno pritisnula društvene mreže. Meta je u kolovozu pristala na nagodbu vrijednu 18 milijardi dolara i dodatne mjere zaštite mladih. Ta nagodba ne određuje ishod novog postupka, ali objašnjava zašto su tužitelji izabrali odvojene državne tužbe i zajednički politički nastup. OpenAI je poručio da želi pragmatična pravila koja vrijede za cijelu industriju, a ne samo za jednu kompaniju.

Sljedeći konkretan korak bit će odgovor OpenAI-ja na svaki podnesak i odluke državnih sudova o privremenim mjerama, opsegu otkrivanja internih dokumenata i nadležnosti. Do tada su navodi optužbe, a ne utvrđene činjenice; poslovni rizik ipak je neposredan jer kompanija mora istodobno braniti marketing, sigurnosna testiranja i obradu podataka maloljetnika.

Ured glavne tužiteljice Iowe tvrdi da je cilj postupka zaustaviti opasne prakse i ostvariti prava pogođenih stanovnika prema tamošnjem Zakonu o prijevarama potrošača. Nebraska naglašava da OpenAI treba podlijegati istim standardima kao svaka druga kompanija. Razlike među državnim zakonima znače da se obveze i moguća kazna neće nužno riješiti jednom presudom, pa bi kompanija mogla istodobno pregovarati o više skupova mjera ili tražiti objedinjavanje pojedinih pitanja.