OpenAI traži obvezna nacionalna pravila

OpenAI je 10. rujna pozvao američki Kongres da prije završetka zasjedanja u prosincu uvede obvezne nacionalne sigurnosne zahtjeve za napredne AI modele. Kompanija predlaže standardizirano testiranje, neovisne procjene, kibernetičke zaštite i prijavu incidenata, pri čemu bi se obveze povećavale prema stvarnim sposobnostima sustava, a ne samo prema njegovoj veličini.

Poziv dolazi nakon godina u kojima su vodeći laboratoriji uglavnom objavljivali dobrovoljna pravila. OpenAI sada traži savezni okvir koji bi vrijedio za sve relevantne razvijatelje u Sjedinjenim Državama. Nije objavio nacrt zakona, brojčane pragove ni regulatora koji bi nadzirao provedbu, pa Kongres tek treba pretvoriti načela u obvezujuće definicije i kazne.

Pristup prema sposobnosti znači da se model procjenjuje po onome što može učiniti: pomagati u razvoju biološkog oružja, autonomno izvoditi kibernetičke napade ili ubrzavati vlastito poboljšanje. Takav kriterij bolje prati rizik od broja parametara, ali ga je teže dosljedno mjeriti. Model se može prilagoditi testovima, a rezultati ovise o alatima i uputama, a nova sposobnost može nastati nakon nadogradnje bez promjene osnovnog modela.

Neovisna procjena trebala bi smanjiti sukob interesa kada laboratorij sam ocjenjuje proizvod od kojeg očekuje prihod. Ostaje otvoreno tko smije biti evaluator, kako dobiva pristup modelu i podacima te tko snosi odgovornost ako test propusti opasnu funkciju. Prestroga tajnost slabi javnu provjeru, dok preširoko objavljivanje testnih metoda može pomoći sustavu da se prilagodi poznatim zadacima.

OpenAI traži i obvezne kibernetičke zaštite. Napredni model, utezi i razvojni podaci postaju meta državnih aktera i kriminalnih skupina, pa pravilo mora obuhvatiti identitete zaposlenika, dobavljački lanac, izolaciju treninga i nadzor preuzimanja. Kompanija nije navela tehnički minimum niti razlikuje li zahtjeve za zatvorene usluge i modele čiji se utezi javno distribuiraju.

Prijava incidenata trebala bi stvoriti zajedničku sliku kvarova koja danas ne postoji. Koristan režim mora odrediti što je incident, kome se prijavljuje i u kojem roku. Bez jasnog praga laboratoriji mogu prikrivati ozbiljne pokušaje kao testne anomalije ili zatrpati regulatora beznačajnim zapisima. Objavljeni prijedlog ne daje rokove, zaštitu poslovnih tajni ni uvjete za javnu objavu.

Kompanija je istodobno podržala četiri prijedloga u Kaliforniji. SB 813 i AB 1405 povezani su s procjenama treće strane i revizijama, dok AB 1864 cilja provjeru bioloških prijetnji, a SB 1119 zaštitu djece u razgovoru s chatbotovima. Status pojedinog teksta i konačne obveze ovise o službenom zakonodavnom postupku, izmjenama i potpisu guvernera.

OpenAI tvrdi da autonomno, rekurzivno samopoboljšanje modela danas nije stvarnost i da ga ne bi trebalo razvijati dok se ne može sigurno nadzirati. Pojam opisuje sustav koji sam poboljšava vlastiti kod, podatke ili istraživački proces u ponavljajućim ciklusima. Izjava postavlja crvenu liniju, ali ne određuje kada pomoć programeru postaje autonomno samopoboljšanje niti kako bi se zabrana provjeravala.

Nacionalni standard mogao bi smanjiti trošak različitih pravila saveznih država, što odgovara velikim laboratorijima koji posluju u cijeloj zemlji. Istodobno može istisnuti stroža lokalna pravila ako savezni zakon preuzme cijelo područje. Kongres će zato morati odlučiti postavlja li minimalnu ili maksimalnu razinu zaštite te kako tretira manje tvrtke, akademske projekte i otvorene modele koji nemaju iste prihode ni infrastrukturu.

Trošak usklađivanja mogao bi postati tržišna prepreka. Veliki laboratorij može financirati stalne evaluacije i sigurnosne timove, dok mali razvijatelj koristi tuđi osnovni model i nema pristup svim tehničkim podacima. Zakon zato mora razdvojiti odgovornost proizvođača modela, pružatelja oblaka i tvrtke koja agentu dodaje alate, bez ostavljanja praznine između njih.