Washington opet dopušta britanska testiranja

Američki developeri umjetne inteligencije ponovno mogu britanskom AI Security Instituteu dati rani pristup novim modelima radi sigurnosnog testiranja, objavljeno je tijekom noći 12. listopada. Administracija Donalda Trumpa time je, prema Telegraphu i Reutersu, povukla raniji zahtjev OpenAI-ju, Anthropicu i drugim kompanijama da modele ne dijele s britanskom vladom prije objave.

Promjena uklanja političku prepreku, ali ne stvara obvezu dostave modela. Kompanije same odlučuju hoće li institutu omogućiti pristup, koliko dugo testiranje traje i koje će rezultate prihvatiti prije lansiranja. Glasnogovornici Bijele kuće, OpenAI-ja i Anthropica nisu odmah komentirali izvješće, pa puni opseg nove politike još nije objavljen.

Britanski institut osnovan je nakon prvog svjetskog summita o sigurnosti umjetne inteligencije 2023. Njegov je posao provjeravati najnaprednije modele, njihove sposobnosti i mogućnosti zloupotrebe. Rani pristup važan je jer laboratorij može testirati proizvod prije nego što se široko distribuira, a proizvođač još ima vremena promijeniti zaštitne mehanizme.

Prethodno američko ograničenje pokazalo je da se procjena modela ne može odvojiti od industrijske politike. Neobjavljeni model sadrži poslovnu tajnu, sigurnosne informacije i znanje vrijedno konkurentima. Slanje izvan zemlje otvara pitanja kontrole pristupa, čuvanja rezultata i odgovornosti ako detalji o ranjivosti procure prije popravka.

Za britansku stranu najvažniji je kontinuitet. Testiranje samo odabranih verzija ne daje usporedivu sliku razvoja sposobnosti. Institut treba unaprijed dogovorene tehničke uvjete, pristup alatima i dovoljno računalnog kapaciteta da ponovi scenarije. Sažetak rezultata mora biti dovoljno jasan javnosti, bez objave uputa koje bi olakšale zloupotrebu.

Za američke laboratorije korist je neovisna provjera koju mogu pokazati kupcima i regulatorima. Trošak nastaje ako britanski test uspori izlazak proizvoda ili traži promjenu koja nije usklađena s pravilima drugih država. Zato će kompanije tražiti zajedničke metode, definicije ozbiljnog incidenta i postupak za rješavanje različitih nalaza.

Trumpova administracija i dalje odbacuje široke obvezujuće zahtjeve za sigurnost AI-ja, ali je nova savezna radna skupina u petak zatražila da developeri prijavljuju sigurnosne incidente povezane s modelima. Ta kombinacija upućuje na uži pristup: manje općih pravila, a više obveza oko konkretnih događaja i dobrovoljne suradnje.

Prijava incidenta i test prije objave rješavaju različite probleme. Testiranje traži sposobnost koju proizvođač možda nije prepoznao, dok prijava bilježi događaj koji se već dogodio. Ako između njih nema zajedničkog registra i razmjene podataka, ista slabost može se ponoviti u više laboratorija ili ostati skrivena iza različitih pragova ozbiljnosti.

Europski kupci će rezultate promatrati i kroz AI Act, pravila kibernetičke sigurnosti i ugovornu odgovornost dobavljača. Britanski nalaz sam po sebi ne dokazuje usklađenost, ali može postati dio procjene rizika. Dobavljač mora moći pokazati koja je verzija testirana, pod kojim uvjetima i jesu li zaštite ostale uključene u komercijalnom proizvodu.

Naime, mora doći od administracije ili uključenih kompanija: pisana pravila pristupa, čuvanja podataka i postupanja s kritičnim nalazom. Bez tih detalja promjena je političko dopuštenje, a ne operativni program. Stvarna vrijednost vidjet će se tek kada institut dobije novi model prije objave i objavi provjerljiv sažetak rezultata.

Dogovor treba urediti i situaciju u kojoj institut pronađe kritičan rizik, a kompanija ipak želi objaviti model. Bez unaprijed određenog postupka spor se može preseliti u javnost tek nakon lansiranja. Povjerljiva eskalacija prema regulatoru i dokumentirana odluka uprave stvaraju jasniju odgovornost. Jednako je važna ponovljivost nalaza. Institut treba sačuvati konfiguraciju, skup testova i verziju zaštitnog sloja kako bi poslije nadogradnje mogao utvrditi je li slabost uklonjena ili samo premještena. Bez tog traga proizvođač i tester mogu različito tumačiti isti rezultat.