Washington osniva stožer za AI

Bijela kuća osnovala je posebnu skupinu za umjetnu inteligenciju koja u 120 dana mora predložiti kako bi savezna vlast trebala reagirati na sigurnosne incidente, a vodstvo je povjerila ravnatelju nacionalne obavještajne službe Jayu Claytonu. Skupina će u Washingtonu povezati nacionalnu sigurnost, tehnološku industriju i operatore kritične infrastrukture, jer sadašnji kanali za prijavu problema nisu oblikovani za modele koji mogu samostalno izvoditi složene zadatke.

Mandat obuhvaća proboje zaštitnih ograda modela, neovlaštene prodore, zloupotrebu autonomnih agenata i druge događaje koji bi mogli prerasti granice pojedine tvrtke. U završnom izvješću trebala bi utvrditi što država već može učiniti na temelju postojećih zakona, gdje su potrebne nove ovlasti te kako ubrzati odgovor bez stvaranja pravila koja bi unaprijed blokirala razvoj proizvoda.

Clayton će praktično obnašati ulogu koordinatora američke politike prema naprednoj umjetnoj inteligenciji. U vodstvu su još Emil Michael, zadužen za suradnju s tehnološkim tvrtkama, te Scott Kupor, koji bi trebao povezati skupinu s energetikom, telekomunikacijama, financijama i drugim kritičnim sektorima. Takva podjela pokazuje da se rizik više ne promatra samo kao pitanje ponašanja modela nego i kao problem infrastrukture na kojoj se modeli treniraju i koriste.

Stožer bi trebao provjeriti tko danas prima prijavu kada model neočekivano zaobiđe zaštitu, kome laboratorij mora dostaviti tehničke zapise i u kojem trenutku incident postaje pitanje nacionalne sigurnosti. Bez unaprijed određenog protokola tvrtke mogu različito procijeniti isti događaj, a savezna tijela mogu paralelno tražiti iste podatke. Standardizirana prijava smanjila bi vrijeme između otkrivanja i odluke o ograničavanju sustava.

Poseban je problem odnos dobrovoljnih obveza i državnog nadzora. Američka administracija i dalje daje prednost internim kontrolama i neovisnim vanjskim provjerama koje prihvaćaju same kompanije. Nova skupina ipak dobiva zadatak procijeniti kada takav model prestaje biti dovoljan, primjerice ako laboratorij nastavi razvoj unatoč upozorenju da sustav može pomoći u kibernetičkom ili biološkom napadu.

Za tržište je važna i mogućnost da se obveze prošire na dobavljače računalne snage. Pružatelji oblaka, proizvođači akceleratora i upravitelji podatkovnih centara raspolažu podacima o velikim treninzima, neuobičajenoj potrošnji i premještanju osjetljivih radnih opterećenja. Ako budu uključeni u sustav ranog upozorenja, troškovi usklađivanja neće ostati samo na laboratorijima nego će se preliti na cijeli lanac AI infrastrukture.

Skupina mora razlikovati stvarne incidente od istraživačkih testova, jer bi preširoka definicija zatrpala sustav prijavama bez operativne vrijednosti. Korisna pravila moraju odrediti prag štete, potrebne tehničke dokaze, rok za obavijest i način čuvanja poslovnih tajni. Jednako je bitno utvrditi kada se informacija može podijeliti s drugim državama i privatnim operatorima koji bi mogli biti izloženi istom obrascu napada.

Članovi će morati uskladiti i različite sektorske režime. Financijska institucija već prijavljuje operativni i kibernetički incident nadzornim tijelima, energetska tvrtka radi prema pravilima kritične infrastrukture, a laboratorij za modele nema jednaku obvezu. Novi postupak ne smije stvoriti tri paralelne prijave istog događaja. Učinkovitiji model bio bi jedinstvena ulazna točka koja razvrstava podatke i prosljeđuje ih tijelu nadležnom za pogođeni sektor, uz zajedničku tehničku evidenciju.

Izvješće neće samo opisati rizike nego bi trebalo predložiti stvarnu raspodjelu odgovornosti. Laboratoriji će morati dokazati da mogu zaustaviti ili ograničiti problematičan model, infrastrukturni partneri da mogu sačuvati relevantne zapise, a država da može brzo donijeti odluku bez improviziranog zapovjednog lanca. Rok od 120 dana znači da bi prvi prijedlog američkog sustava za AI incidente trebao biti dovršen početkom veljače 2027., kada će se vidjeti i hoće li preporuke dobiti obvezujuću snagu.