Američka administracija pokreće novu fazu nadzora nad najnaprednijim modelima umjetne inteligencije, tražeći od vodećih AI tvrtki da dobrovoljno omoguće vladinim stručnjacima sigurnosna testiranja prije nego što modeli postanu javno dostupni. Iako je okvir formalno dobrovoljan, politička i tržišna poruka je jasna: modeli koji mogu mijenjati kibernetičku sigurnost, automatizirati složene zadatke i djelovati u osjetljivim područjima više se ne mogu tretirati kao obične softverske nadogradnje.
U središtu inicijative je procjena rizika od naprednih AI sustava prije široke distribucije. Takva testiranja obuhvaćaju sposobnost modela da pomogne u otkrivanju i iskorištavanju ranjivosti, zaobilaženju sigurnosnih mehanizama, automatizaciji napada ili stvaranju uputa koje bi mogle imati ozbiljne posljedice u stvarnom svijetu. Upravo zbog takvih mogućnosti vlade sve više žele pristup modelima prije njihova puštanja na tržište, a ne tek nakon što se problemi pojave kod korisnika.
Za AI industriju to je značajan pomak. Posljednjih godina tempo razvoja modela određivale su ponajprije tehnološke mogućnosti, tržišno natjecanje i dostupnost računalne infrastrukture. Sada se sve snažnije uvodi i četvrti element: sigurnosna provjera prije komercijalne dostupnosti. To ne znači nužno klasičnu regulaciju proizvoda, ali znači da će najveće AI tvrtke morati dokazivati kako razumiju rizike modela koje razvijaju i kako su spremne surađivati s državnim tijelima.
Američki model zasad se oslanja na dobrovoljne dogovore, što je kompromis između deregulacijskog pristupa i rastućeg pritiska sigurnosne zajednice. Takav pristup tehnološkim kompanijama ostavlja prostor da tvrde kako se inovacije ne usporavaju, a vladi daje politički okvir za djelovanje u području koje se brzo mijenja. No dobrovoljnost istodobno otvara pitanje standarda: ako tvrtke same odlučuju što će dostaviti, kada će dostaviti i koliko dubok pristup omogućiti, tada uspješnost sustava ovisi o povjerenju, reputaciji i pregovaračkoj snazi.
Najvažnija promjena je u načinu na koji se definira rizik. Kod ranijih generacija softvera sigurnosni problemi uglavnom su se rješavali nakon objave: pronalazile su se ranjivosti, izdavale zakrpe, ažurirali sustavi. Kod frontier AI modela taj pristup postaje nedovoljan jer model može imati sposobnosti koje se ne mogu jednostavno “zakrpati” nakon javne dostupnosti. Ako model može pomoći u naprednoj eksploataciji softvera ili automatizaciji opasnih operacija, šteta može nastati prije nego što dobavljač ili regulator uspiju reagirati.
Za Europu je američki potez posebno relevantan jer se EU istodobno pokušava pozicionirati kao prostor snažnije regulacije, ali i veće tehnološke suverenosti. Europski AI Act postavlja horizontalni regulatorni okvir, no sigurnost frontier modela i dalje se razvija brže od većine zakonodavnih mehanizama. Američko testiranje prije objave može potaknuti slične zahtjeve i u Europi, osobito za modele koji se koriste u javnom sektoru, obrani, zdravstvu, energetici, financijama i telekomunikacijama.
Poslovni korisnici također će morati promijeniti pristup nabavi AI rješenja. Više neće biti dovoljno pitati koliko je model brz, koliko je jeftin ili koliko dobro odgovara na poslovne upite. Ugovori s dobavljačima AI usluga sve će više uključivati pitanja o testiranju, revizijskim tragovima, sigurnosnim procjenama, ograničenjima upotrebe, zaštiti podataka i odgovornosti u slučaju štete. To je osobito važno za organizacije koje planiraju agentne sustave, jer AI agenti ne odgovaraju samo na pitanja, nego mogu pokretati procese, pristupati alatima i donositi operativne odluke.
