Britanija pojačava obranu AI modela

Britanski ministar za umjetnu inteligenciju Kanishka Narayan najavit će 12. listopada jačanje kibernetičke obrane i zatražiti od proizvođača najnaprednijih modela veća ulaganja u sigurnost. U govoru u zapadnom Londonu poručit će da se država ne može potpuno osloniti na tehnološke kompanije da same nadziru vlastite sustave te da Britanija treba više domaće AI infrastrukture.

Najava dolazi nakon upozorenja Geoffreya Irvinga, bivšeg glavnog znanstvenika britanskog AI Security Institutea, da postojeće zaštite možda ne bi spriječile protivničku državu u krađi neobjavljenog modela. Britanski čelnici obavještajnih službi prethodno su vladi predstavili procjenu utjecaja AI-ja na nacionalnu sigurnost.

Krađa modela razlikuje se od uobičajenog curenja dokumenata. Datoteke s parametrima mogu vrijediti milijarde dolara računalnog rada i omogućiti napadaču da pokrene sustav bez izvornih ograničenja. Ako uz model dobije kod za treniranje, evaluacije i pristupne ključeve, može obnoviti velik dio razvojnog okruženja izvan nadzora vlasnika.

Zaštita zato mora obuhvatiti identitet zaposlenika, privilegirane račune, poslužitelje za treniranje, repozitorije koda i sustave za prijenos velikih datoteka. Neuobičajen izvoz podataka treba zaustaviti prije završetka, ne samo zabilježiti nakon događaja. Najosjetljivije operacije mogu tražiti potvrdu dvije osobe i fizički odvojene vjerodajnice.

Domaća infrastruktura smanjuje dio ovisnosti o stranim dobavljačima, ali ne uklanja rizik. Novi podatkovni centar treba opskrbni lanac čipova, mrežne opreme i softvera, često iz više država. Britanija mora odlučiti koje komponente smatra strateškima, gdje se čuvaju kopije modela i tko smije administrirati klaster izvan redovnog radnog vremena.

Sigurnost agentskih sustava dodaje novi sloj. Model može imati pristup elektroničkoj pošti, bazi podataka, razvojnom okruženju ili alatima za kupnju. Čak i bez krađe parametara, napadač može preuzeti račun i usmjeriti agenta prema štetnoj radnji. Ovlasti zato trebaju biti ograničene po zadatku, uz nepromjenjiv zapis svakog poziva alata.

Britanska vlada razmatra i međunarodnu suradnju na zajedničkim standardima. Takav dogovor ima smisla samo ako države usklade prag za ozbiljan incident, postupak povjerljive razmjene i rok za obavješćivanje. Preširoka objava može pomoći napadaču, dok preuska definicija ostavlja partnere bez informacije potrebne za obranu.

Kompanije će tražiti da pravila razlikuju istraživački prototip od komercijalnog sustava koji upravlja stvarnim podacima. Rizik ipak ne ovisi samo o broju korisnika. Model u zatvorenom laboratoriju može sadržavati vrijedne sposobnosti i postati cilj špijunaže prije izlaska. Sigurnosni zahtjevi moraju pratiti vrijednost i ovlasti, ne marketinšku fazu proizvoda.

Za kupce je bitno da dobavljač može dokazati zaštitu bez otkrivanja modela. Neovisna revizija može provjeriti razdvajanje dužnosti, upravljanje ključevima, zapis pristupa i plan oporavka. Ugovor treba odrediti rok obavijesti, pomoć pri istrazi i pravo kupca da obustavi povezivanje ako dobavljač izgubi kontrolu nad kritičnim sustavom.

Narayanov govor treba otkriti hoće li najava donijeti obvezujuće zahtjeve, financiranje domaće infrastrukture ili novi program procjene. Mjerljivi elementi bit će broj obuhvaćenih laboratorija, minimalne kontrole i rokovi. Bez njih poziv na veću sigurnost ostaje politička poruka; s njima Britanija može postaviti operativni okvir za zaštitu modela kao strateške imovine.

Zaštita težina modela mora obuhvatiti i pričuvne kopije. Kopija izvan glavnog klastera često ima slabiji nadzor, iako sadrži istu vrijednost. Organizacija treba popis svih replika, automatsko brisanje zastarjelih verzija i redovitu provjeru ključeva kojima se arhiva može otvoriti. Nabava domaćeg kapaciteta treba uključiti sigurnosne kriterije prije cijene po procesorskom satu. Državni korisnik mora znati tko održava firmware, odakle dolaze nadogradnje i može li dobavljač iz druge jurisdikcije daljinski prekinuti podršku. Suverenost bez kontrole operativnog lanca ostaje djelomična.