Europska komisija predstavila akcijski plan za kibernetičku sigurnost i AI

Europska komisija predstavila je akcijski plan za strukturirani odgovor na rizike i iskorištavanje mogućnosti koje napredni AI modeli donose kibernetičkoj sigurnosti. Oslanjajući se na jedinstveni europski pravni okvir za umjetnu inteligenciju i kibernetičku sigurnost, plan će povezati države članice, industriju i organizacije na razini EU-a radi jačanja zaštite digitalnog okruženja od ranjivosti povezanih s naprednim AI sustavima.

Učinkovita sigurnost zahtijeva temeljito razumijevanje načina na koji se nove tehnologije mogu koristiti, zloupotrijebiti i iskorištavati. Prema Aktu o umjetnoj inteligenciji, napredni AI modeli moraju se evaluirati, a mjere ublažavanja rizika pažljivo procijeniti prije njihova stavljanja na tržište EU-a. Kako bi se razvilo domaće stručno znanje, Komisija će objaviti poseban poziv za uspostavu europske sposobnosti evaluacije koja će uključivati i kibernetičku sigurnost te bi trebala postati operativna 2027. Nova sposobnost poduprijet će regulatornu ulogu Ureda za umjetnu inteligenciju jačanjem neovisnih procjena sposobnosti i rizika AI modela.

Europa treba i jasne te transparentne uvjete za pristup najnaprednijim AI sustavima. Komisija će s Agencijom Europske unije za kibernetičku sigurnost, ENISA-om, izraditi europski okvir za strukturirani pristup naprednim AI mogućnostima u području kibernetičke sigurnosti. Smjernice će relevantnim europskim javnim i privatnim organizacijama olakšati pristup naprednim modelima. ENISA i Zajednički istraživački centar Europske komisije uspostavit će sigurnu platformu za testiranje AI-ja u kibernetičkoj sigurnosti, uključujući simulirana okruženja. Time bi se operaterima u kritičnim sektorima, kao što su financije, energetika, zdravstvo, promet i javna uprava, trebalo prenijeti znanje o sigurnoj uporabi umjetne inteligencije.

„Umjetna inteligencija mijenja značenje kibernetičke sigurnosti i moramo držati korak. EU ima snažne temelje za prilagodbu odgovora ranjivostima koje donose nove tehnologije. Moramo usmjeriti postojeće sposobnosti, mreže i pravni okvir kako bismo ojačali zaštitu našeg digitalnog okruženja“, izjavila je Henna Virkkunen, izvršna potpredsjednica Europske komisije za tehnološku suverenost, sigurnost i demokraciju.

Akcijski plan nadovezuje se na Akt o umjetnoj inteligenciji, Direktivu NIS2, Akt o kibernetičkoj otpornosti i postojeće europske mehanizme suradnje u krizama. Komisija planira sigurnu platformu za testiranje umjetne inteligencije u kibernetičkoj sigurnosti uspostaviti već do kraja 2026. Takva okruženja trebala bi omogućiti provjeru obrambenih sposobnosti bez izlaganja stvarnih produkcijskih sustava nepotrebnom riziku. Europska evaluacijska sposobnost trebala bi pomoći u neovisnom ispitivanju modela prije njihove šire primjene na tržištu. ENISA već prati rizike povezane s umjetnom inteligencijom i razvija preporuke za zaštitu sustava i kritične infrastrukture.

Plan potiče uporabu AI-ja, uključujući odgovarajuće modele otvorenog koda, za brže otkrivanje ranjivosti, analizu prijetnji i odgovor na incidente. Istodobno je nužno štititi same modele od krađe podataka, manipulacije ulazima, trovanja skupova podataka i zlouporabe alata. Kritični sektori trebaju zadržati ljudsku kontrolu nad odlukama koje mogu utjecati na sigurnost, dostupnost usluga ili temeljna prava. Uspjeh će ovisiti i o dostupnosti stručnjaka koji razumiju i kibernetičku sigurnost i strojno učenje. Europski pristup pokušava povezati regulaciju, testiranje, operativnu suradnju i ulaganja kako bi se smanjila ovisnost o procjenama i alatima izvan EU-a.