SIGURNOST AGENATA

Ranjivost u Azure SRE Agentu pokazuje koliko su operativni AI agenti opasni kada autentikacija popusti

Kritičan propust koji je omogućio neovlašteni uvid u tokove komunikacije, razmišljanje sustava i osjetljive podatke iz Microsoftova operativnog agenta za cloud potvrđuje da nova generacija AI alata u proizvodnim okruženjima donosi kvalitativno drukčiji rizik: kompromitacija agenta znači kompromitaciju sloja koji vidi lozinke, logove, procese i administratorske radnje.

Ranjivost u Azure SRE Agentu pokazuje koliko su operativni AI agenti opasni kada autentikacija popusti
Depositphotos / Ilustracija

Otkrivena ranjivost u Microsoftovu Azure SRE Agentu otvorila je neugodno pitanje za cijelu industriju: što se događa kada agent koji ima pristup internim operativnim podacima i zadacima bude zaobiđen zbog pogreške u autentikaciji? Prema dostupnim informacijama, propust je omogućavao neovlašteni pristup osjetljivim tokovima podataka i komunikaciji agenta, uključujući informacije koje u klasičnom sigurnosnom modelu nikada ne bi smjele biti izložene trećoj strani.

Ovaj slučaj posebno je važan jer se ne radi o običnoj web aplikaciji ili jednom API-ju. Riječ je o sustavu zamišljenom da djeluje kao operativni pomoćnik u cloud okruženju, dakle o sloju kojem organizacije svjesno daju pristup logovima, konfiguracijama, naredbama i često vrlo osjetljivim administrativnim podacima. Kada takav sustav postane izložen, posljedice mogu biti daleko ozbiljnije od uobičajenog curenja metapodataka.

Upravo tu nastaje razlika između klasične automatizacije i agentne arhitekture. Što je agent sposobniji samostalno razumjeti, predlagati i izvršavati zadatke, to raste i vrijednost informacija kojima raspolaže. Napadaču više nije dovoljno kompromitirati korisnički račun ili jedan server. Dovoljno je dobiti pristup posredniku koji već ima pregled nad čitavim operativnim krajolikom organizacije.

Takvi incidenti pokazuju i koliko sigurnosni model za agente još nije sazrio. Mnoge tvrtke trenutno uvode agente zato što obećavaju bržu dijagnostiku, manji operativni trošak i bolju dostupnost stručnog znanja. No ako autentikacija, segregacija podataka i auditabilnost nisu projektirani na razini koju takav alat zaslužuje, dobitak u produktivnosti može se pretvoriti u novu klasu sistemskog rizika.

Za tržište cloud usluga to znači da će povjerenje postati jednako važno kao i funkcionalnost. Kupci neće pitati samo što agent može učiniti, nego i tko može vidjeti njegove tokove, kako se provjerava identitet, gdje se pohranjuju podaci i može li se svaki korak kasnije rekonstruirati. To će posebno vrijediti za regulirane sektore i organizacije koje agente žele pustiti blizu produkcijskih sustava.

Europa i domaće tržište ovdje imaju dodatni sloj osjetljivosti. Ako se agentni sustavi uvode u banke, telekome, javnu upravu ili kritičnu infrastrukturu, tada ranjivost ove vrste više nije tehnički incident nego pitanje operativne otpornosti i regulatorne usklađenosti. NIS2, DORA i slični okviri upravo će ovakve slučajeve sve češće promatrati kao problem upravljanja rizikom, a ne samo kao bug.

Azure SRE Agent zato nije izolirana epizoda, nego rana najava onoga što slijedi. Kako agenti budu dobivali veću autonomiju, broj kritičnih točaka povjerenja rasti će brže od broja ljudi koji ih mogu ručno nadzirati. To znači da će sigurnost agentne AI vrlo brzo postati jedna od ključnih disciplina enterprise informatike.

Operativni agenti obećavaju brže rješavanje incidenata, učinkovitiji nadzor i manji pritisak na SRE i operativne timove, ali takva korist dolazi uz novu razinu rizika. Agent koji vidi telemetriju, poruke, konfiguraciju i radne upute često ima uvid dublji od pojedinog administratora. Ako autentikacija ili autorizacija zakažu, problem više nije ograničen na jedan servis ili jedan korisnički račun, nego se otvara pristup cijelom sloju operativnog znanja o sustavu.

To mijenja i način na koji se mora gledati sigurnost AI alata za infrastrukturu. Nije dovoljno pitati radi li model točno ili učinkovito, nego kakve privilegije ima, što može dohvatiti, tko ga može navesti na pogrešan korak i kako se bilježi njegovo ponašanje. U protivnom će agenti, uvedeni kako bi smanjili složenost, postati nova središnja točka rizika za velike cloud sustave.

Za CIO-e i CISO-e ovo je upozorenje da uvođenje agentnih alata u operativu mora ići sporije nego što to sugerira tržišni marketing. Svaki alat koji dira produkciju, incidente ili mrežnu telemetriju mora prolaziti istu razinu provjere kao i privilegirani administratorski sustavi. U suprotnom se brzina odgovora lako može pretvoriti u brzinu eskalacije problema.

Sigurnost agenata zato će vrlo brzo postati zasebna disciplina unutar enterprise i cloud obrane. Organizacije će morati procjenjivati ne samo ranjivosti koda, nego i razinu autonomije, granice djelovanja i kvalitetu nadzora nad svakim agentom koji sudjeluje u operativi. Ako se taj sloj ne postavi dovoljno rano, dobit ćemo sustave koji jesu brži i pametniji, ali i puno teže objašnjivi nakon incidenta. Azure SRE Agent pokazuje upravo zašto je ta faza razmišljanja već počela, a ne tek dolazi.