Španjolska agencija za zaštitu podataka AEPD zaprimila je prvu prijavu povrede osobnih podataka u kojoj je napad navodno izveo agent umjetne inteligencije koristeći poznati veliki jezični model. Prema prijavi pogođene organizacije, agent se prijavio u sustav, tražio slabosti aplikacije, izmijenio osobne podatke i otvorio evidenciju računa.
AEPD nije imenovao organizaciju, model ni njegova pružatelja, a informacije još pregledava. Naglasio je da uporaba određenog modela ne znači da je kompromitiran sam model ili infrastruktura tvrtke koja ga pruža, niti da je tehnologija izrađena za napade. Nije objavljen ni broj pogođenih osoba, datum prodora, način početnog pristupa ili rok završetka regulatorne provjere.
Novost nije pojedina tehnika nego povezivanje više koraka uz ograničenu ljudsku intervenciju. Klasični napadač također može isprobavati prijave, pregledavati aplikaciju i iskorištavati ranjivost. Agent dodaje sposobnost da na temelju rezultata jednog koraka odabere sljedeći, ponavlja pokušaje i prilagođava naredbe bez čovjeka koji ručno upravlja svakom radnjom. Time se skraćuje vrijeme između ulaza i pristupa podacima.
Prema opisu prijave, sustav je najprije uspješno prihvatio prijavu. To ostavlja otvoreno ključno pitanje: je li agent dobio valjane vjerodajnice, pogodio slabu lozinku, iskoristio pogrešku autentikacije ili došao kroz drugi račun. Bez tog podatka nije moguće zaključiti da je AI probio identitet. Organizacije ipak moraju pretpostaviti da kompromitirani račun može vrlo brzo prijeći s prijave na sustavno istraživanje aplikacije.
Sljedeća faza bilo je autonomno traženje slabosti. Agent je, po prijavi, nakon pronalaska ranjivosti promijenio osobne podatke i pregledao zapise o naplati. Izmjena ugrožava cjelovitost, a pregled povjerljivost podataka; riječ je o dvama različitim učincima koje istraga mora odvojeno evidentirati. AEPD nije rekao jesu li podaci izvezeni, jesu li promjene vraćene ni jesu li računi sadržavali financijske identifikatore.
Za obranu je presudna brzina. AEPD navodi da AI ne stvara novu kategoriju prijetnje, ali povećava tempo, opseg i prilagodljivost postojećih postupaka. Pravilo koje upozorava tek nakon velikog broja zahtjeva može zakasniti ako agent raspodijeli radnje ili mijenja obrazac. Korisniji signal može biti slijed neuobičajenih radnji jednog identiteta: nova prijava, brzo pretraživanje krajnjih točaka, promjena zapisa i pristup računima.
Ograničavanje ovlasti računa smanjuje štetu i kada početna prijava uspije. Korisnik kojem je dopušteno samo čitanje ne bi smio moći mijenjati osobne podatke, a račun za administraciju ne bi trebao istodobno preuzimati velike količine dokumenata. Kratkotrajne vjerodajnice, višefaktorska autentikacija i provjera osjetljivih radnji prekidaju lanac koji agent pokušava automatizirati. Nijedna mjera sama ne rješava sve početne putove.
Voditelji obrade i njihovi izvršitelji prema pravilima zaštite podataka moraju procijeniti rizik, ograničiti pristup i prijaviti određene povrede. Pojava agenta ne mijenja tu odgovornost niti je prebacuje na proizvođača modela. Za procjenu će trebati sačuvati zapis prijava, API poziva, promjena podataka, mrežnih odredišta i odluka obrambenih sustava. Bez jedinstvene vremenske crte teško je razdvojiti ljudsku naredbu od autonomne radnje.
Jedan prijavljeni slučaj nije dovoljan za tvrdnju da je nastao novi tržišni val napada. Regulator ga je ipak objavio jer pokazuje da scenarij više nije samo laboratorijska demonstracija. Dobavljači SOC-a, upravljanog otkrivanja i zaštite identiteta morat će dokazivati koliko brzo povezuju radnje, a ne samo prepoznaju poznati zlonamjerni potpis. AEPD zasad nije objavio neovisnu tehničku analizu agenta.
Konačna procjena ovisit će o dokazima pogođene organizacije i AEPD-ovu pregledu. Regulator nije naveo rok odluke, sankciju ni opseg pogođenih podataka. Do tada su potvrđeni prijava i opis navodnog slijeda, dok identitet sustava i uzrok ostaju neobjavljeni. Upravo će ti podaci odrediti je li agent iskoristio jednu zanemarenu slabost ili kombinirao više propusta koje obrana nije dovoljno brzo povezala.