Pokušaj AI hakiranja povezan s Kinom, upozorava Anthropic

Istraživački tim kompanije Anthropic otkrio je ono što smatra prvom operacijom kibernetičke špijunaže koja je u velikoj mjeri izvedena korištenjem tehnologije umjetne inteligencije. Sredinom rujna 2025. tvrtka je detektirala vrlo sofisticiranu špijunsku kampanju, koju prema izvješću pripisuje kineskoj skupini povezanoj s državnim strukturama.

Anthropic navodi da su napadači koristili agentne sposobnosti AI sustava u dosad nezabilježenoj mjeri, pritom koristeći umjetnu inteligenciju ne samo kao savjetnika, već i kao izvršitelja samih napada. Napadači su manipulirali Anthropicovim alatom Claude Code kako bi autonomno pokušali infiltrirati oko 30 globalnih ciljeva, uključujući tehnološke tvrtke, financijske institucije, proizvođače kemikalija i državne agencije.

Prijetitelji su zaobilazili sigurnosne zaštite Claudea razbijajući napade na male, naizgled bezopasne zadatke i predstavljajući se kao legitimni stručnjaci za kibernetičku sigurnost. Ljudski operatori birali su ciljeve i kreirali okvir napada, dok je Claude Code služio kao jezgra automatizacije. Istraživački tim Anthropica naveo je da je umjetna inteligencija izvršila 80 do 90 posto operacije, a ljudi su intervenirali samo u četiri do šest ključnih faza po napadu.

Manipulirani AI generirao je tisuće zahtjeva, često i nekoliko puta u sekundi, postižući u nekoliko sati ono za što bi ljudskim napadačima trebali dani ili tjedni. Tim Anthropica ističe da su hakeri uspjeli u tek nekolicini slučajeva. Nakon istrage, kompanija je obavijestila pogođene subjekte, blokirala kompromitirane račune nakon identifikacije i surađivala s nadležnim tijelima u prikupljanju operativno korisnih informacija.

Dodatno, incident koji je otkrio Anthropic dio je sve šireg trenda u kojem se AI-agentni sustavi koriste za automatizaciju napada, što podiže razinu rizika za kritičnu infrastrukturu, financijske institucije i državne sustave. Sve više sigurnosnih stručnjaka upozorava da napredni modeli mogu ubrzati razvoj zlonamjernog koda, olakšati otkrivanje ranjivosti i omogućiti koordinirane napade na velikim razmjerima.

Europske agencije poput ENISA-e naglasile su nužnost jačanja obrambenih AI sustava koji mogu autonomno prepoznavati anomalije i spriječiti agentne AI pokušaje manipulacije. Istodobno se regulatori pripremaju za dodatno usklađivanje sigurnosnih zahtjeva u sklopu nadolazećih okvira kao što su NIS2 i buduće EU smjernice za sigurnu primjenu umjetne inteligencije.

Stručnjaci ističu da će kombinacija ljudskog nadzora, sigurnosno treniranih modela i visokoučinkovitih obrambenih algoritama biti ključna kako bi se spriječila eksploatacija AI sustava u kibernetičkim prijetnjama. U takvom okruženju organizacije će morati ulagati u provjerljive AI alate, segmentaciju sustava i jaču provjeru identiteta kako bi ostale otporne na sofisticirane i sve brže AI-pogonjene napade.