Istraživači testirali decentralizirani AI crv

Anthropicov Frontier Red Team raspodijelio je model Gemma4-26B-A4B na 15 jeftinih Android TV uređaja i pokrenuo inferenciju bez podatkovnog centra, stvarajući tehničku osnovu za budući samoreplicirajući AI crv. Sustav je radio brzinom od 0,39 tokena u sekundi, dovoljno za eksperiment, ali presporo i preskupo za praktičan napad u sadašnjem obliku.

Istraživači nisu demonstrirali potpuno autonoman lanac širenja. Razdvojili su ga na pronalaženje mete, stjecanje izvršavanja koda, uspostavu inferencije i nastavak propagacije s novog uređaja. Fokus rada bio je treći korak: može li mali model sam pripremiti okruženje na nepoznatom, ograničenom hardveru. Model s devet milijardi parametara uspio je na osam od devet testiranih vrsta uređaja.

Klasični računalni crv nosi unaprijed napisani kod za poznatu metu. AI varijanta mogla bi promatrati novo okruženje, birati alate i prilagođavati postupak instalacije. Takva fleksibilnost ne uklanja potrebu za ranjivošću ili ukradenom vjerodajnicom, ali može smanjiti količinu ručnog rada potrebnog da se napad prilagodi tisućama modela televizora, usmjerivača, kamera i kućanskih uređaja.

Najvažnija novost je raspodjela modela. Pojedini jeftini uređaj nema dovoljno memorije ni procesorske snage za veći model, ali skupina može podijeliti njegove slojeve i zajednički izvoditi zadatak. Napadač time ne dobiva brzinu podatkovnog centra, nego mrežu bez jedne točke gašenja. Uklanjanje jednog čvora ne mora zaustaviti cijeli sustav ako ostali pronađu zamjenu.

Anthropic procjenjuje da modeli do 30 milijardi parametara već mogu izvršiti mnoge pojedinačne korake replikacije, ali još griješe kada ih trebaju povezati od početka do kraja. Snažniji modeli mogu obaviti pojednostavljeni cijeli zadatak, no ne stanu na slabi potrošački hardver. Rizik raste ako manji modeli nastave napredovati i dosegnu istu razinu planiranja uz manju potrošnju memorije.

Pametni uređaji pogodno su tlo jer često godinama ostaju bez zakrpa, koriste zadane lozinke ili izlažu razvojna sučelja lokalnoj mreži. Proizvođač televizora ili kamere može prestati održavati model mnogo prije kraja njegova fizičkog vijeka. Uređaj i dalje ima vezu s internetom, procesor i pohranu, ali nema aktivan sigurnosni tim koji prati nove metode napada.

Obrana zato počinje starim mjerama: isključivanjem nepotrebnih servisa, jedinstvenim lozinkama, potpisanim nadogradnjama i segmentacijom kućne ili poslovne mreže. AI ne poništava te kontrole. Naprotiv, automatizirani napadač najviše koristi upravo konfiguracijske propuste koji su već dobro poznati, ali nisu dosljedno uklonjeni.

Proizvođači bi trebali objaviti minimalno razdoblje sigurnosne podrške i omogućiti vlasniku da vidi kada je uređaj ostao bez zakrpa. Poslovne mreže trebaju odvojiti zaslone, kamere i senzore od sustava s osjetljivim podacima. Nadzor prometa može otkriti neuobičajeno preuzimanje modela, komunikaciju među uređajima i dugotrajno opterećenje procesora koje nije povezano s normalnom funkcijom.

Istraživanje otvara i pitanje odgovornog objavljivanja. Opis arhitekture pomaže obrani, ali napadaču daje putokaz za eksperimentiranje. Vrijednost rada zato ovisi o tome prati li ga konkretna suradnja s proizvođačima čipova, operacijskih sustava i IoT opreme. Samo upozorenje neće popraviti milijune uređaja koji više nemaju podršku.

Poseban rizik nose uređaji s ugrađenim AI akceleratorima. Lokalna obrada donosi privatnost i brzinu legitimnim aplikacijama, ali kompromitirani uređaj napadaču daje više računalne snage. Sigurni boot, izolacija modela i ograničenje mrežnog pristupa moraju zato postati standardna svojstva, a ne dodatna opcija skupljih proizvoda.

Trenutačni rezultat nije dokaz da internetom već kruži autonomni AI crv. To je dokaz da je jedna pretpostavljena prepreka, potreba za snažnim središnjim poslužiteljem, slabija nego što se mislilo. Sljedeći test mora mjeriti može li mali model pouzdano povezati sva četiri koraka, koliko mu treba vremena i može li obrana prepoznati širenje prije nego što mreža dobije novi čvor.