Anthropic je prekinuo niz zlouporaba Claudea u posljednjih osam mjeseci, uključujući navodnu rusku kibernetičku kampanju i pokušaje sedam kineskih AI laboratorija da izvuku sposobnosti modela. Najveći pripisani slučaj obuhvatio je više od 151 milijun razmjena s više od 3 500 računa. Kompanija tvrdi da napadači sve češće koriste višestruke agente za izvođenje čitavih faza napada, dok čovjek ostaje nadzornik.
Anthropic je 10. rujna objavio da je tijekom osam mjeseci prekinuo više zlonamjernih uporaba modela Claude, uključujući navodnu rusku špijunsku kampanju i pokušaje sedam kineskih AI laboratorija da izvuku i kopiraju njegove sposobnosti. Najveći slučaj koji kompanija pripisuje operaterima povezanim s Alibabom obuhvatio je više od 151 milijun razmjena između svibnja i srpnja, s vrhom blizu tri milijuna dnevno preko više od 3 500 računa.
Anthropic tvrdi da napadači više ne koriste model samo za pisanje poruke ili dijela koda. Više agentskih procesa izvodilo je povezane zadatke, dok je čovjek uglavnom određivao cilj i nadzirao rezultat. Tvrdnje dolaze iz kompanijskog izvješća Threat Intelligence. Alibaba, rusko veleposlanstvo i dio drugih prozvanih strana nisu ih potvrdili, pa atribuciju treba zadržati uz izvor.
Distilacija je postupak u kojem manji model uči iz izlaza većeg sustava kako bi jeftinije preuzeo dio njegovih sposobnosti. Sama tehnika može biti legitimna kada vlasnik modela dopušta uporabu. Anthropic tvrdi da su lažni računi i masovni automatizirani upiti zaobišli uvjete usluge te da su odgovori korišteni za poboljšavanje konkurentskih modela.
Moonshot i DeepSeek navodno su primijenili drukčiji obrazac: stvarne razgovore korisnika usmjeravali su kroz Claude i koristili njegove odgovore za treniranje. Ako su razgovori sadržavali osjetljive informacije, takav tok otvara pitanje obavijesti korisnika, mjesta obrade i prava na sekundarnu uporabu podataka. Kompanije nisu javno odgovorile na tvrdnje navedene u Reutersovu izvješću.
Ruski akter čije ponašanje odgovara skupini Midnight Blizzard navodno je koristio AI kroz phishing, preuzimanje WhatsApp računa i napade na hotelske Wi-Fi mreže protiv ukrajinskih državnih, vojnih i diplomatskih ciljeva. Američke vlasti ranije su tu oznaku povezale s ruskom vanjskom obavještajnom službom SVR. Rusija redovito odbacuje optužbe o takvim operacijama.
Posebno je zabrinjavajući navod o sustavu koji automatski prepravlja zlonamjerni kod kada ga sigurnosni alat otkrije. To skraćuje petlju između detekcije i nove varijante: umjesto ručnog rada napadača, model može brzo mijenjati strukturu koda. Obrana zato mora pratiti ponašanje procesa, mrežne veze i vjerodajnice, a ne samo poznati potpis datoteke.
Anthropic je zabilježio i uporabu Claudea pri razvoju softvera za konvencionalno oružje, uključujući projektiranje, nabavu te sustave ciljanja i upravljanja. Tvrdnja ne znači da je model sam izradio operativno oružje. Izvještaj ne navodi potvrđen broj dovršenih sustava ni štetu, ali pokazuje da se procjena rizika širi iz kibernetičkog prostora na fizičke proizvode.
U izvješću se spominju i povezani akteri kolektiva ShinyHunters, poznatog po napadima na velike kompanije. Dobavljač modela može blokirati račun i obrazac uporabe, ali kriminalci otvaraju nove identitete ili prelaze na drugi servis. Učinkovita obrana traži dijeljenje tehničkih indikatora s pružateljima oblaka, registratorima domena i pogođenim organizacijama. Opseg takve razmjene nije objavljen.
Broj od 151 milijun razmjena pokazuje industrijski razmjer pokušaja izvlačenja, ali ne otkriva koliko je sadržaja bilo korisno napadaču ni koliko je detekcija imala pogrešaka. Potrebni su pragovi koji razlikuju legitimnog velikog kupca, istraživanje i automatiziranu krađu. Prestroga ograničenja mogu pogoditi korisnike, a preblaga dopuštaju konkurentu da rasporedi upite preko tisuća računa.
Za poslovne kupce izvješće je upozorenje da legitimni API ključ može postati napadačka infrastruktura. Ograničenja potrošnje, neuobičajeni ritam upita i naglo otvaranje mnogih računa moraju se povezati s identitetom i načinom plaćanja. Anthropic nije objavio pragove detekcije jer bi njihovo otkrivanje olakšalo zaobilaženje zaštite.
Anthropic je 10. rujna objavio da je tijekom osam mjeseci prekinuo više zlonamjernih uporaba modela Claude, uključujući navodnu rusku špijunsku kampanju i pokušaje sedam kineskih AI laboratorija da izvuku i kopiraju njegove sposobnosti. Najveći slučaj koji kompanija pripisuje operaterima povezanim s Alibabom obuhvatio je više od 151 milijun razmjena između svibnja i srpnja, s vrhom blizu tri milijuna dnevno preko više od 3 500 računa.
Francuska se namjerava pridružiti sve većem broju država koje djeci žele zabraniti pristup društvenim mrežama. Međutim, njezine je planove usporila odluka najvišeg ustavnog tijela u zemlji.
Prošireno rješenje uvodi novi jedinstveni pokazatelj prijevare (fraud score) – prvu Visa-inu integraciju tehnologije tvrtke Featurespace dostupnu na tržištu – pružajući financijskim institucijama brže i jasnije signale za otkrivanje većeg broja prijevara uz istodobno smanjenje broja nepotrebnih upozorenja.
