Istraživači sigurnosne tvrtke Cathedral uz pomoć AI agenata za manje od 12 sati pronašli su slabosti u vanjskom poslovnom softveru preko kojih su mogli pristupiti dijelu Anthropicovih internih sustava. Bili su im dostupni transkripti sastanaka, podatci o plaćama, ponudama za posao i ograničen broj korisničkih i zaposleničkih zapisa. Anthropic tvrdi da razgovori s Claudeom, izvorni kod i težine modela nisu bili dostupni. Kompanija je isključila pogođenu uslugu i pokrenula istragu.
Istraživačima američke sigurnosne tvrtke Cathedral trebalo je manje od 12 sati da uz pomoć AI agenata otkriju slabosti u poslovnom softveru povezanom s Anthropicom. Iskoristili su ih za pristup dijelu internih sustava. Anthropic je potom isključio pogođenu uslugu, obavijestio nadležna tijela i istražio kakvim su podatcima istraživači mogli pristupiti.
Istraživači su mogli vidjeti transkripte sastanaka, podatke o plaćama i ponudama za posao, interne rasprave o naprednim modelima te ograničen skup zapisa o zaposlenicima i korisnicima. Kompanija navodi da nisu bili dostupni razgovori korisnika s Claudeom, izvorni kod modela ni težine modela, što bitno ograničava tehničku štetu.
Istraživanje se odvijalo u okviru Anthropicova programa sigurnosnog testiranja, ali kompanija tvrdi da Cathedral nije u potpunosti poštovao pravila prijavljivanja nalaza. Bez obzira na taj spor, otkrivene slabosti mogle su biti zanimljive i stvarnim napadačima. Zato programi testiranja trebaju omogućiti brzo prijavljivanje ozbiljnih propusta i njihovo uklanjanje.
Ulazna točka nije bio Claude ni programski kod AI modela, nego poslovna aplikacija koju koriste zaposlenici. Tvrtke obično posebno štite proizvodne sustave, a alatima za sastanke, zapošljavanje i suradnju često daju široke ovlasti. Ako je jedan od tih alata ranjiv, napadač može dosegnuti i podatke koji nisu namijenjeni vanjskom pristupu.
AI agenti skratili su vrijeme potrebno za izviđanje, povezivanje tragova i provjeru hipoteza. To ne znači da je napad bio potpuno autonoman, ali povećava broj pokušaja koje mali tim može provesti u jednom danu. Obrana mora računati da će napadači brže pregledavati konfiguracije, dokumentaciju i neočekivane veze između usluga.
Anthropic tvrdi da nema dokaza da je slabost iskoristio netko drugi. Odsutnost dokaza nije jednaka potpunoj sigurnosti ako dnevnici treće strane nisu potpuni. Istraga zato treba povezati zapise identiteta, mrežnog prometa, API poziva i izvoza podataka te provjeriti jesu li pristupni tokeni opozvani na svim povezanim sustavima.
Najvažnija kontrola jest smanjenje ovlasti SaaS integracija. Aplikacija za sastanke ne treba trajni pristup svim kanalima za poruke, a sustav za zapošljavanje ne treba čitati tehničke repozitorije. Kratkotrajni tokeni, segmentacija i zaseban identitet za svaku integraciju ograničavaju koliko daleko napadač može doći nakon prvog prodora.
Dobavljački rizik mora se pratiti kontinuirano, ne samo upitnikom prije ugovora. Promjena vlasništva, nove integracije i brza funkcionalna nadogradnja mogu proširiti površinu napada bez nove sigurnosne procjene. Ugovor treba zahtijevati zapisivanje pristupa, rok prijave incidenta, pravo na testiranje i dokaz o brisanju podataka.
Za razvojne tvrtke poput Anthropica i poslovna dokumentacija može biti osjetljiva. Interni razgovori mogu otkriti razvojne planove, rezultate testiranja i odnose s kupcima čak i kada napadač ne dođe do izvornog koda ili težina modela. Sigurnosna pravila zato moraju obuhvatiti i svakodnevne alate za suradnju.
Anthropic nije objavio sve pojedinosti pogođenog softvera ni ukupan broj dostupnih zapisa. Za potpuniju sliku bilo bi važno znati trajanje izloženosti, provedene tehničke ispravke i jesu li pogođene osobe obaviještene. Takvi podatci ujedno bi drugim kompanijama pomogli procijeniti vlastite integracije.
Cathedral je prikupio 160 milijuna dolara i radi za tri američke savezne agencije, pa nalaz ima posljedice i za način na koji država nabavlja testiranje AI sustava. Ugovori trebaju jasno odrediti dopuštene tehnike, granice pristupa i postupak kada istraživač pronađe osjetljive osobne podatke.
Incident pokazuje zašto inventar integracija mora uključivati stvarne ovlasti, ne samo naziv aplikacije. Administrator treba moći odgovoriti kojim zapisima pojedini token pristupa, kada je posljednji put korišten i može li se opozvati bez prekida cijelog poslovnog procesa.
Američki developeri umjetne inteligencije ponovno mogu britanskom AI Security Instituteu dati rani pristup novim modelima radi sigurnosnog testiranja, objavljeno je tijekom noći 12. listopada. Administracija Donalda Trumpa time je, prema Telegraphu i Reutersu, povukla raniji zahtjev OpenAI-ju, Anthropicu i drugim kompanijama da modele ne dijele s britanskom vladom prije objave.
Istraživačima američke sigurnosne tvrtke Cathedral trebalo je manje od 12 sati da uz pomoć AI agenata otkriju slabosti u poslovnom softveru povezanom s Anthropicom. Iskoristili su ih za pristup dijelu internih sustava. Anthropic je potom isključio pogođenu uslugu, obavijestio nadležna tijela i istražio kakvim su podatcima istraživači mogli pristupiti.
Podaci iz Norveške, Švedske, Danske, Engleske i australske savezne države Novi Južni Wales pokazuju da je na 100.000 vozila zabilježeno između tri i deset puta manje požara električnih automobila, ovisno o državi i promatranom razdoblju.
