Anthropic uvodi nove zaštite protiv kopiranja Claudeovih AI modela

Anthropic je 12. listopada objavio da je novim zaštitama smanjio količinu korisnih podataka o rezoniranju koju napadači mogu izvući iz Claudea za faktor od deset do sto, odnosno približno 90 do 99 posto. Reuters je izvijestio o nalazima u 3:07 po zagrebačkom vremenu, unutar jutarnjeg prozora.

Meta je destilacija: protivnik otvara velik broj lažnih ili posredničkih računa, šalje modelu sustavno oblikovane upite i izlaze koristi za treniranje vlastitog modela. Takva kampanja ne mora probiti poslužitelj; ona zloupotrebljava legitimno sučelje i pretvara plaćene odgovore u skup za učenje konkurentskog sustava.

Prvi sloj obrane ograničava pristup očuvanom rezoniranju. Anthropic navodi da novi API računi otvoreni nakon 31. kolovoza ne mogu mijenjati raniji kontekst na način koji bi otkrio skrivene korake razmišljanja modela Fable 5.1 i Opus 5.5. Slabiji modeli i povezani računi također ne dobivaju neograničen uvid u taj sadržaj.

Drugi sloj su klasifikatori koji traže obrasce masovnog ispitivanja. Sustav koristi dvije faze kako bi smanjio broj pogrešnih blokada, a tvrtka navodi stopu lažno pozitivnih odluka manju od 0,1 posto. Poznate tehnike otkriva dovoljno brzo da se račun često ugasi unutar dva sata, prije nego što kampanja prikupi cjelovit skup podataka.

Anthropic kaže da je zatvorio desetke tisuća računa i odbio prihod od bilijuna tokena. Ta tvrdnja dolazi od samog dobavljača i nije neovisno revidirana, ali opisuje važan ekonomski izbor: kratkoročna potrošnja API-ja može izgledati kao rast dok zapravo financira kopiranje proizvoda i povećava budući konkurentski rizik.

Od 24. rujna tvrtka naplaćuje i dio blokiranih zahtjeva kada klasifikator radi s manje od 0,1 posto pogrešnih odluka. Time napadaču poskupljuje pokušaj, no legitimni kupac treba jasnu mogućnost žalbe. Bez transparentnog postupka račun može ostati bez usluge i platiti promet koji nije dobio, osobito kada automatizirani testovi nalikuju destilaciji.

Zaštita ima i cijenu u kvaliteti. Na testu SWE-bench Verified sažeto rezoniranje ostvarilo je 71,8 posto, a puni prikaz 80,4 posto. Razlika pokazuje zašto razvojni timovi žele bogate tragove pri otklanjanju pogrešaka. Dobavljač mora odvojiti dovoljno objašnjenja za provjeru rezultata od detalja koji olakšavaju rekonstrukciju modela.

Integratori će morati provjeriti oslanjaju li se njihovi radni tokovi na uređivanje starog konteksta ili prijenos rezoniranja među računima i modelima. Promjena je sigurnosna, ali može prekinuti legitimne agentske sustave koji vraćaju prethodne poruke radi ispravka. Anthropic zato dokumentira alternativne obrasce, no stvarni trošak migracije ovisit će o svakoj aplikaciji.

Sljedeća provjera bit će učinkovitost protiv novih tehnika, a ne samo poznatih kampanja. Napadači mogu rasporediti promet, mijenjati jezik i kombinirati izlaze više modela. Anthropic će morati objavljivati mjerljive rezultate, broj uspješnih žalbi i učinak na pouzdanost API-ja kako bi kupci razlikovali sigurnosni napredak od jednostavnog zatvaranja pristupa.

Za kupce je bitno i razdvajanje sigurnosnog nadzora od poslovne analitike. Isti podaci o prometu mogu otkriti zloupotrebu, ali i osjetljive obrasce razvoja proizvoda. Ugovor treba odrediti koliko dugo se metapodaci čuvaju, tko ih pregledava i smiju li se koristiti za treniranje. Tvrtke koje provode vlastite evaluacije trebaju unaprijed prijaviti opseg kako testiranje ne bi bilo pogrešno označeno kao destilacija. Dostupni izvori ne objavljuju dodatne financijske projekcije, pa će učinak trebati mjeriti prema sljedećim provjerenim rezultatima i rokovima.

Dostupni izvori ne objavljuju dodatne financijske projekcije, pa će učinak trebati mjeriti prema sljedećim provjerenim rezultatima i rokovima. Dostupni izvori ne objavljuju dodatne financijske projekcije, pa će učinak trebati mjeriti prema sljedećim provjerenim rezultatima i rokovima. Dostupni izvori ne objavljuju dodatne financijske projekcije, pa će učinak trebati mjeriti prema sljedećim provjerenim rezultatima i rokovima.