Anthropic uvodi Claude Security u javnu betu AI koji pronalazi ranjivosti brže od stručnjaka

Anthropic je lansirao Claude Security u javnoj beti za Enterprise korisnike, čime AI model za prvu put dobiva formalan produkt koji je eksplicitno pozicioniran kao obrambeni sigurnosni alat, a ne samo produktivnostni asistent. Claude Security skenira kodne repozitorije, identificira ranjivosti, predlaže zakrpe i generira sigurnosne analize u prirodnom jeziku  s brzinom i konzistencijom koja nadilazi kapacitete ljudskih sigurnosnih timova za rutinska skeniranja.

Daleko kontroverzniji je interni model koji Anthropic naziva Claude Mythos. Prema informacijama koje su procurele i koje je analizirao BBC i CSO Online, Claude Mythos navodno ima sposobnost pronalaska software ranjivosti na razini koja "nadilazi mnoge ljudske stručnjake"  Anthropic sam tvrdi da je model u internom testiranju identificirao tisuće visokorizičnih ranjivosti i sklopio partnerstvo s više od 40 organizacija za koordinirano zakrpavanje prije nego što ranjivosti postanu javno poznate. CSO Online izvještava da su bankovni regulatori u SAD-u i Ujedinjenom Kraljevstvu od svojih nadležnih institucija zatražili hitnu procjenu rizika koje ovakav model nosi ako dospije u ruke loših aktera.

Ovo je fundametalna napetost u AI sigurnosnom prostoru: isti model koji može automatizirati obranu može jednako lako automatizirati napad, i to na brzini i obujmu koji bi preplavio svaki obrambeni SOC. Anthropic je svjestan ove napetosti i svjesno je odabrao pristup "responsible disclosure partnerstava"  umjesto javnog lansiranja Mythos-a, kompanija ga distribuira selektivno organizacijama koje mogu zakrpati ranjivosti prije nego postanu eksploatabilne. Ova strategija nije bez kritika: neke organizacije iz sigurnosne zajednice smatraju da ovakav pristup centralizira previše moći u rukama jednog komercijalnog aktera.

Microsoft je paralelno lansirao Zero Trust for AI (ZT4AI) okvir koji identificira "over-privileged AI agente" kao novu sigurnosnu kategoriju. Flowise CVSS 10.0 ranjivost exploitana prošli tjedan pokazuje da AI razvojne alate napadači već tretiraju kao visokoprioritetan ulazni vektor. Kombinacija Claude Security, ZT4AI i rastuće eksploatacije AI infrastrukture jasno signalizira da AI sigurnost više nije nišna disciplina  to je mainstream enterprise rizik koji CISO-ovi moraju staviti u top prioritete.