Rezultati pretraživanja za pojam: Mythos

Claude Mythos otvara pitanje tko nadzire modele koji mogu pronaći i povezati ranjivosti

Claude Mythos otvara pitanje tko nadzire modele koji mogu pronaći i povezati ranjivosti

Claude Mythos Preview nije samo još jedan napredni AI model za programiranje. Anthropic ga predstavlja kao model posebno snažan u agentskim i kibernetičkim zadacima, odnosno u poslovima u kojima treba razumjeti složen softver, pronaći slabosti, provjeriti njihov stvarni sigurnosni učinak i pomoći u izradi popravaka. Upravo zato Mythos otvara jedno od najvažnijih pitanja nove faze umjetne inteligencije u sigurnosti: tko nadzire modele koji mogu pronaći ranjivost, objasniti njezin učinak i povezati je s drugim slabostima u funkcionalan napadni lanac.

Anthropicov Mythos i Project Glasswing pomiču granicu između obrane i ofenzive u AI kibernetici

Anthropicov Mythos i Project Glasswing pomiču granicu između obrane i ofenzive u AI kibernetici

Anthropicov Mythos Preview i prateći program Project Glasswing vjerojatno su trenutačno najčišći primjer koliko je tanka granica između napredne obrambene i potencijalno ofenzivne AI kibernetike. Tvrtka tvrdi da model nije za javnu distribuciju i da ga u kontroliranim uvjetima stavlja na raspolaganje partnerima kako bi otkrivali i popravljali ranjivosti u kritičnim sustavima, no istodobno i sama priznaje da je riječ o sposobnosti koja je izazvala interes i zabrinutost državnih aktera.