U nekim slučajevima, napadi se dogode za samo četiri sekunde.
Istraživanje je pokazalo da napadi na generativne AI modele, gdje se modeli instruiraju da zanemare svoje sigurnosne mjere, uspijevaju u 20 posto slučajeva. Napadačima u prosjeku treba samo 42 sekunde i pet interakcija kako bi probili zaštitu.
U nekim slučajevima, napadi se dogode za samo četiri sekunde. Ovi rezultati ističu značajne ranjivosti u trenutnim GenAI algoritmima i poteškoće u sprečavanju eksploatacija u stvarnom vremenu. Od uspješnih napada, 90 posto dovodi do curenja osjetljivih podataka, prema izvješću "State of Attacks on GenAI" koje je objavila tvrtka za AI sigurnost, Pillar Security. Istraživači su analizirali napade "u divljini" na više od 2000 AI aplikacija u produkciji tijekom protekla tri mjeseca.
Najviše napadane AI aplikacije - koje čine četvrtinu svih napada - su one koje koriste timovi korisničke podrške zbog njihove široke upotrebe i ključne uloge u angažmanu s korisnicima. Međutim, AI modeli korišteni u drugim sektorima kritične infrastrukture, poput energetike i softvera za inženjering, također su suočeni s najvišim učestalostima napada.
Kompromitiranje kritične infrastrukture može dovesti do široko rasprostranjenih poremećaja, čime postaje glavni cilj kibernetičkih napada. Nedavno izvješće Malwarebytesa pokazalo je da je sektor usluga najviše pogođen ransomware napadima, čineći gotovo četvrtinu globalnih napada. Najviše napadan komercijalni model je OpenAI-ev GPT-4, vjerojatno zbog njegove široke primjene i vrhunskih mogućnosti koje privlače napadače. Meta-in Llama-3 je najnapadaniji open-source model.
Svatko može pokrenuti napad bez specijaliziranih alata ili stručnosti. I kako malware postaje sve opasniji, njihova će se učestalost neizbježno povećavati. Takvi napadi trenutno su navedeni kao glavna sigurnosna ranjivost na OWASP-ovoj Top 10 listi za LLM aplikacije.
Uočeno je da se često pokušavaju jailbreakati GenAI aplikacije, a neki koriste specijalizirane alate koji bombardiraju modele velikim količinama napada. Ranjivosti su također bile eksploatirane na svakoj razini životnog ciklusa interakcije s LLM-om, uključujući promptove, generiranje uz pomoć pretraživanja (Retrieval-Augmented Generation), izlaz alata i odgovor modela.
Nizozemsko tijelo za zaštitu podataka kaznilo je Uber s 825 milijuna eura zbog automatiziranog suspendiranja i deaktiviranja računa europskih vozača bez dovoljnog informiranja i značajne ljudske provjere. Odluka od 17. kolovoza, koju je regulator potvrdio Reutersu 21. kolovoza, obuhvaća incidente od 2020. do 2022. Uber je najavio žalbu, pa kazna i činjenični nalazi još nisu pravomoćni.
Google, Meta, Snap i TikTok zatražili su od australskog Senata oprez pri tumačenju ranih podataka prema kojima oko 80 posto maloljetnika i dalje koristi društvene mreže unatoč zabrani računa za mlađe od 16 godina. Čelnici lokalnih podružnica govorili su 14. kolovoza u Canberri pred odborom koji razmatra udvostručenje najveće kazne na 99 milijuna australskih dolara i jače ovlasti eSafety Commissionera.
Američki prizivni sud za Deveti okrug dopustio je nastavak više od 3.000 saveznih tužbi u kojima se Meta, Google, TikTok i Snap terete da su dizajnom društvenih mreža poticali ovisnost mladih. Odluka je objavljena sredinom kolovoza, a sud nije odlučio jesu li kompanije odgovorne, nego je odbio procesni pokušaj da se postupci zaustave prije suđenja.
