Umjetna inteligencija kreira više od polovice spama koji primamo

Umjetna inteligencija trenutnogenerira 51 posto svih spam poruka. No, prema riječima izvanrednog profesora sa Sveučilišta Columbia Asafa Cidona to zasad nije razlog za zabrinutost - sve dok AI-generirani spam ostaje temeljen na tekstu.

To je otkriveno u novom istraživanju tvrtke Barracuda, provedenom u suradnji s istraživačima sa Sveučilišta Columbia i Sveučilišta u Chicagu.

Ali, primijetile su se dvije stvari... Napadači koriste A/B testiranje različitih verzija prijevara uz pomoć AI-ja kako bi stvorili poruke koje imaju najveći učinak.

I, umjesto da poruke učine emocionalno manipulativnijima ili hitnijima, AI se većinom koristi za generiranje velikih količina jezično ispravnog teksta, bez tipfelera.

"Rezultati pokazuju da napadači trenutno primarno koriste umjetnu inteligenciju kako bi zaobišli spam filtre i smanjili gramatičke pogreške i tipfelere", rekao je Wei Hao, doktorand računalnih znanosti na Sveučilištu Columbia i glavni autor studije.

Njegov mentor Asaf Cidon,dodao je kako su istraživači bili ugodno iznenađeni time što su mogli točno procijeniti učestalost korištenja AI-ja u spam porukama koje kreiraju cyber-kriminalci.

"Dosad su gotovo sva istraživanja na ovu temu bila anegdotalna i spekulativna. Za sada nema razloga za zabrinutost zbog AI-generiranog spama, dok god ostaje isključivo tekstualan."

Studija ipak bilježi da AI ima sve veću ulogu u ciljanima poslovnim email prijevarama (BEC napadi) - iako trenutno čini oko 14 posto takvih pokušaja.

Međutim, brza prilagodba napadača i prihvaćanje AI-ja je zabrinjavajuća, naglašava Cidon, posebno s obzirom na eksponencijalno smanjenje troškova i povećanje učinkovitosti multimodalnih modela, kao i na nagli porast jeftinih i učinkovitih modela za kloniranje glasa i pretvorbu teksta u govor.

"Kada ti modeli postanu široko dostupni napadačima. Bojim se da ćemo svjedočiti daleko učinkovitijim napadima lažnog predstavljanja u BEC stilu."

Kako bi razlikovali AI-generirane poruke od onih koje su napisali ljudi, istraživači su istrenirali model na spam podacima koji su nastali prije pojave ChatGPT-a, a zatim ga koristili kao referentnu točku za otkrivanje AI-generiranih poruka u stvarnim uzorcima.

Model je primijenjen na veliku bazu podataka zlonamjernih emailova od početka 2022. do travnja 2025., prateći kako su se ton i struktura mijenjali nakon što je generativni AI postao široko dostupan.