Bivši američki predsjednik Donald Trump pozira s crnim glasačima, predsjednik Joe Biden odvraća ljude od glasovanja putem telefona ili Papa u pufnastom bijelom sakou: Deepfakeovi videa, fotografija i audio zapisa postali su rašireni na raznim internetskim platformama, potpomognuti tehnološkim napretkom veliki jezični modeli kao što su Midjourney, Googleov Gemini ili OpenAI-jev ChatGPT.
S pravim brzim finim podešavanjem, svatko može stvoriti naizgled stvarne slike ili natjerati glasove istaknutih političkih ili gospodarskih osoba i zabavljača da kažu što god žele. Iako stvaranje deepfakea samo po sebi nije kazneno djelo, mnoge vlade svejedno kreću prema strožim propisima kada koriste umjetnu inteligenciju kako bi spriječile štetu uključenim stranama.
Osim glavne avenije deepfakea, stvaranja pornografskog sadržaja bez pristanka koji uključuje uglavnom slavne osobe, ova se tehnologija također može koristiti za počinjenje prijevare identiteta izradom lažnih osobnih iskaznica ili lažnim predstavljanjem drugih putem telefona. Kao što pokazuje naš grafikon temeljen na najnovijem godišnjem izvješću pružatelja usluge provjere identiteta Sumsub, slučajevi prijevare identiteta vezani uz deepfake naglo su porasli između 2022. i 2023. u mnogim zemljama diljem svijeta.
Na primjer, broj pokušaja prijevare na Filipinima porastao je za 4500 posto iz godine u godinu, a slijede zemlje poput Vijetnama, Sjedinjenih Država i Belgije. S mogućnostima takozvane umjetne inteligencije koje se potencijalno još više povećavaju, kao što dokazuju proizvodi poput AI video generatora Sora, pokušaji lažnih prijevara mogli bi se preliti i na druga područja. "Vidjeli smo da deepfakeovi postaju sve uvjerljiviji posljednjih godina i to će se samo nastaviti i razgranati u nove vrste prijevara, kao što se vidi s glasovnim deepfakeovima", kaže Pavel Goldman-Kalaydin, Sumsubov voditelj umjetne inteligencije i strojnog učenja, u spomenutom izvješću. "I potrošači i tvrtke trebaju ostati hiper-budni prema sintetičkim prijevarama i tražiti višeslojna rješenja za borbu protiv prijevara, a ne samo otkrivanje deepfakea."
Ove procjene dijele mnogi stručnjaci za kibernetičku sigurnost. Na primjer, anketa među 199 voditelja kibersigurnosti koji su sudjelovali na Godišnjem sastanku o kibernetičkoj sigurnosti Svjetskog ekonomskog foruma 2023. pokazala je da je 46 posto ispitanika najviše zabrinuto zbog "napretka suparničkih mogućnosti – krađe identiteta, razvoja zlonamjernog softvera, dubokih lažiranja" u smislu rizika koje umjetna inteligencija predstavlja za kibernetičku sigurnost u budućnosti.
Anthropic je 10. rujna objavio da je tijekom osam mjeseci prekinuo više zlonamjernih uporaba modela Claude, uključujući navodnu rusku špijunsku kampanju i pokušaje sedam kineskih AI laboratorija da izvuku i kopiraju njegove sposobnosti. Najveći slučaj koji kompanija pripisuje operaterima povezanim s Alibabom obuhvatio je više od 151 milijun razmjena između svibnja i srpnja, s vrhom blizu tri milijuna dnevno preko više od 3 500 računa.
Francuska se namjerava pridružiti sve većem broju država koje djeci žele zabraniti pristup društvenim mrežama. Međutim, njezine je planove usporila odluka najvišeg ustavnog tijela u zemlji.
Prošireno rješenje uvodi novi jedinstveni pokazatelj prijevare (fraud score) – prvu Visa-inu integraciju tehnologije tvrtke Featurespace dostupnu na tržištu – pružajući financijskim institucijama brže i jasnije signale za otkrivanje većeg broja prijevara uz istodobno smanjenje broja nepotrebnih upozorenja.
