Umjetna inteligencija postaje problem

Bivši američki predsjednik Donald Trump pozira s crnim glasačima, predsjednik Joe Biden odvraća ljude od glasovanja putem telefona ili Papa u pufnastom bijelom sakou: Deepfakeovi videa, fotografija i audio zapisa postali su rašireni na raznim internetskim platformama, potpomognuti tehnološkim napretkom veliki jezični modeli kao što su Midjourney, Googleov Gemini ili OpenAI-jev ChatGPT.

S pravim brzim finim podešavanjem, svatko može stvoriti naizgled stvarne slike ili natjerati glasove istaknutih političkih ili gospodarskih osoba i zabavljača da kažu što god žele. Iako stvaranje deepfakea samo po sebi nije kazneno djelo, mnoge vlade svejedno kreću prema strožim propisima kada koriste umjetnu inteligenciju kako bi spriječile štetu uključenim stranama.

Osim glavne avenije deepfakea, stvaranja pornografskog sadržaja bez pristanka koji uključuje uglavnom slavne osobe, ova se tehnologija također može koristiti za počinjenje prijevare identiteta izradom lažnih osobnih iskaznica ili lažnim predstavljanjem drugih putem telefona. Kao što pokazuje naš grafikon temeljen na najnovijem godišnjem izvješću pružatelja usluge provjere identiteta Sumsub, slučajevi prijevare identiteta vezani uz deepfake naglo su porasli između 2022. i 2023. u mnogim zemljama diljem svijeta.

Na primjer, broj pokušaja prijevare na Filipinima porastao je za 4500 posto iz godine u godinu, a slijede zemlje poput Vijetnama, Sjedinjenih Država i Belgije. S mogućnostima takozvane umjetne inteligencije koje se potencijalno još više povećavaju, kao što dokazuju proizvodi poput AI video generatora Sora, pokušaji lažnih prijevara mogli bi se preliti i na druga područja. "Vidjeli smo da deepfakeovi postaju sve uvjerljiviji posljednjih godina i to će se samo nastaviti i razgranati u nove vrste prijevara, kao što se vidi s glasovnim deepfakeovima", kaže Pavel Goldman-Kalaydin, Sumsubov voditelj umjetne inteligencije i strojnog učenja, u spomenutom izvješću. "I potrošači i tvrtke trebaju ostati hiper-budni prema sintetičkim prijevarama i tražiti višeslojna rješenja za borbu protiv prijevara, a ne samo otkrivanje deepfakea."

Ove procjene dijele mnogi stručnjaci za kibernetičku sigurnost. Na primjer, anketa među 199 voditelja kibersigurnosti koji su sudjelovali na Godišnjem sastanku o kibernetičkoj sigurnosti Svjetskog ekonomskog foruma 2023. pokazala je da je 46 posto ispitanika najviše zabrinuto zbog "napretka suparničkih mogućnosti – krađe identiteta, razvoja zlonamjernog softvera, dubokih lažiranja" u smislu rizika koje umjetna inteligencija predstavlja za kibernetičku sigurnost u budućnosti.