Bivši američki predsjednik Donald Trump pozira s crnim glasačima, predsjednik Joe Biden odvraća ljude od glasovanja putem telefona ili Papa u pufnastom bijelom sakou: Deepfakeovi videa, fotografija i audio zapisa postali su rašireni na raznim internetskim platformama, potpomognuti tehnološkim napretkom veliki jezični modeli kao što su Midjourney, Googleov Gemini ili OpenAI-jev ChatGPT.
S pravim brzim finim podešavanjem, svatko može stvoriti naizgled stvarne slike ili natjerati glasove istaknutih političkih ili gospodarskih osoba i zabavljača da kažu što god žele. Iako stvaranje deepfakea samo po sebi nije kazneno djelo, mnoge vlade svejedno kreću prema strožim propisima kada koriste umjetnu inteligenciju kako bi spriječile štetu uključenim stranama.
Osim glavne avenije deepfakea, stvaranja pornografskog sadržaja bez pristanka koji uključuje uglavnom slavne osobe, ova se tehnologija također može koristiti za počinjenje prijevare identiteta izradom lažnih osobnih iskaznica ili lažnim predstavljanjem drugih putem telefona. Kao što pokazuje naš grafikon temeljen na najnovijem godišnjem izvješću pružatelja usluge provjere identiteta Sumsub, slučajevi prijevare identiteta vezani uz deepfake naglo su porasli između 2022. i 2023. u mnogim zemljama diljem svijeta.
Na primjer, broj pokušaja prijevare na Filipinima porastao je za 4500 posto iz godine u godinu, a slijede zemlje poput Vijetnama, Sjedinjenih Država i Belgije. S mogućnostima takozvane umjetne inteligencije koje se potencijalno još više povećavaju, kao što dokazuju proizvodi poput AI video generatora Sora, pokušaji lažnih prijevara mogli bi se preliti i na druga područja. "Vidjeli smo da deepfakeovi postaju sve uvjerljiviji posljednjih godina i to će se samo nastaviti i razgranati u nove vrste prijevara, kao što se vidi s glasovnim deepfakeovima", kaže Pavel Goldman-Kalaydin, Sumsubov voditelj umjetne inteligencije i strojnog učenja, u spomenutom izvješću. "I potrošači i tvrtke trebaju ostati hiper-budni prema sintetičkim prijevarama i tražiti višeslojna rješenja za borbu protiv prijevara, a ne samo otkrivanje deepfakea."
Ove procjene dijele mnogi stručnjaci za kibernetičku sigurnost. Na primjer, anketa među 199 voditelja kibersigurnosti koji su sudjelovali na Godišnjem sastanku o kibernetičkoj sigurnosti Svjetskog ekonomskog foruma 2023. pokazala je da je 46 posto ispitanika najviše zabrinuto zbog "napretka suparničkih mogućnosti – krađe identiteta, razvoja zlonamjernog softvera, dubokih lažiranja" u smislu rizika koje umjetna inteligencija predstavlja za kibernetičku sigurnost u budućnosti.
Kibernetički napad na tvrtku MyDr, jednog od najvećih poljskih pružatelja sustava za elektroničku medicinsku dokumentaciju, pretvorio je pitanje kibernetičke sigurnosti zdravstva u problem koji se izravno tiče gotovo polovice stanovništva Poljske. Poljske vlasti 12. kolovoza objavile su da curenje podataka može obuhvatiti blizu 19 milijuna građana, a ukradena baza veća je od dva terabajta. Napadači su ranije tvrdili da raspolažu podacima povezanima s više od 18,8 milijuna jedinstvenih PESEL identifikacijskih brojeva. Sustav MyDr koristi oko 12.000 zdravstvenih ustanova, koje su, prema posljednjim informacijama poljskih vlasti, nastavile s normalnim radom.
Policijski službenici Policijske postaje Orahovica istražuju prijevaru u kojoj je 75-godišnjak ostao bez oko 120.000 eura nakon što se javio na oglas za trgovanje kriptovalutama. Slučaj je policiji prijavio nakon što mu, unatoč višestrukim uplatama i obećanjima o velikoj zaradi, navodna dobit nikada nije isplaćena. Prema kaznenoj prijavi koju je zaprimila policija, sve je počelo sredinom srpnja 2026. godine kada se oštećeni javio na oglas za trgovanje kriptovalutama. Nakon toga kontaktirao ga je navodni broker koji je od njega zatražio podatke bankovne kartice.
Globalna industrija zabave i medija (E&M) dosegnut će 4,2 bilijuna dolara prihoda 2030. godine, uz rast po prosječnoj godišnjoj stopi od 3,4 posto, pri čemu će rast industrije poticati oglašavanje pogonjeno umjetnom inteligencijom i fizička, živa iskustva, navodi PwC. Izvješće, koje prati globalni rast u 12 sektora zabave i medija te u 53 zemlje i teritorija, pokazuje da će širenje tržišta do 2030. donijeti 600 milijardi dolara novih prihoda, pri čemu će najveći dio rasta dolaziti iz digitalnih ekosustava.
