Altman: Netko će uskoro iskoristiti glasovnu digitalnu autentifikaciju

Izvršni direktor OpenAI-a Sam Altman,upozorio je direktore s Wall Streeta da bi zlonamjerni akteri mogli iskoristiti digitalnu autentifikaciju putem glasa za prijevaru potrošača omogućujući velike prijenose novca, što opisuje kao nadolazeću krizu prijevara.

"Vrlo sam zabrinut da nam prijeti velika i nadolazeća kriza prijevara", rekao je Altman tijekom konferencije o bankarskoj regulativi.

Tijekom panela koji je moderirala Michelle Bowman, zamjenica predsjednika Federalnih rezervi za nadzor, Altman je izjavio kako je jedna od njegovih najvećih briga činjenica da neke financijske institucije prihvaćaju digitalnu glasovnu autentifikaciju kao sredstvo potvrde identiteta za velike novčane transakcije.

Posebno je naglasio zabrinutost zbog lažne autentifikacije.

"Neki zlonamjernik će to uskoro pustiti van – to nije posebno teško za napraviti. To dolazi vrlo, vrlo brzo."

Ova zabrinutost nije nova – stručnjaci iz industrije već godinama upozoravaju na slične rizike.

U lipnju 2024., Udruženje ovlaštenih ispitivača prijevara (ACFE), najveća svjetska organizacija za borbu protiv prijevara, raspravljala je o tome kako se umjetna inteligencija može koristiti za oponašanje nečijeg glasa s nevjerojatnom preciznošću.

"Ova tehnologija koristi sofisticirane algoritme i neuronske mreže za analizu i imitaciju govornog obrasca, tona i ritma ciljanog pojedinca. Iako su deepfake sadržaji započeli s vizualnim materijalima, poput lažnih videozapisa slavnih osoba ili političara, napredak u zvučnim deepfakeovima sada predstavlja ozbiljnu prijetnju", napisali su iz ACFE-a, napominjući kako zloupotreba glasova generiranih umjetnom inteligencijom može dovesti do ozbiljnih posljedica, uključujući neovlaštene financijske transakcije.

Na RSA konferenciji 2025. u San Franciscu, koja se održala ranije ove godine, deseci tisuća stručnjaka za kibernetičku sigurnost i tehnologiju okupili su se kako bi razgovarali o tome kako umjetna inteligencija brzo mijenja krajobraz kibernetičke sigurnosti.

Tijekom konferencije raspravljalo se o tome kako tehnologija ne samo da ubrzava brzinu kibernetičkih napada – gdje hakeri često ulaze u sustave unutar jednog sata – već kriminalcima pruža i nove načine za stvaranje iznimno uvjerljivih i personaliziranih napada u dosad neviđenom opsegu, prema savjetodavnoj tvrtki McKinsey.

Kako bi otkrila, spriječila i zaustavila imitacije temeljene na umjetnoj inteligenciji, Američka komisija za trgovinu (FTC) poduzela je niz preventivnih mjera. Među njima je i donošenje pravila prošle godine za borbu protiv lažnog predstavljanja vladinih tijela i poduzeća. Također je pokrenula izazov za kloniranje glasa, s ciljem razvoja ideja za zaštitu potrošača otkrivanjem i zaustavljanjem zloupotrebe softvera za kloniranje glasa od strane neovlaštenih korisnika, navodi FTC.