AI omogućuje prevarantima da budu ispred sigurnosnih mjera i počine sofisticirane napade većih razmjera. Stvaranjem vjerodostojnih poruka i velikog broja sintetičkih identiteta, AI omogućuje kvalitetnije napade s neviđenom učestalošću
Nova studija Juniper Researcha otkrila je da će vrijednost prijevare u e-trgovini porasti s 44,3 milijarde dolara 2024. na 107 milijardi dolara 2029. To predstavlja rast od 141 posto.
Studija je otkrila da umjetna inteligencija potiče sofisticiranost napada u ekosustavu e-trgovine, pri čemu je ključna prijetnja upotreba deepfakeova stvorenih pomoću umjetne inteligencije za poraz sustava verifikacije. Ova prijetnja, u kombinaciji s rastućim razinama "prijateljske prijevare", gdje prijevaru počini sam kupac, kao što je prijevara s povratom novca, sve više prijeti profitabilnosti trgovca.
AI omogućuje prevarantima da budu ispred sigurnosnih mjera i počine sofisticirane napade većih razmjera. Stvaranjem vjerodostojnih poruka i velikog broja sintetičkih identiteta, AI omogućuje kvalitetnije napade s neviđenom učestalošću. Te su tehnologije također vrlo skalabilne; osnaživanje prevaranata da uvelike automatiziraju svoje napade i nadjačaju sustave za prevenciju temeljene na pravilima.
“Trgovci e-trgovinom moraju nastojati integrirati sustave za sprječavanje prijevara koji nude AI mogućnosti za brzo prepoznavanje novih taktika. To će se pokazati posebno važnim na razvijenim tržištima, gdje su veći trgovci izloženi većem riziku da budu meta prijevare, kao što je testiranje ukradenih kreditnih kartica,” rekao je autor izvješća Thomas Wilson.
Trgovci koriste te iste tehnologije kako bi prepoznali nove obrasce prijevare i reagirali u stvarnom vremenu. Trgovci moraju raditi na uključivanju biometrijske identifikacije u procese plaćanja kako bi dodatno osigurali transakcije. Korištenjem metoda kao što je detekcija živosti, trgovci će moći zaštititi svoje poslovanje i kupce od sve sofisticiranijih pokušaja prijevare AI deepfake.
Direktor tvrtke Gordan Palić izjavio je povodom lansiranja da su gledali kako talentirani ljudi iz Hrvatske i regije rintaju mjesecima stvarajući sjajan digitalni sadržaj, da bi ih onda preko noći uništila neka promjena algoritma u Kaliforniji, što je suludo, te da su zato htjeli stvoriti platformu gdje nitko ne stoji između autora i njegove publike.
Sigurnosni istraživači otkrili su kako je zlonamjerna datoteka AGENTS.md, neprimjetno spremljena u korisnikovu mapu Downloads, navela AI programerskog agenta da instalira lažni npm paket. Pritom glavna slabost nije bila klasičan propust modela nego automatsko povjerenje u lokalne upute pronađene u radnom direktoriju.
OpenAI je u ChatGPT-u uveo strože sigurnosne protokole kojima želi smanjiti rizik od nasilja u stvarnom svijetu i bolje zaštititi maloljetnike. Promjene uključuju dodatna ograničenja pristupa praktičnim informacijama o oružju te mogućnost automatskog prekidanja razgovora u slučajevima zabrinjavajućih obrazaca ponašanja.