Kao odgovor na sve veću pozornost javnosti koja se pridaje ChatGPT-u, Europolov Innovation Lab organizirao je nekoliko radionica. Njihovi stručnjaci istražili su kako kriminalci mogu zlorabiti velike jezične modele (LLM) kao što je ChatGPT, kao i kako to može pomoći istražiteljima u njihovom svakodnevnom radu.
Analize se nalaze u Europolovom prvom izvješću Tech Watch Flash. Pod naslovom "ChatGPT - utjecaj modela jezika na provedbu zakona", ovaj dokument daje pregled potencijalne zlouporabe ChatGPT-a i nudi pogled na ono što bi moglo tek uslijediti. Ovo izvješće ima za cilj podići svijest o potencijalnoj zlouporabi LLM-a, otvoriti dijalog s AI tvrtkama kako bi im se pomoglo u izgradnji boljih zaštitnih mjera i promicati razvoj sigurnih i pouzdanih AI sustava. Dulja i detaljnija verzija ovog izvješća izrađena je samo za provedbu zakona.
Veliki jezični model vrsta je AI sustava koji može obrađivati, manipulirati i generirati tekst. Obuka LLM-a uključuje davanje velike količine podataka, kao što su knjige, članci i web stranice kako bi mogao naučiti obrasce i veze između riječi za generiranje novog sadržaja. ChatGPT je LLM koji je razvio OpenAI i objavljen široj javnosti kao dio pregleda istraživanja u studenom 2022. Trenutačni javno dostupni model koji je u osnovi ChatGPT-a sposoban je za obradu i generiranje ljudskog teksta kao odgovor na upite korisnika. Točnije, model može odgovarati na pitanja o različitim temama, prevoditi tekst, sudjelovati u razgovoru ('chatanje'), generirati novi sadržaj i proizvesti funkcionalni kod.
Budući da se mogućnosti LLM-a kao što je ChatGPT aktivno poboljšavaju, potencijalno iskorištavanje ove vrste AI sustava od strane kriminalaca daje mračnu perspektivu. Sljedeća tri područja kriminala su među mnogim područjima zabrinutosti koje su identificirali Europolovi stručnjaci.
Prijevara i društveni inženjering: sposobnost ChatGPT-a za izradu vrlo realističnog teksta čini ga korisnim alatom za phishing svrhe. Sposobnost LLM-a da ponovno proizvedu jezične obrasce može se koristiti za oponašanje stila govora određenih pojedinaca ili grupa. Ta se sposobnost može zlouporabiti u velikim razmjerima kako bi se potencijalne žrtve dovele u zabludu da povjere svoje povjerenje u ruke kriminalnih aktera.
Dezinformacija: ChatGPT se ističe u stvaranju teksta koji zvuči autentično brzinom i razmjerom. To čini model idealnim za propagandne i dezinformacijske svrhe, budući da korisnicima omogućuje generiranje i širenje poruka koje odražavaju specifičan narativ uz relativno malo truda.
Cyber kriminal: Osim generiranja jezika sličnog ljudskom, ChatGPT je sposoban proizvesti kod u nekoliko različitih programskih jezika. Za potencijalnog kriminalca s malo tehničkog znanja ovo je neprocjenjiv izvor za proizvodnju zlonamjernog koda.
Kibernetički napad na tvrtku MyDr, jednog od najvećih poljskih pružatelja sustava za elektroničku medicinsku dokumentaciju, pretvorio je pitanje kibernetičke sigurnosti zdravstva u problem koji se izravno tiče gotovo polovice stanovništva Poljske. Poljske vlasti 12. kolovoza objavile su da curenje podataka može obuhvatiti blizu 19 milijuna građana, a ukradena baza veća je od dva terabajta. Napadači su ranije tvrdili da raspolažu podacima povezanima s više od 18,8 milijuna jedinstvenih PESEL identifikacijskih brojeva. Sustav MyDr koristi oko 12.000 zdravstvenih ustanova, koje su, prema posljednjim informacijama poljskih vlasti, nastavile s normalnim radom.
Policijski službenici Policijske postaje Orahovica istražuju prijevaru u kojoj je 75-godišnjak ostao bez oko 120.000 eura nakon što se javio na oglas za trgovanje kriptovalutama. Slučaj je policiji prijavio nakon što mu, unatoč višestrukim uplatama i obećanjima o velikoj zaradi, navodna dobit nikada nije isplaćena. Prema kaznenoj prijavi koju je zaprimila policija, sve je počelo sredinom srpnja 2026. godine kada se oštećeni javio na oglas za trgovanje kriptovalutama. Nakon toga kontaktirao ga je navodni broker koji je od njega zatražio podatke bankovne kartice.
Globalna industrija zabave i medija (E&M) dosegnut će 4,2 bilijuna dolara prihoda 2030. godine, uz rast po prosječnoj godišnjoj stopi od 3,4 posto, pri čemu će rast industrije poticati oglašavanje pogonjeno umjetnom inteligencijom i fizička, živa iskustva, navodi PwC. Izvješće, koje prati globalni rast u 12 sektora zabave i medija te u 53 zemlje i teritorija, pokazuje da će širenje tržišta do 2030. donijeti 600 milijardi dolara novih prihoda, pri čemu će najveći dio rasta dolaziti iz digitalnih ekosustava.
