Europol upozorava na potencijalnu kriminalnu upotrebu ChatGPT-a

Kao odgovor na sve veću pozornost javnosti koja se pridaje ChatGPT-u, Europolov Innovation Lab organizirao je nekoliko radionica. Njihovi stručnjaci istražili su kako kriminalci mogu zlorabiti velike jezične modele (LLM) kao što je ChatGPT, kao i kako to može pomoći istražiteljima u njihovom svakodnevnom radu.

Analize se nalaze u Europolovom prvom izvješću Tech Watch Flash. Pod naslovom "ChatGPT - utjecaj modela jezika na provedbu zakona", ovaj dokument daje pregled potencijalne zlouporabe ChatGPT-a i nudi pogled na ono što bi moglo tek uslijediti. Ovo izvješće ima za cilj podići svijest o potencijalnoj zlouporabi LLM-a, otvoriti dijalog s AI tvrtkama kako bi im se pomoglo u izgradnji boljih zaštitnih mjera i promicati razvoj sigurnih i pouzdanih AI sustava. Dulja i detaljnija verzija ovog izvješća izrađena je samo za provedbu zakona.

Veliki jezični model vrsta je AI sustava koji može obrađivati, manipulirati i generirati tekst. Obuka LLM-a uključuje davanje velike količine podataka, kao što su knjige, članci i web stranice kako bi mogao naučiti obrasce i veze između riječi za generiranje novog sadržaja. ChatGPT je LLM koji je razvio OpenAI i objavljen široj javnosti kao dio pregleda istraživanja u studenom 2022. Trenutačni javno dostupni model koji je u osnovi ChatGPT-a sposoban je za obradu i generiranje ljudskog teksta kao odgovor na upite korisnika. Točnije, model može odgovarati na pitanja o različitim temama, prevoditi tekst, sudjelovati u razgovoru ('chatanje'), generirati novi sadržaj i proizvesti funkcionalni kod.

Budući da se mogućnosti LLM-a kao što je ChatGPT aktivno poboljšavaju, potencijalno iskorištavanje ove vrste AI sustava od strane kriminalaca daje mračnu perspektivu. Sljedeća tri područja kriminala su među mnogim područjima zabrinutosti koje su identificirali Europolovi stručnjaci.

1. Prijevara i društveni inženjering: sposobnost ChatGPT-a za izradu vrlo realističnog teksta čini ga korisnim alatom za phishing svrhe. Sposobnost LLM-a da ponovno proizvedu jezične obrasce može se koristiti za oponašanje stila govora određenih pojedinaca ili grupa. Ta se sposobnost može zlouporabiti u velikim razmjerima kako bi se potencijalne žrtve dovele u zabludu da povjere svoje povjerenje u ruke kriminalnih aktera.
2. Dezinformacija: ChatGPT se ističe u stvaranju teksta koji zvuči autentično brzinom i razmjerom. To čini model idealnim za propagandne i dezinformacijske svrhe, budući da korisnicima omogućuje generiranje i širenje poruka koje odražavaju specifičan narativ uz relativno malo truda.
3. Cyber kriminal: Osim generiranja jezika sličnog ljudskom, ChatGPT je sposoban proizvesti kod u nekoliko različitih programskih jezika. Za potencijalnog kriminalca s malo tehničkog znanja ovo je neprocjenjiv izvor za proizvodnju zlonamjernog koda.