OpenAI briše račune koji koriste ChatGPT za dezinformacije i kriminal

OpenAI je uklonio brojne korisničke račune diljem svijeta nakon što je posumnjao da se ChatGPT koristi u zlonamjerne svrhe, navodi se u novom izvješću.

Prevaranti sve više koriste AI za poboljšanje napada, ističe OpenAI u izvješću gdje se opisuje AI trendove i metode koje koriste zlonamjerni akteri, uključujući studije slučaja napada koje je tvrtka spriječila. ChatGPT, koji ima više od 400 milijuna aktivnih korisnika tjedno, besplatno je dostupan globalno.

U izvješću OpenAI navodi da je više puta uočio prijetnje u kojima se AI koristi za više zadataka istovremeno, od ispravljanja programskog koda do generiranja sadržaja za objavu na različitim distribucijskim platformama.

"Iako nijedan subjekt nema monopol na otkrivanje prijetnji, povezivanje računa i obrazaca ponašanja omogućilo nam je da u nekim slučajevima identificiramo ranije neprijavljene veze između naizgled nepovezanih aktivnosti na različitim platformama", stoji u izvješću.

Među slučajevima koje je OpenAI otkrio, tvrtka je nedavno zabranila ChatGPT račun koji je generirao novinske članke s ciljem diskreditacije SAD-a. Ti su članci potom objavljeni u mainstream medijima u Latinskoj Americi pod imenom kineske tvrtke.

Osim toga, OpenAI je zabranio račune koji su navodno potekli iz Sjeverne Koreje, a koristili su AI za generiranje životopisa i online profila izmišljenih kandidata za posao. Tvrtka sumnja da su ti profili stvoreni u pokušaju dobivanja poslova u zapadnim kompanijama.

U drugom slučaju, OpenAI je identificirao grupu računa potencijalno povezanih s Kambodžom, koji su koristili ChatGPT za prevođenje i generiranje komentara u okviru romantične prevare na društvenim mrežama i komunikacijskim platformama, uključujući X, Facebook i Instagram.

Izvješće donosi i nekoliko drugih primjera blokiranih aktivnosti, no ne navodi točan broj desetaka uklonjenih računa niti vremenski okvir u kojem su uklonjeni.