KONAČNO POTVRĐENO

OpenAI priznaje: Detektori za sadržaj napisan uz AI ne rade

OpenAI priznaje: Detektori za sadržaj napisan uz AI ne rade
Depositphotos

OpenAI je početkom kolovoza službeno priznao da detektori za sadržaj kreiran umjetnom inteligencijom ne rade, što znači da u obrazovnom sustavu ne postoji način u tom smislu za razotkrivanje onih koji nisu sami nešto napisali.

"Nijedan od njih nije dokazao da pouzdano razlikuje između sadržaja generiranog umjetnom inteligencijom i sadržaja generiranog od strane ljudi", naveli su iz OpenAI-ja.

Svejedno, "AI detektori" se i dalje koriste iako često daju lažno pozitivne rezultate jer se oslanjaju na neprovjerene metrike detekcije. U konačnici, nema ničeg posebno različitog u tekstovima napisanima umjetnom inteligencijom u odnosu od od onoga što je napisao čovjek. Stoga, detektori se mogu pobijediti preoblikovanjem.

Baš zato je OpenAI ukinuo svoj AI Classifier, koji je bio eksperimentalni alat dizajniran za otkrivanje teksta pisanog umjetnom inteligencijom. Imao je slabašnih 26 posto točnosti. Ništa bolji nije ni ChatGPT.

"Osim toga, ChatGPT nema "znanja" o tome koji bi sadržaj mogao biti generiran umjetnom inteligencijom. Ponekad će izmisliti odgovore na pitanja poput "Jesi li ti napisao ovaj esej?" ili "Je li ovo mogla napisati umjetna inteligencija?" Ti su odgovori nasumični i nemaju činjeničnu osnovu", tvrde u OpenAI-ju.

U skladu s tim, OpenAI također rješava sklonost svojih AI modela konfabulaciji lažnih informacija.

"Ponekad ChatGPT zvuči uvjerljivo, ali može vam dati netočne ili pogrešne informacije. Može čak izmišljati stvari poput citata stoga ga nemojte koristiti kao jedini izvor za istraživanje", dodali su iz kompanije koja je kreirala ChatGPT.

U konačnici, trenutno je najsigurnije potpuno izbjeći automatizirane alate za otkrivanje AI-ja.

"Od sada se pisanje umjetnom inteligencijom ne može detektirati i vjerojatno će tako i ostati. AI detektori imaju visoke stope lažno pozitivnih rezultata i zbog toga se ne bi trebali koristiti", rekao je analitičar umjetne inteligencije i profesor na Whartonu Ethan Mollick.