Manje od dvije trećine ljudi može prepoznati stvarne od AI fotografija

Prema novom istraživanju Microsoftovog laboratorija "AI for Good", ljudi uspješno razlikuju stvarne slike od AI-generiranih samo u 62 posto slučajeva. To je valjda bolje od bacanja novčića, ali i dalje prilično loše.

Ovaj je podatak rezultat "287.000 procjena slika" koje je izvršilo 12.500 sudionika, a zadatak im je bio označiti radi li se o stvarnoj ili generiranoj slici. Svaki je sudionik procijenio oko 22 slike, odabrane iz velike baze koja je uključivala i kolekciju od 350 autorski slobodnih pravih slika te njih 700 generiranih difuzijskim modelima poput DallE-3, Stable Diffusion 3, Stable Diffusion XL, Stable Diffusion XL inpainting, Amazon Titan v1 i Midjourney v6.

Microsoftov istraživački tim zatim je testirao vlastiti AI detektor u razvoju na istoj bazi slika, i objavio da je njihov alat uspješno prepoznao umjetno generirane slike u najmanje 95 posto slučajeva.

Microsoft je golema korporacija s pipcima posvuda, ali ipak je malo neobično da njihov istraživački laboratorij ističe problem kojem je drugi dio iste kompanije na neki način i doprinio, a onda još dodaje da će uskoro imati alat za prepoznavanje AI generiranih fotografija.

U njihovu obranu, istraživački tim također poziva na veću transparentnost kad je riječ o generativnom AI-u, tvrdeći da su mjere poput oznaka izvora i vodenih žigova nužne kako bi javnost znala kakav medijski sadržaj konzumira.

No, vodeni žig lako je izrezati, a nema sumnje da će oni koji su dovoljno motivirani pronaći način kako zaobići i digitalne potpise i oznake izvora sadržaja.

Višestruki pristup detekciji AI-a sigurno ne škodi, pogotovo jer je jasno da moramo prijeći fazu u kojoj samo pogledamo sumnjivu objavu i kažemo "ima AI vibru". No, dok razvijamo takav alat za prepoznavanje, možda bismo mogli obratiti pažnju i na neutaživu glad AI sustava za energijom, kao i na njihov utjecaj na emisije stakleničkih plinova i lokalne zajednice.