Deepfake dokazi stižu pred sudove

OpenAI i Meta upozorili su u Bostonu američki Odbor za pravila dokazivanja da su lažni videozapisi, slike i audiosnimke postali dovoljno uvjerljivi da ih ni čovjek ni postojeći detektori ne mogu pouzdano razotkriti. Rasprava je održana pred tijelom Američke sudske konferencije koje odlučuje treba li mijenjati savezna dokazna pravila, a neposredan razlog jest rast generativnih alata sposobnih proizvesti vjerodostojan zapis događaja koji se nikada nije dogodio.

Shira Anderson, savjetnica OpenAI-ja za javne politike, rekla je odboru da ne očekuje znanstvenu metodu koja bi u budućnosti nepogrešivo otkrivala AI slike. Sudionici su zato raspravu pomaknuli s obećanja o jednom univerzalnom detektoru prema kombinaciji porijekla datoteke, metapodataka, svjedočenja, tehničkog vještačenja i procesnih pravila. Za sudove je presudno tko mora dokazivati autentičnost i koliko uvjerljivo, jer se taj teret izravno pretvara u vrijeme, trošak i dostupnost pravne zaštite.

Problem još nije masovan. Istraživačko tijelo saveznog pravosuđa u ožujku je anketiralo 931 suca, a samo ih je 15 navelo slučaj u kojem je stranka osporila dokaz tvrdnjom da je riječ o deepfakeu. Predsjednik odbora, savezni sudac Jesse Furman, upozorio je na raskorak između velike količine akademskih upozorenja i malog broja stvarnih sporova. Odbor je ipak osnovao pododbor jer pravilo napisano tek nakon širenja zlouporabe može zakasniti za prve važne kaznene i građanske predmete.

Službeni materijali pokazuju dvije povezane regulatorne linije. Radni prijedlog pravila 901(c) bavio bi se autentičnošću sadržaja za koji protivna strana iznese vjerodostojnu tvrdnju da je sintetički. U tom bi se slučaju teret prebacio na stranku koja dokaz nudi, uz standard pretežnosti dokaza, stroži od uobičajenoga početnog praga. Drugi prijedlog, pravilo 707, propisao bi kriterije pouzdanosti za rezultat umjetne inteligencije koji se nudi bez iskaza stručnog svjedoka.

Javna rasprava o pravilu 707 već je pokazala koliko je teško povući granicu. Odbor je primio 59 pisanih komentara: tri su bezuvjetno podržala prijedlog, 27 ga je podržalo uz izmjene, a 27 mu se protivilo. Kritičari su tvrdili da je pojam strojno generiranog dokaza preširok, da su iznimke nejasne i da bi samo pravilo moglo otvoriti put prihvaćanju nepouzdanog rezultata bez stručnjaka. Među mogućim izmjenama zato su precizniji izraz umjetna inteligencija, brisanje iznimke za jednostavne znanstvene instrumente i obvezna prethodna obavijest drugoj strani.

Za tehnološko tržište ova rasprava otvara prostor, ali ne i automatsku potražnju za detektorima. Andersonino upozorenje podriva poslovne modele koji obećavaju konačan binarni odgovor je li sadržaj stvaran. Veću vrijednost mogu dobiti alati koji bilježe lanac nastanka datoteke, kriptografski potvrđuju uređaj i uredničke zahvate te čuvaju revizijski trag. Standardi za označavanje i vjerodajnice sadržaja pritom nisu jednako primijenjeni na svim platformama, modelima i kamerama.

Praktična posljedica za kompanije bit će potreba da poslovne snimke, pozive, fotografije nadzora i automatizirane analize čuvaju zajedno s podacima o nastanku. Bez toga bi autentičan dokaz mogao postati skuplji za obranu upravo zato što tržište preplavljuju uvjerljive krivotvorine. Dobavljači videonadzora, forenzičkog softvera, pohrane i e-otkrivanja morat će dokazivati ne samo funkciju proizvoda nego i cjelovitost postupka kojim je zapis nastao i sačuvan.

Odbor nije donio konačno pravilo. Nastavit će rad kroz pododbor i dodatna stručna saslušanja, uz odvojeno razmatranje pravila 707. Sljedeći potvrđeni korak stoga nije nabava novog detektora, nego oblikovanje dokaznog standarda koji sudovima ostavlja dovoljno fleksibilnosti za tehnologiju koja se mijenja brže od procesnih pravila.

Dodatna poslovna neizvjesnost proizlazi iz odgovornosti za pogrešnu procjenu. Detektor koji stvaran zapis označi kao lažan može oslabiti vjerodostojnost stranke, a propuštena krivotvorina može promijeniti ishod postupka. Sudovima zato trebaju poznate stope pogreške, opis skupa na kojem je alat testiran i mogućnost da obje strane ispitaju metodologiju. Zatvoreni model bez revizijskog traga teško može sam nositi dokaznu težinu, čak i kada je komercijalno vrlo uspješan.