Europski parlament ponovno je otvorio jedno od najspornijih pitanja europske digitalne politike – mogućnost automatizirane analize privatnih elektroničkih komunikacija radi otkrivanja materijala seksualnog zlostavljanja djece. Zastupnici su 9. srpnja prihvatili izmijenjeni prijedlog kojim bi se privremeno obnovila pravna osnova za dobrovoljno otkrivanje, prijavljivanje i uklanjanje takvog sadržaja. Istodobno su iz djelokruga pravila izričito isključili komunikacije na koje se primjenjuje, primjenjivala se ili će se primjenjivati end-to-end enkripcija.
Odluka zato nije jednostavno parlamentarno odobrenje takozvanog Chat Controla. Parlament je dopustio nastavak ograničenog i privremenog izuzeća od pravila Direktive o e-privatnosti, ali je u tekst ugradio zaštitu potpuno šifriranih komunikacija. To znači da usluge poput Signala, WhatsAppa i drugih komunikacijskih platformi ne bi smjele skenirati sadržaj end-to-end šifriranih razgovora pozivajući se na to izuzeće.
Konačni propis još nije usvojen. Stajalište Europskog parlamenta vraća se Vijeću Europske unije, odnosno državama članicama, koje imaju tri mjeseca za prihvaćanje parlamentarnih izmjena. Ako ih Vijeće prihvati, uredba može stupiti na snagu u izmijenjenom obliku. Odbije li ih, Parlament i Vijeće morat će pokušati pronaći zajednički tekst u postupku mirenja.
Privremeni režim prvi je put uveden 2021. godine, kada su internetske komunikacijske usluge uključene u područje strožih pravila o povjerljivosti elektroničkih komunikacija. Bez posebnog izuzeća obrada sadržaja privatnih poruka radi automatskog otkrivanja materijala seksualnog zlostavljanja djece mogla bi biti u suprotnosti s člancima Direktive o e-privatnosti koji štite povjerljivost komunikacija i prometnih podataka.
Izuzeće je zato pružateljima usluga omogućilo da na dobrovoljnoj osnovi nastave koristiti određene tehnologije za otkrivanje poznatog i novog materijala seksualnog zlostavljanja djece te pokušaja vrbovanja maloljetnika. Pronađeni sadržaj mogao se prijaviti nadležnim tijelima ili organizacijama koje surađuju s policijom, a potom ukloniti s platforme. Privremeni režim već je bio produljen, ali je istekao 3. travnja 2026. nakon što institucije EU-a nisu pravodobno usuglasile novo produljenje ni trajni regulatorni okvir.
Vijeće EU-a početkom srpnja predložilo je ponovno uvođenje izuzeća do 3. travnja 2028., smatrajući da treba zatvoriti pravnu prazninu nastalu istekom ranijeg propisa. Države članice argumentirale su da dobrovoljne aktivnosti tehnoloških kompanija pomažu pri identifikaciji počinitelja, spašavanju žrtava i sprječavanju daljnjeg širenja nezakonitog sadržaja.
Međutim, riječ „dobrovoljno“ u tom kontekstu često stvara pogrešnu predodžbu o prirodi mjere. Ona ne znači da pojedinačni korisnik dobrovoljno pristaje na analizu svojih poruka. Dobrovoljna je odluka pružatelja komunikacijske usluge da uvede sustav skeniranja, dok se obrada može odnositi na velik broj korisnika koji nisu osumnjičeni za kazneno djelo i nisu pojedinačno odobrili takvu analizu.
Upravo se oko toga vodi ključni politički i pravni spor. Zagovornici pravila tvrde da pružatelji usluga već raspolažu tehnologijom i podacima koji mogu pomoći u ranom otkrivanju žrtava te da bi zabrana takvih alata otežala policijske istrage. Protivnici upozoravaju da se privatnim kompanijama daje mogućnost automatiziranog pregledavanja velikih količina povjerljive komunikacije bez prethodne sumnje, sudskog naloga ili ciljane istrage.
Spor se dodatno komplicira jer pojam skeniranja obuhvaća tehnološki vrlo različite postupke. Najmanje je sporna usporedba digitalnih otisaka, odnosno hash vrijednosti fotografija i videozapisa koji su već potvrđeni kao nezakoniti. Sustav tada ne pokušava razumjeti sadržaj slike, nego traži podudaranje s bazom poznatih materijala.
Mnogo su složeniji sustavi namijenjeni pronalaženju prethodno nepoznatih fotografija i videozapisa. Oni se oslanjaju na klasifikacijske modele koji procjenjuju vjerojatnost da određeni sadržaj prikazuje seksualno zlostavljanje djece. Još je osjetljivije automatsko prepoznavanje pokušaja vrbovanja, koje zahtijeva analizu tekstualnih razgovora, konteksta, dobi sudionika, odnosa među njima i promjena u komunikaciji.
Takvi sustavi ne donose konačnu pravnu odluku, nego generiraju upozorenja koja ljudi naknadno provjeravaju. Problem nastaje kada se tehnologija primijeni na golemu količinu poruka. Čak i vrlo mala stopa pogreške može proizvesti velik broj lažnih prijava, izdvojiti legitimne obiteljske fotografije, zdravstvene sadržaje ili razgovore maloljetnika te opteretiti policiju predmetima koji se poslije pokažu neutemeljenima.
Posljedice pogreške pritom nisu samo tehničke. Prijava može uključivati privatne fotografije, identitet korisnika, sadržaj razgovora i druge osjetljive podatke. Pogrešno označena osoba može postati predmet interne provjere platforme ili postupanja nadležnih tijela, iako za to nije postojala stvarna osnova. Zato kvaliteta modela, pragovi prijavljivanja, ljudska provjera i mogućnost pravnog lijeka postaju jednako važni kao i sama namjera zaštite djece.
Zaštita end-to-end enkripcije najvažnija je promjena koju je Parlament ugradio u tekst. Kod potpune enkripcije poruka se šifrira na uređaju pošiljatelja, a može je dešifrirati samo uređaj primatelja. Pružatelj usluge nema ključ kojim bi mogao pročitati sadržaj tijekom prijenosa ili dok je pohranjen na poslužitelju.
Problem nije moguće jednostavno riješiti tvrdnjom da se sama matematička enkripcija neće mijenjati. Tehnologija poznata kao client-side scanning može analizirati sadržaj na korisničkom uređaju prije nego što se poruka šifrira ili nakon što se kod primatelja dešifrira. Komunikacijski kanal formalno može ostati kriptografski zaštićen, ali je povjerljivost sadržaja narušena jer ga automatizirani sustav pregledava na jednoj od krajnjih točaka.
Sigurnosni stručnjaci upozoravaju da infrastruktura jednom ugrađena radi traženja jedne vrste nezakonitog sadržaja može poslije biti proširena na druge kategorije. Promjena baze digitalnih otisaka, klasifikacijskog modela ili pravne definicije dovoljne su da isti tehnički sustav počne tražiti sasvim drukčije materijale. Takav rizik naziva se function creep, odnosno postupno širenje svrhe sustava izvan prvotno opravdanog područja.
Sustav skeniranja na uređaju ujedno povećava površinu napada. Zlonamjerni akteri mogli bi pokušati manipulirati bazama podataka, podmetati digitalne otiske, izazivati lažne prijave ili iskoristiti privilegirani pristup sustava privatnim datotekama. Zbog toga zaštita enkripcije nije samo pitanje individualne privatnosti nego i kibernetičke sigurnosti građana, poduzeća, državnih institucija, novinara i drugih skupina koje ovise o povjerljivoj komunikaciji.
Glasanje 9. srpnja pokazalo je koliko je Europski parlament podijeljen. Prijedlog da se stajalište Vijeća u cijelosti odbaci podržalo je 314 zastupnika, dok ih je 276 glasalo protiv odbacivanja, a 17 je bilo suzdržano. Iako je više zastupnika bilo za odbacivanje nego za nastavak režima, prijedlog nije prošao jer je u drugom čitanju bila potrebna apsolutna većina svih 720 zastupničkih mjesta, odnosno najmanje 361 glas.
Takav rezultat na prvi pogled djeluje paradoksalno: većina zastupnika koji su glasali podržala je odbacivanje, ali je pravni prijedlog ipak preživio. Razlog je u proceduri drugog čitanja, u kojoj se stajalište Vijeća ne može odbaciti običnom većinom prisutnih, nego apsolutnom većinom svih članova Parlamenta. Nedolazak, suzdržavanje ili neglasanje zato praktično pomažu opstanku stajališta Vijeća.
Istodobno su usvojena dva ključna amandmana kojima se end-to-end šifrirane komunikacije izuzimaju iz područja primjene. Jedan je dobio 369, a drugi 362 glasa, samo jedan glas više od potrebnog praga. Time je Parlament pokazao da ne postoji stabilna i velika većina ni za jednu stranu, ali da ipak postoji dovoljno zastupnika koji zaštitu enkripcije smatraju granicom preko koje privremeni režim ne smije prijeći.
Postupak je pojačao i napetosti oko načina donošenja odluke. Parlament je u ožujku već odbio raniji pokušaj produljenja, nakon čega je prijedlog vraćen kroz proceduru drugog čitanja i stavljen na dnevni red po hitnom postupku. Zagovornici su tvrdili da EU ne smije otići na ljetnu stanku bez pravnog instrumenta koji platformama omogućuje nastavak otkrivanja nezakonitog sadržaja.
Protivnici su odgovorili da je hitna procedura iskorištena za zaobilaženje političke poruke prethodnog glasanja i smanjivanje prostora za raspravu u parlamentarnim odborima. Kritizirali su situaciju u kojoj je za zaustavljanje prijedloga bila potrebna apsolutna većina, iako je obična većina zastupnika koji su glasali bila protiv njega.
Važno je razlikovati ovu odluku od trajne uredbe za sprječavanje i borbu protiv seksualnog zlostavljanja djece, koju kritičari nazivaju Chat Control 2.0. Privremeno izuzeće odnosi se na mogućnost da pružatelji usluga dobrovoljno provode određene mjere koje bi inače mogle biti zabranjene pravilima o povjerljivosti komunikacija.
Trajna uredba mnogo je šira. Ona treba urediti obveze procjene i smanjivanja rizika, prijavljivanje i uklanjanje nezakonitog sadržaja, izdavanje naloga, nadzor pružatelja usluga te osnivanje budućeg europskog centra za borbu protiv seksualnog zlostavljanja djece. Komisija je taj prijedlog predstavila još u svibnju 2022., ali pregovori traju godinama zbog neslaganja oko obveznog otkrivanja, proporcionalnosti, enkripcije i tehničke izvedivosti.
Miješanje dvaju procesa otežava javnu raspravu. Izraz Chat Control koristi se i za privremeno dobrovoljno izuzeće i za trajni sustav koji bi mogao sadržavati obvezne naloge. To protivnicima omogućuje da svako produljenje opisuju kao uvođenje masovnog nadzora, dok zagovornici mogu tvrditi da se raspravlja samo o nastavku postojećih dobrovoljnih praksi. U stvarnosti se radi o povezanim, ali pravno različitim instrumentima.
Za pružatelje komunikacijskih usluga parlamentarne izmjene stvaraju složen operativni okvir. Platforma koja koristi end-to-end enkripciju ne bi mogla primijeniti izuzeće na potpuno šifrirane razgovore. Međutim, ista kompanija može nuditi i nešifrirane usluge, sigurnosne kopije, javne kanale, pohranu u cloudu ili druge funkcije na koje se potpuna enkripcija ne primjenjuje.
To otvara pitanje kako će se pravno i tehnički odvojiti različiti dijelovi jedne usluge. WhatsApp, primjerice, može štititi sadržaj poruka end-to-end enkripcijom, dok sigurnosna kopija, metapodaci ili prijavljeni sadržaj mogu biti obuhvaćeni drukčijim pravilima. Usklađenost zato neće ovisiti samo o nazivu aplikacije, nego o konkretnoj arhitekturi usluge i životnom ciklusu pojedinog podatka.
Pružatelji će morati dokazati i da eventualne dobrovoljne mjere ostaju nužne, proporcionalne i ograničene na cilj borbe protiv seksualnog zlostavljanja djece. To uključuje izbor tehnologije, kvalitetu podataka, stope pogreške, postupke ljudske provjere, sigurnost obrade i rokove čuvanja podataka. Sama tvrdnja da se koristi umjetna inteligencija radi zaštite djece neće biti dovoljna za opravdavanje neograničene analize privatnih komunikacija.
Za korisnike je neposredna posljedica glasanja zasad ograničena jer izmijenjeni propis još nije stupio na snagu. Ako Vijeće prihvati stajalište Parlamenta, platforme koje nude komunikaciju bez potpune end-to-end enkripcije ponovno će dobiti pravnu mogućnost dobrovoljnog skeniranja poruka i datoteka do 2028. godine ili do početka primjene trajnog okvira.
Potpuno šifrirane komunikacije trebale bi ostati izvan tog režima. Međutim, zaštita će u praksi ovisiti o konačnoj formulaciji propisa, tumačenju pojma end-to-end enkripcije i načinu na koji platforme tehnički organiziraju svoje usluge. Ako Vijeće odbije parlamentarne izmjene, slijedi novo institucionalno nadmetanje bez jamstva da će kompromis biti pronađen prije nove pravne praznine.
Za poslovne korisnike i javne institucije zaštita enkripcije ima šire značenje od privatnosti pojedinačnih razgovora. Šifrirane komunikacijske platforme koriste se za razmjenu poslovnih dokumenata, financijskih podataka, sigurnosnih upozorenja, pravnih savjeta i drugih povjerljivih informacija. Slabljenje zaštite jedne skupine korisnika teško je tehnički odvojiti od slabljenja sigurnosti svih ostalih.
Za europsku tehnološku industriju rasprava šalje i važnu razvojnu poruku. Kompanije koje razvijaju komunikacijske proizvode moraju računati s time da će način šifriranja, pohrane i analize sadržaja postati predmet političke i regulatorne procjene. Privacy by design više nije samo načelo zaštite osobnih podataka, nego potencijalna tržišna prednost u okruženju u kojem se zakonski zahtjevi mogu razlikovati ovisno o arhitekturi proizvoda.
Odluka ima posljedice i za razvoj umjetne inteligencije. Sustavi koji pokušavaju klasificirati slike, videozapise ili tekstualne razgovore u iznimno osjetljivom kaznenopravnom području moraju imati znatno višu razinu pouzdanosti, objašnjivosti i nadzora od uobičajenih komercijalnih preporučivačkih modela. Pogreška sustava za preporuku sadržaja može korisniku prikazati nerelevantnu objavu, dok pogreška sustava za otkrivanje zlostavljanja može dovesti do policijske prijave nevine osobe.
Za hrvatske korisnike pravila će se primjenjivati jednako kao i u ostatku Europske unije. Domaće kompanije koje pružaju komunikacijske, hosting ili cloud usluge morat će utvrditi ulaze li njihove funkcionalnosti u područje uredbe. Istodobno će policija i druga nadležna tijela morati biti spremni obrađivati prijave na način koji razlikuje kvalitetne dojave od automatiziranih pogrešaka.
Rasprava tako ostaje između dvaju legitimnih ciljeva koje europski zakonodavci još nisu uspjeli potpuno pomiriti. Prvi je učinkovitija zaštita djece i ranije otkrivanje zlostavljanja. Drugi je očuvanje povjerljivosti komunikacija, sigurnosti digitalnih sustava i prava stotina milijuna građana koji nisu osumnjičeni ni za kakvo kazneno djelo.
Glasanje od 9. srpnja nije završilo raspravu o Chat Controlu i nije donijelo konačnu europsku odluku. Postavilo je, međutim, jasniju političku granicu. Parlament je pokazao spremnost da privremeno dopusti dobrovoljne alate za otkrivanje nezakonitog sadržaja, ali ne i da se zbog njih otvori pristup potpuno šifriranim razgovorima.
Hoće li ta granica preživjeti pregovore s državama članicama i preliti se u trajnu uredbu, ostaje najvažnije otvoreno pitanje. O njegovu odgovoru neće ovisiti samo budućnost nekoliko komunikacijskih aplikacija, nego i europski standard povjerljivosti digitalne komunikacije u razdoblju kada se sve veći dio privatnog, poslovnog i javnog života odvija kroz šifrirane platforme.
