Prisluškuju li tajne službe AI - od prisluškivanja do enkripcije i nazad

Većina zemalja ima regulativu za tzv. lawful interception. Telekom operatori moraju imati tehničku mogućnost da, uz odgovarajući nalog, nadležnim službama omoguće prisluškivanje određenog korisnika. U Hrvatskoj 12 mjeseci čuvaju podatke o ostvarenim komunikacijama – tko je s kim komunicirao, kada, koliko dugo i druge propisane metapodatke. Ne i sadržaj komunikacije – za to treba nalog.

Stvari su se zakomplicirale kada se komunikacija preselila s klasičnih telefonskih mreža na Internet. WhatsApp, Signal, iMessage i brojne druge aplikacije danas koriste end-to-end enkripciju. U takvom modelu poruku može pročitati pošiljatelj i primatelj, ali ne i provider preko čije infrastrukture ona putuje. Barem bi tako trebalo biti.

Za sigurnosne službe to predstavlja priličan problem. Kako prisluškivati komunikaciju kojoj ni provider nema pristup? Zakonodavci već godinama pokušavaju pronaći način kako omogućiti lawful interception kriminalaca, terorista i drugih legitimnih meta, a da pritom ne naprave backdoor koji bi oslabio sigurnost komunikacije svih ostalih. Rasprava je komplicirana, politički osjetljiva i tehnički teško rješiva.

A onda se pojavila umjetna inteligencija i problem prisluškivanja smo, barem djelomično, riješili sami.

Ispričaj mi sve. I zapamti.

ChatGPTu, Google Geminiju, Microsoft Copilotu i drugim AI chatbotima počeli smo dobrovoljno govoriti stvari koje vjerojatno nikada ne bismo napisali u SMS-u. Zapitajte se o čemu ste sve razgovarali sa svojim AI asistentom. O poslu, financijama, zdravlju, politici, seksu, problemima u braku, kolegama, svojim planovima, strahovima? Kao se riješiti punice, kako napraviti bombu, kako neovlašteno pristupiti IT sustavu…? Jeste li mu dali dokumente da ih analizira? Pitali ga što misli o nekoj osobi? Zamolili ga da vam pomogne donijeti važnu odluku?

Da bi sve bolje radilo, od AI providera zatražili smo još nešto – da sve to zapamte, a oni su nam pamćenje naše komunikacije vrlo uspješno prodali kao feature. Sada nas AI razumije i postaje povjerljivi sugovornik u najosjetljivijim temama. AI koji zna tko smo, čime se bavimo, što smo ga pitali prošli tjedan i na čemu trenutno radimo neusporedivo je korisniji od onoga kojem svaki razgovor moramo početi ispočetka. I ja želim da moj AI to zna. Upravo je u tome problem.

Sam AI model pritom ne mora „pamtiti“ naše razgovore, zapravo ni ne može. Negdje u infrastrukturi providera mora postojati povijest razgovora, izdvojena memorija, korisnički profil ili neki drugi oblik konteksta koji mu sustav po potrebi ponovno stavlja na raspolaganje. Ti podaci mogu i trebaju biti kriptirani tijekom prijenosa i pohrane. Ali postoji fundamentalna razlika u odnosu na end-to-end enkriptiranu poruku: ako AI treba koristiti neku informaciju kako bi nam dao personalizirani odgovor, sustav mu je u nekom trenutku mora moći učiniti dostupnom.

Prisluškivanje je možda najmanji problem

I tu cijela priča postaje puno zanimljivija od klasičnog prisluškivanja. Telekom metadata može pokazati da ste nekoga nazvali u 23:17 i razgovarali 23 minute. Dugogodišnja povijest razgovora s AI-em potencijalno može objasniti zašto ste ga nazvali. I što ste namjeravali napraviti sljedećeg jutra.

Kada stotine ili tisuće takvih razgovora spojite u cjelinu, više ne govorimo samo o sadržaju komunikacije. Govorimo o vrlo detaljnom profilu čovjeka – njegovim interesima, političkim stavovima, poslovnim odnosima, financijskim problemima, zdravlju, slabostima, planovima i strahovima. I to u formatu koji je već digitaliziran, pretraživ i idealan za strojnu analizu. Ono za što su nekada trebali mjeseci obavještajnog rada danas bi AI mogao sažeti u nekoliko sekundi. U biti, vrlo je jednostavno složiti AI baziranu aplikaciju koja bi prepoznavala i upozoravala na potencijalno opasna razmišljanja korisnika.

Jesu li taj potencijal prepoznale obavještajne službe? Naravno da jesu. Ne treba za to nikakva posebna pamet. Koriste li ga za sustavno profiliranje korisnika? To ne znamo i bilo bi neozbiljno tvrditi da znamo. Ali znamo da državna tijela već traže podatke korisnika AI servisa. OpenAI, primjerice, javno objavljuje statistike takvih zahtjeva, uključujući zahtjeve za sadržajem korisničkih podataka.

To naravno ne znači da neka tajna služba upravo čita vaš posljednji razgovor s ChatGPTom. Ali pokazuje da pitanje iz naslova uopće nije samo zgodna teorija zavjere.

Privatnost kao zastarjeli koncept?

Desetljećima smo razvijali enkripciju kako bi osigurali privatnost naše komunikacije. Vodimo političke i pravne bitke oko toga smije li država tražiti backdoor u WhatsAppu ili Signalu. Istodobno smo privatnim kompanijama počeli dobrovoljno povjeravati nešto potencijalno puno vrjednije od pojedinačne poruke ili telefonskog razgovora – dugoročnu povijest svojih pitanja, problema, interesa, odluka i planova.

I ne želimo da AI to zaboravi. Upravo suprotno. Želimo da nas što bolje poznaje, jer je tada korisniji.

Možemo li onda uopće zaštititi privatnost ili ćemo je se jednostavno morati odreći u zamjenu za koristi koje nam AI donosi? Ja nisam siguran da ćemo taj izbor uopće imati.

Odluka, nažalost, možda više nije samo na nama.

O Autoru: Stanko Cerin više od 20 godina savjetuje neke od najvećih svjetskih i hrvatskih kompanija u području kibernetičke sigurnosti, upravljanja IT rizicima i regulatorne usklađenosti. Autor je ITrevizija.hr, prve hrvatske AI platforme za usklađivanje s NIS2 direktivom, te suosnivač IVERIOS-a, AI-native platforme za kontinuirano upravljanje kibernetičkim rizicima i usklađenošću. U sklopu razvoja proizvoda kontinuirano prati nova znanstvena istraživanja, tehnike napada i regulatorne zahtjeve povezane s umjetnom inteligencijom. Certificirani je Information Systems Auditor i Information Security Manager.