Američka savezna država Zapadna Virginija tuži Apple zbog propusta u zaštiti djece na iCloudu

Državni odvjetnik američke savezne države Zapadna Virginija podnio je tužbu protiv Applea. U tužbi se navodi da je proizvođač iPhonea svjesno dopuštao da se njegova platforma iCloud godinama koristi za distribuciju i pohranu materijala koji prikazuju seksualno zlostavljanje djece.

Državni odvjetnik JB McCuskey optužio je Apple da je privatnost korisnika stavio ispred sigurnosti djece te da je odlučio ne reagirati. „Budući da je Apple dosad odbijao nadzirati sam sebe i učiniti ono što je moralno ispravno, podnosim ovu tužbu kako bih zahtijevao da Apple poštuje zakon, prijavljuje ove slike i prestane ponovno viktimizirati djecu dopuštajući da se takav sadržaj pohranjuje i dijeli“, izjavio je.

U tužbi se navodi i interna komunikacija unutar Applea u kojoj se tvrtka navodno opisala kao najveća platforma za distribuciju dječje pornografije. Dokument tvrdi da je Apple, umjesto uvođenja industrijskih standarda za detekciju kakve koriste konkurenti poput Googlea ili Meta Platformsa, opetovano izbjegavao svoju odgovornost za zaštitu djece, pozivajući se na zaštitu privatnosti korisnika.

Prema saveznom zakonu, sve tehnološke kompanije sa sjedištem u SAD-u obvezne su prijaviti otkriveni materijal seksualnog zlostavljanja djece Nacionalnom centru za nestalu i zlostavljanu djecu. Tijekom 2023. godine Apple je podnio 267 takvih prijava, dok je Google podnio 1,47 milijuna, a Meta više od 30,6 milijuna prijava.

U tužbi se ističe da Apple, s obzirom na to da ima potpunu kontrolu nad vlastitim hardverom, softverom i cloud infrastrukturom, ne može tvrditi da je bio nesvjesni i pasivni posrednik u širenju takvog sadržaja. „Apple je dizajnirao, izgradio i profitirao od sustava koji je dopustio da se iskoristi protiv djece“, navodi se u priopćenju iz ureda državnog odvjetnika. U priopćenju se također ističe da je riječ o prvoj tužbi te vrste koju je neka državna institucija podnijela protiv Applea zbog materijala koji prikazuju seksualno zlostavljanje djece.

Posljednjih godina rasprava o ravnoteži između enkripcije i zaštite djece dodatno se intenzivirala, osobito nakon što je Apple 2021. predstavio, a potom i odgodio plan za implementaciju sustava za detekciju CSAM sadržaja na razini uređaja, suočen s kritikama stručnjaka za privatnost i digitalna prava. Nacionalni centar za nestalu i zlostavljanu djecu godišnje zaprima desetke milijuna prijava potencijalno nezakonitog sadržaja putem sustava CyberTipline, a većinu prijava generiraju velike platforme koje koriste automatizirane alate za prepoznavanje poznatih hash vrijednosti spornih datoteka. 

Istodobno, regulatorni pritisak raste i u Europskoj uniji kroz prijedloge uredbi o sprječavanju i suzbijanju seksualnog zlostavljanja djece na internetu, koje predviđaju obvezu detekcije i prijavljivanja takvog sadržaja uz stroge uvjete zaštite privatnosti. Tehnološke kompanije nalaze se između zahtjeva za snažnom end-to-end enkripcijom, koju zagovaraju sigurnosni stručnjaci i organizacije za zaštitu ljudskih prava, te sve snažnijih poziva zakonodavaca da osiguraju učinkovitije mehanizme nadzora i prevencije. 

U SAD-u se pritom vodi kontinuirana rasprava o tumačenju saveznog zakona 18 U.S.C. § 2258A, koji propisuje obvezu prijavljivanja, ali ne nameće izričitu obvezu proaktivnog nadzora sadržaja. Odluke sudova u predmetima poput ovoga mogle bi imati dalekosežne posljedice za arhitekturu usluga u javnom oblaku, modele enkripcije i operativne procese upravljanja podacima u globalnoj tehnološkoj industriji.