EU ima za cilj poboljšati moderiranje sadržaja kako bi se uhvatio u koštac s govorom mržnje

Uvredljivi komentari, uznemiravanje i poticanje na nasilje lako se provlače kroz alate za moderiranje sadržaja online platformi, pokazalo je novo izvješće Agencije EU-a za temeljna prava (FRA). To pokazuje da većina mržnje na internetu cilja na žene, ali su pogođeni i ljudi afričkog podrijetla, Romi i Židovi.

Nedostatak pristupa podacima platformi i razumijevanja onoga što čini govor mržnje koči napore da se uhvati u koštac s internetskom mržnjom. FRA je pozvala na veću transparentnost i smjernice kako bi se osigurao sigurniji online prostor za sve. FRA-ovo izvješće o moderiranju online sadržaja bavi se izazovima otkrivanja i uklanjanja govora mržnje s društvenih medija. Ističe da ne postoji zajednički dogovorena definicija internetskog govora mržnje. Sustavi za moderiranje online sadržaja također nisu otvoreni za nadzor istraživača. To otežava dobivanje potpune slike o razmjerima internetske mržnje i otežava napore da se s njom uhvati u koštac.

Analiza objava i komentara objavljenih na platformama društvenih medija između siječnja i lipnja 2022. otkriva da od 1500 objava koje su već procijenili alati za moderiranje sadržaja, više od polovice (53 posto) ljudski programeri još uvijek smatraju sadržajima mržnje. Žene su glavne mete internetske mržnje na svim istraživanim platformama i zemljama. Većina govora mržnje prema ženama uključuje uvredljiv jezik, uznemiravanje i poticanje na seksualno nasilje. Ljudi afričkog podrijetla, Romi i Židovi najčešće su mete negativnih stereotipa. Gotovo polovica (47 posto) svih objava koje pune mržnje su izravno uznemiravanje.

Kako bi se uhvatili u koštac s internetskom mržnjom, FRA kaže da bi EU i internetske platforme trebale pružiti sigurniji internetski prostor za sve, više smjernica, uhvatiti sve oblike internetske mržnje, testirati tehnologiju na pristranost i osigurati pristup podacima za neovisno istraživanje. Kako bi spriječili internetsku mržnju, FRA kaže da bi platforme trebale obratiti posebnu pozornost na zaštićene karakteristike kao što su spol i etnička pripadnost u svojim naporima za moderiranje sadržaja i praćenje. Vrlo velike internetske platforme trebale bi uključiti mizoginiju u svoju procjenu rizika i mjere za ublažavanje prema Zakonu o digitalnim uslugama (DSA).

Nije uvijek jasno što se smatra govorom mržnje, a što je zaštićeno slobodom govora. EU i nacionalna regulatorna tijela trebala bi dati više smjernica o prepoznavanju nezakonite mržnje na internetu. Kako bi se osiguralo otkrivanje različitih vrsta internetske mržnje, Europska komisija i nacionalne vlade trebale bi stvoriti i financirati mrežu pouzdanih označitelja, uključujući civilno društvo. Policija, moderatori sadržaja i označivači trebaju biti odgovarajuće obučeni kako bi se osiguralo da platforme ne propuste ili prekomjerno uklone sadržaj.

Između siječnja i lipnja 2022. FRA je prikupio gotovo 350 000 objava i komentara na temelju određenih ključnih riječi. Ljudski koderi procijenili su oko 400 nasumičnih objava iz svake zemlje kako bi utvrdili jesu li puni mržnje. 40 nasumičnih objava zatim su detaljnije ocijenili koderi i pravni stručnjaci. Ovo izvješće prikazuje različite vrste govora mržnje pronađene u zemljama, ciljnim skupinama i platformama koje pokriva.

“Velika količina mržnje koju smo identificirali na društvenim mrežama jasno pokazuje da EU, njezine države članice i internetske platforme mogu pojačati svoje napore u stvaranju sigurnijeg internetskog prostora za sve, uz poštovanje ljudskih prava uključujući slobodu izražavanja. Neprihvatljivo je napadati ljude na internetu samo zbog njihova spola, boje kože ili vjere”, rekao je Michael O’Flaherty, direktor FRA-e.