Europska komisija traži promjene TikTokovih preporuka

Europska komisija preliminarno je zaključila da TikTokov personalizirani For You feed krši Akt o digitalnim uslugama jer dizajn preporuka može korisnike voditi u štetne „zečje rupe” ponavljanog sadržaja. Nalaz Komisije usmjeren je na mentalno zdravlje, sliku tijela i zaštitu maloljetnika.

Algoritam uči iz gledanja, zadržavanja i reakcija te korisniku nudi više sličnog sadržaja. Problem nastaje kada dugo gledanje teme o mršavljenju, tuzi ili izolaciji sustav protumači kao želju za još takvih videa. Ponašanje koje može biti znak nelagode tako postaje pozitivan signal za preporuku.

Komisija smatra da TikTok nije dovoljno procijenio taj sistemski rizik niti uveo razmjerne i učinkovite mjere. Mehanizmi za raznolikiji sadržaj ne smanjuju dovoljno učestalost sličnih preporuka, a gumb "ne zanima me" prema preliminarnom nalazu ima premalu težinu u odnosu na vrijeme gledanja.

Regulator zato upućuje na promjenu dizajna, a ne samo na uklanjanje pojedinačnih videa. Moguća rješenja uključuju veći oslonac na izričite korisničke preferencije, isključivanje vremena gledanja za osjetljive kategorije, dostupnije kontrole i redovito testiranje učinka algoritma.

Nalaz je preliminaran. TikTok ima pravo pregledati dokumente, iznijeti obranu i predložiti korektivne mjere prije konačne odluke. Komisija može nakon odgovora izmijeniti ili povući zaključke, prihvatiti obveze kompanije ili potvrditi povredu i izreći mjere i novčanu kaznu.

DSA za vrlo velike platforme predviđa kaznu do šest posto ukupnog svjetskog godišnjeg prometa, ali maksimalna stopa nije automatski ishod. Visina ovisi o težini, trajanju, ponavljanju i suradnji. U ovom trenutku nije objavljen iznos niti rok u kojem će konačna odluka biti donesena.

Za TikTok promjena preporuka nosi poslovni rizik jer feed pokreće vrijeme provedeno u aplikaciji, oglašavanje i otkrivanje autora. Smanjenje oslanjanja na vrijeme gledanja može utjecati na angažman, ali kompanija mora pokazati da poslovna optimizacija ne potiskuje obvezu ublažavanja predvidivih šteta.

Mjerenje učinka bit će zahtjevno. Platforma treba pratiti koliko često korisnik ulazi u niz osjetljivog sadržaja, koliko dugo ondje ostaje i može li ga kontrolama prekinuti. Regulatoru su potrebni podaci i pristup neovisnih istraživača kako se promjena ne bi svela na novi naziv iste logike.

Odluka je važna i drugim platformama koje koriste beskonačni feed. DSA ne zabranjuje personalizaciju, ali traži procjenu sistemskih rizika i učinkovito ublažavanje. Ako Komisija potvrdi standard, izbor signala za preporuku postat će predmet nadzora jednako kao moderiranje sadržaja.

Sljedeći korak je TikTokov odgovor na spis i tehnička procjena ponuđenih mjera. Tek konačna odluka može utvrditi povredu i rok za promjenu. Do tada je najvažnija nova činjenica regulatorov zahtjev da se sigurnost ugradi u logiku feeda, umjesto da se štetne posljedice rješavaju samo nakon prijave korisnika.

Tehnički izazov je razlikovati interes od ranjivosti bez zaključivanja o zdravstvenom stanju pojedinca. Platforma može ograničiti nizove i povećati raznolikost na razini obrasca, umjesto da korisniku dodjeljuje osjetljivu dijagnozu. Time se smanjuje potreba za dodatnim profiliranjem dok se ipak ublažava ponavljanje.

Korisničke kontrole moraju biti razumljive i djelotvorne. Gumb koji formalno postoji, ali ne mijenja preporuke, ne pruža stvaran izbor. Komisija će vjerojatno promatrati koliko brzo feed reagira, može li se personalizacija jednostavno resetirati i dobiva li maloljetnik sigurniju zadanu postavku.