Uber kažnjen zbog automatiziranih suspenzija

Nizozemsko tijelo za zaštitu podataka kaznilo je Uber s 825 milijuna eura zbog automatiziranog suspendiranja i deaktiviranja računa europskih vozača bez dovoljnog informiranja i značajne ljudske provjere. Odluka od 17. kolovoza, koju je regulator potvrdio Reutersu 21. kolovoza, obuhvaća incidente od 2020. do 2022. Uber je najavio žalbu, pa kazna i činjenični nalazi još nisu pravomoćni.

Iznos bi, ako opstane, bio druga najveća kazna izdana prema GDPR-u. Veća je samo irska odluka protiv Mete od 1,2 milijarde eura iz 2023. zbog prijenosa podataka u Sjedinjene Države, na koju se Meta također žalila. Usporedba pokazuje ozbiljnost s kojom je regulator ocijenio učinak na rad vozača, ali ne znači da će oba postupka završiti s početno objavljenim iznosima.

GDPR ograničava odluke donesene isključivo automatiziranom obradom kada proizvode pravne ili slično značajne posljedice. Osoba mora dobiti razumljivo objašnjenje, mogućnost osporavanja i stvarnu ljudsku intervenciju, a ne samo formalni klik zaposlenika koji potvrđuje rezultat sustava. Za vozača je deaktivacija računa izravno povezana s prihodom, pa regulator takvu odluku ne tretira kao običnu preporuku aplikacije.

Predmet je počeo francuskom pritužbom, ali ga je vodilo nizozemsko tijelo jer je Uberovo europsko sjedište u Nizozemskoj. Sustavi su privremeno zaustavljali račune kada bi zaključili da je vozač nepotrebno produljio rutu radi veće cijene ili prihvatio vožnju bez namjere da je dovrši. Nizozemski regulator tvrdi i da su pojedini vozači s niskim korisničkim ocjenama trajno deaktivirani računalnom odlukom.

Uber osporava tu tvrdnju. Kompanija kaže da su suspenzije zbog sumnje na prijevaru uglavnom bile kratke i da nije trajno deaktivirala takve račune bez ljudske provjere. Navodi i da današnja pravila uključuju ljudski pregled te mogućnost žalbe. U 2021. godini 126 europskih vozača deaktivirano je zbog niske ocjene korisnika, što Uber koristi kao argument da je kazna nerazmjerna broju pogođenih.

Spor nije samo o broju računa, nego o arhitekturi odlučivanja. Platforma mora dokumentirati koji podatak pokreće upozorenje, kako se određuje prag, smije li model spojiti ocjenu, rutu i ponašanje aplikacije te tko ima ovlast preinačiti rezultat. Ako zaposlenik ne vidi relevantne dokaze ili nema dovoljno vremena i ovlasti, proces može ostati praktično automatiziran iako u njemu formalno sudjeluje čovjek.

Kazna mijenja ekonomiku svih platformi koje raspoređuju rad. Sustav za otkrivanje prijevare smanjuje gubitke i brže reagira na velik broj vožnji, ali pogrešna suspenzija prenosi trošak na vozača. Značajna ljudska provjera povećava operativne troškove, traži lokalno osoblje i usporava odluku. Regulatorni signal jest da se ta cijena ne može izbjeći kada algoritam nekome prekida pristup zaradi.

Odluka ima i transparentnosni učinak. Vozaču nije dovoljan opći opis da sustav “štiti sigurnost i kvalitetu”. Mora znati glavne razloge vlastitog slučaja i dobiti kanal na kojem može priložiti dokaz, primjerice zatvorenu cestu ili problem s aplikacijom. Kompanija pritom ne mora otkriti sav izvorni kod, ali mora objasniti logiku i podatke dovoljno konkretno da osporavanje nije prazna formalnost.

Novčana kazna od 825 milijuna eura druga je najveća pojedinačna GDPR sankcija koju je nizozemski regulator izrekao, pod uvjetom da opstane u žalbenom postupku. Iznos nije procjena zarade izgubljene zbog suspenzija, nego regulatorna mjera vezana uz obradu osobnih podataka. Uber nije objavio hoće li za cijeli iznos odmah evidentirati rezervaciju.

Spor je važan i za druge platforme koje koriste ocjene, lokaciju i detekciju prijevare za upravljanje radnom snagom. Ako automatska preporuka u praksi gotovo uvijek završava istom sankcijom, naziv “ljudski pregled” neće biti dovoljan. Dokaz mora pokazati tko je pregledao slučaj, koje je podatke mogao promijeniti i koliko je odluka nakon prigovora doista preinačeno.

Postupak će vjerojatno trajati godinama, a sud može potvrditi nalaz, smanjiti kaznu ili vratiti predmet regulatoru. Do tada Uber mora računati na pravni trošak i rizik rezerviranja iznosa, dok konkurenti trebaju pregledati vlastite sustave ocjenjivanja, prijevare i isključivanja. Sljedeći potvrđeni korak je Uberova žalba; ključni dokaz bit će može li kompanija pokazati stvarnu ljudsku odluku za svaki tip trajne deaktivacije u razdoblju koje regulator ispituje.