EU bi trebala zabraniti masovno praćenje građana umjetnom inteligencijom

Grupa stručnjaka za politička pitanja Europske unije predložila je zabranu korištenja umjetne inteligencije u svrhu nadzora i “bodovanja pojedinaca“ zato što smatraju kako to uključuje prikupljanje podataka građana, a tako nešto samo po sebi otvara pitanja etičnosti i morala.

Uostalom, Opća uredba o zaštiti podataka (GDPR) sugerira da se podaci smiju prikupljati i dijeliti samo uz odobrenje pojedinca, odnosno, u slučajevima koji dokazano štite sigurnost. Upravo taj segment pokušava se "progurati" kako bi kamere za nadzor dobile prava koja nemaju drugi uređaji ili softverski alati na tlu Europske unije.

Što se bodovanja tiče, to tek dovodi u pitanje moralnost, ali i etiku. Kina kao u seriji Black Mirror koristi kroz testnu fazu testiranje bodovanja ponašanja ljudi, kojima više bodova donosi beneficije. A ti se bodovi prikupljaju ovisno o dobrom ponašanju. Dobrom ponašanju u smislu koji je odredila vlast. Dakle, stručnjaci napominju da bi se EU trebala udaljiti od takve prakse.

Uostalom, sama EU je vodič prema kojem bi se organizacije, institucije i vlade zemalja članica trebale okrenuti kad razvijaju umjetnu inteligenciju. Naravno, ta pravila nisu kao “Tri zakona robotike“ Isaaca Asimova i neće nam pomoći zaustaviti “ubilački pohod strojeva“ već su tu kako bi u startu primjenjivali etičke standarde, nužno potrebne u temeljima nove tehnologije.

Primjerice, ukoliko u budućnosti umjetna inteligencija dijagnosticira rak pacijentu, potrebno je osigurati da softver ne bude pristran ovisno o spolu ili rasi pacijenta, da ne negira liječnikove dijagnoze i da ponudi pacijentu mogućnost objašnjenja dijagnoze. Dakle, neke osnove će se pronaći u vodiču kako bi umjetna inteligencija bila "ljudskija".

Kako bi se postigao cilj, EU je angažirala 52 stručnjaka i oni su u tri koraka pokušali stvoriti temelje potrebna za bolji AI u budućnosti. Riječ je o sedam osnova za postizanje pouzdane umjetne inteligencije, veliki pilot projekt s brojnim partnerima i izgradnja međunarodnog konsenzusa za umjetnu inteligenciju, koji je usmjeren na čovjeka.

Sad su stručnjaci otišli korak dalje pa sugeriraju da se nadzor neveže uz umjetnu inteligenciju i prikupljanje podataka, te bilo kakav sustav bodovanja ponašanja pojedinaca u svrhu napredovanja. Vidjet ćemo hoće li savjete itko saslušati.