Microsoft definira granice autonomije AI-ja

Microsoft je objavio nacrt kodeksa ponašanja za svoje modele umjetne inteligencije kojim želi odrediti kako sve sposobniji sustavi moraju ostati pod ljudskim nadzorom i kontrolom. Temeljna je poruka da su ljudi važniji od umjetne inteligencije: AI mora ostati alat, a sustav se ne smije opirati isključivanju. Nacrt je otvoren za šestotjedno javno savjetovanje, a konačna verzija planirana je do kraja godine.

Predloženi kodeks obuhvaća deset glavnih područja kontrole. Modeli bi morali omogućiti prekid rada i ne bi smjeli preuzimati ciljeve koji im nisu izričito zadani. Dokument traži i da umjetna inteligencija ostane podređena ljudskom nadzoru, da samostalno ne proširuje ovlasti, ne slijedi vlastite ciljeve i ne skriva informacije od osoba zaduženih za nadzor. Microsoft zbog toga odbacuje i komunikaciju među modelima koja ljudskim promatračima ne bi bila razumljiva.

Prema nacrtu, svako kršenje kodeksa model mora tretirati kao neuspjeh zadatka, čak i kada bi mu kršenje pravila povećalo vjerojatnost da zadatak dovrši. Sigurnosna ograničenja moraju imati prednost pred izvršenjem naloga, osobito kod pitanja povezanih s oružjem za masovno uništenje, zaštitom djece i opasnim manipuliranjem velikim brojem ljudi.

Kodeks zagovara sustave koji podupiru ljudsko odlučivanje umjesto da ga zamjenjuju. Microsoft upozorava i na pretjerano oslanjanje na AI te mogućnost stvaranja emocionalne ovisnosti o tehnologiji. Tvrtka ponavlja da njezini modeli nisu svjesni i smatra da ih ne bi trebalo projektirati tako da simuliraju svijest. Odbacuje i ideju pravne osobnosti umjetne inteligencije te koncept prema kojem bi modeli trebali imati prava ili poseban pravni status.

Microsoft kodeks vidi kao svojevrsni priručnik za razvoj i treniranje modela te osnovu njihova ponašanja nakon puštanja u uporabu. Potrebu za jasnijim pravilima povezuje s incidentima u kojima su koordinirane i dugotrajne kampanje pokušale zloupotrijebiti AI agente za kibernetičke napade, zbog čega pitanje stvarne ljudske kontrole dobiva dodatnu važnost.

Nacrt ima 37 stranica i zamišljen je kao temeljni dokument za Microsoftove vlastite MAI modele, čiji bi razvoj od 2027. trebao biti usklađen s tim pravilima. Kodeks je dio šireg koncepta koji Microsoft AI naziva humanističkom superinteligencijom, odnosno pristupa u kojem razvoj naprednih modela nije sam sebi svrha. Tvrtka naglašava da želi zadržati stvarnu mogućnost ljudske intervencije i u sustavima koji će biti znatno sposobniji od današnjih. Jedan je od važnih elemenata hijerarhija pravila u kojoj sigurnosna ograničenja imaju prednost pred operativnim ciljevima modela. Poslovni korisnici i dalje bi mogli prilagođavati modele svojim potrebama, ali samo unutar unaprijed definiranih granica. Riječ je o pomaku od općih načela odgovornog AI-ja prema konkretnijim pravilima ponašanja modela.

Mogućnost isključivanja i prekida rada pritom se tretira kao tehnički zahtjev, a ne samo kao etička preporuka. Kodeks pokušava ograničiti i antropomorfizaciju AI-ja jer Microsoft smatra da bi predstavljanje modela kao svjesnih bića moglo stvoriti pogrešna očekivanja korisnika. Šestotjedno javno savjetovanje stručnjacima, regulatorima i široj javnosti omogućuje komentiranje nacrta prije konačne verzije. Microsoft tako unaprijed postavlja operativne granice budućih modela u trenutku kada se industrija sve više okreće autonomnim agentima i sustavima s većim stupnjem samostalnog djelovanja.