Trebaju li AI botovi lagati?

Trebaju li AI botovi lagati?
DepositPhotos

Umjetna inteligencija (AI) trebala bi uvelike olakšati živote ljudima u raznim situacijama, ali strah od nje itekako postoji. Teško je reći koliko jest ili nije opravdan, no isto je tako teško odgovoriti na brojna pitanja koja se postavljaju i na prvu djeluju poprilično jednostavna, a zapravo to nisu ni izbliza. Primjerice, što ako bot koji treba služiti kao podrška korisniku kaže laž, neovisno o tome je li mu rečeno da je kaže ili je to „odlučio“ sam...

Ako je botu rečeno da laže, kako se nakon toga može pridobiti povjerenje, ne samo korisnika, već šire javnosti? Bio bi to znak da se umjetnom inteligencijom može manipulirati na poprilično negativan način. No, nisu li i ljudi takvi sami po sebi prečesto?

Takvim i sličnim pitanjima bave se računalni znanstvenici Tathagata Chakraborti i Subbarao Kambhampati s američkog sveučilišta Arizona State u svom posljednjem radu "Algoritmi za veće dobro!" (Algorithms for the Greater Good!).

Zaključak jest da nije dovoljno umjetnu inteligenciju napraviti pametnom već kompatibilnom s ljudskom inteligencijom, u svim smjerovima, što uključuje i ona ponašanja koja odstupaju, ali i ponašanja koja su vezana uz društvene ili kulturološke norme. Krzo rad su proveli niz anketa u kojima su sudjelovali studenti i njihovi odgovori su varirali, što dodato otežava AI developerima rad.

Kad su bili upitani o tome je li im problem izreći laž umjetnoj inteligenciji, u većini slučajeva rekli su da nije, ali kad su upitani bi li im smetalo ako AI laže njima, neki su rekli da ne bi, neki da bi. Kako raditi s time? Svako pitanje vezano uz uobičajenu interakciju funkcionira na takav način. Sve to samo znači da AI treba vremena za razvoj i da ne treba krenuti s osudama odmah, niti s panikom, paranojom, strahom...

Zapravo će biti veliki korak prema naprijed kad će AI znati procijeniti kad lagati čovjeku. Liječnici to čine kako bi zaštitili pacijente i(li) njihove obitelji i to je u redu. Čine to roditelji s djecom, odgajatelji, učitelji... Sad "samo" AI developeri moraju pronaći način kako naučiti AI koje su laži u određenim situacijama bezazlene, a koje nisu.