Umjetna inteligencija u zdravstvenoj skrbi uz skrivenu prijetnju pristranosti

Sve veća upotreba umjetne inteligencije (UI) u zdravstvu donosi obećanja o revolucionarnim poboljšanjima dijagnostike, personalizacije tretmana i optimizaciji administrativnih procesa, no istovremeno otkriva ozbiljnu zabrinutost zbog algoritamske pristranosti u medicinskoj skrbi, pogotovo prema ženama i etničkim manjinama.

Pristranost u zdravstvenoj UI često proizlazi iz povijesnih podataka koji odražavaju postojeće nejednakosti u društvu. Algoritmi trenirani na neravnotežnim skupovima podataka mogu reproducirati i pojačati diskriminaciju na temelju spola, rase, etničke pripadnosti ili socioekonomskog statusa. 

Primjerice, AI alati za dijagnozu raka kože trenirani uglavnom na fotografijama svijetle kože znatno su manje precizni za dijagnosticiranje melanoma kod tamnijih tipova kože, a sustavi podrške za kliničke odluke često podcjenjuju simptome kod žena jer su povijesni medicinski zapisi fokusirani na muške parametre.

Konsekvence tih pristranosti konkretno se ogledaju u pogrešnim dijagnozama, neadekvatnim tretmanima ili odbijanju pristupa zdravstvenim intervencijama za marginalizirane skupine. U slučajevima gdje AI sustavi generiraju preporuke, marginalizirane skupine mogu primati slabije kvalitetne savjete ili biti zanemarene zbog algoritamskih ograničenja. Studije su pokazale da algoritmi mogu koristiti trošak liječenja kao proxy za potrebu, pa su bijeli pacijenti, koji često koriste skuplje tretmane, algoritamski identificirani kao bolesniji — što dovodi do neravnomjerne raspodjele resursa.

Korištenje pristranih AI alata potkopava povjerenje javnosti u zdravstvene institucije, pogotovo među zajednicama koje već imaju povijest loših zdravstvenih ishoda ili sumnje u sustav. Pacijenti postaju skeptični prema automatiziranim dijagnostičkim procesima, bojeći se da njihovi podaci mogu biti pogrešno protumačeni ili zloupotrebljeni. Nedostatak transparentnosti u radu AI sustava dodatno otežava uspostavu povjerenja, jer je često nejasno na temelju kojih parametara algoritmi donose ključne odluke za zdravlje pojedinca.

Ustrajnost pristranosti u razvoju AI tehnologija može dugoročno usporiti inovacije, jer se algoritmi razvijaju na ograničenim i nedovoljno raznovrsnim skupovima podataka. Investitori i regulatorna tijela nevoljko podržavaju rješenja koja ne zadovoljavaju kriterije pravednosti, što ograničava razvoj inkluzivnih medicinskih tehnologija. Posljedica je razvoj rješenja koja favoriziraju većinske skupine, dok potrebe manjina ostaju zanemarene, što se reflektira na ukupnu kvalitetu i dostupnost zdravstvene skrbi.

Regulatorne agencije širom svijeta počele su reagirati na etičke izazove vezane uz UI u medicini. Propisi sada zahtijevaju da organizacije aktivno identificiraju i umanjuju rizike pristranosti, a sve više zemalja uvodi obvezan nadzor zdravstvenih djelatnika nad AI-powered odlukama. To uključuje evaluacije algoritama prije njihove primjene, osiguravanje transparentnosti, te razvoj modela koji uključuju raznolike podatke iz različitih demografskih grupa.

MIT, Harvard i ostale vodeće institucije ističu da je ključ za suzbijanje pristranosti u AI sustavima korištenje raznolikih podataka, transparentnost u dizajnu algoritama, stalni nadzor tijekom životnog ciklusa modela te sudjelovanje više dionika u razvoju tehnologije. Potrebno je implementirati procedure za sustavno otkrivanje pristranosti i stalno prilagođavati modele na temelju novih podataka, dok istovremeno educirati zdravstvene radnike o mogućnostima, ali i ograničenjima ovih sustava.

U konačnici, pravedna i odgovorna primjena umjetne inteligencije u zdravstvu može doprinijeti smanjenju dispariteta, ali samo ako se pristranosti prepoznaju, nadziru i sustavno minimiziraju od prvog dana razvoja do svakodnevne upotrebe u praksi.