Istraživači traže nadzor nad AI sustavima koji se sami poboljšavaju

Istaknuti istraživački rukovoditelji iz OpenAI-ja, Anthropica, Microsofta i Mete pozivaju na zakonodavno djelovanje u trenutku kada AI sustavi sve više automatiziraju procese vlastitog razvoja. U nedavno objavljenom radu više od dvadeset istraživača upozorilo je da bi korištenje umjetne inteligencije za izgradnju sljedećih generacija modela moglo potaknuti brzu „eksploziju inteligencije”.

Autori smatraju da bi takva povratna petlja mogla godine tehnološkog razvoja sažeti u nekoliko mjeseci. Među potpisnicima su glavni znanstvenik OpenAI-ja Jakub Pachocki, suosnivač Anthropica Jack Clark, glavni znanstveni direktor Microsofta Eric Horvitz i potpredsjednica Mete za istraživanje umjetne inteligencije Dawn Song. Navode da bi ubrzanje moglo donijeti velik znanstveni napredak, ali upozoravaju da bi institucije mogle teško pratiti i ublažavati povezane rizike.

Među ključnim opasnostima opisanima u zajedničkom radu nalaze se biološke prijetnje potpomognute umjetnom inteligencijom, ciljani kibernetički napadi na kritičnu infrastrukturu i duboki poremećaji na tržištu rada. Središnje je pitanje mogući gubitak ljudskog nadzora: kako modeli postaju autonomniji, održavanje djelotvorne kontrole moglo bi postati teže. Osim neposrednih sigurnosnih pitanja, autori upozoravaju da bi nagli tehnološki skokovi mogli donijeti presudne geopolitičke prednosti, povećati međunarodne napetosti i narušiti postojeće institucionalne ravnoteže.

„Preliminarni dokazi upućuju na to da je eksplozija inteligencije potaknuta softverom moguća”, navode autori. „Ako se dogodi, mogla bi biti najvažniji tehnološki razvoj u povijesti.” Stoga pozivaju donositelje odluka na jasnije zahtjeve transparentnosti automatiziranih istraživačkih metoda i obvezne, stroge sigurnosne standarde. Predlažu prilagodbu tempa razvoja sposobnosti modela, intenzivno praćenje visokorizičnih eksperimenata i osiguravanje tehničke mogućnosti trenutačnog zaustavljanja sustava.

Također predlažu da se osjetljiva istraživanja provode u sigurnim okruženjima, uz osnivanje međunarodnih mreža za razmjenu informacija o incidentima, jasnije protokole odvraćanja i globalne sporazume o usklađivanju napretka. „U odnosu na ono što je na kocki, nismo dovoljno pripremljeni”, zaključuju istraživači. „Kada eksplozija inteligencije jednom počne, prostor za djelovanje mogao bi se zatvoriti.”

Automatizirano istraživanje obuhvaća zadatke poput pisanja koda, oblikovanja eksperimenata i analize rezultata. Međutim, uspjeh na pojedinačnim zadacima sam po sebi ne dokazuje da sustav može neograničeno unapređivati vlastite sposobnosti. Procjena rizika zahtijeva provjerljive metode i ponovljiva mjerenja. Posebno je važno razlikovati sposobnost modela od pristupa alatima i infrastrukturi koji mu je dodijeljen. Sigurnosna testiranja mogu uključiti simulirane scenarije nepravilnog korištenja sustava. Neovisne evaluacije pružaju dodatnu provjeru nalaza proizvođača. Dokumentiranje razvojnih postupaka olakšava kasniju istragu nepoželjnih ishoda. Međunarodna razmjena informacija može pomoći u prepoznavanju obrazaca incidenata koji prelaze granice pojedinih organizacija. Pritom je potrebno zaštititi poslovne tajne i sigurnosno osjetljive podatke. Za učinkovit nadzor važno je i jasno odrediti tko može zaustaviti eksperiment te pod kojim uvjetima.