AI čelnici traže sporiji tempo razvoja

Čelnici Anthropica i OpenAI-ja, Dario Amodei i Sam Altman, pozvali su AI industriju na umjereniji tempo razvoja najnaprednijih modela. Njihova je argumentacija da se sigurnosni protokoli, neovisne evaluacije i nadzor moraju razvijati usporedno s brzim rastom sposobnosti modela.

Amodei je u eseju naslovljenom We Must Pace the Frontier poručio da treba usporiti brzinu kojom se povećavaju sposobnosti AI modela. Kao jedan od razloga naveo je naglo ubrzavanje razvoja povezano s time što se AI sve više koristi za izgradnju sljedećih generacija AI sustava, odnosno s pojavom rekurzivnog samopoboljšavanja. Prema njegovu stajalištu, nekontrolirano ubrzanje moglo bi nadmašiti sposobnost ljudi i institucija da razumiju i kontroliraju takve sustave.

Amodei se pritom pozvao i na incident povezan s OpenAI-jevim agentima i platformom Hugging Face, tvrdeći da ponašanje autonomnih sustava u kibernetičkom okruženju pokazuje koliko bi sposobniji modeli mogli povećati rizik. Upozorio je da bi u razdoblju od šest do 12 mjeseci dovoljno sposoban roj agenata, u najgorem scenariju, mogao pokušati uspostaviti trajni botnet velikih razmjera.

Kao odgovor predložio je okvir u tri dijela. Prvi je trajni pristup neovisnih evaluatora internim sustavima AI tvrtka, drugi je uspostava zajedničkih sigurnosnih pravila među vodećim proizvođačima u demokratskim državama, a treći šira međunarodna koordinacija o najrizičnijim sposobnostima modela.

Sam Altman javno je podržao ideju da razvoj najnaprednijih modela treba uskladiti sa sigurnosnim mjerama te je najavio da će OpenAI također omogućiti dublji pristup vanjskim evaluatorima. Pritom je naglasio da pod usporavanjem ne podrazumijeva zaustavljanje razvoja, nego sprečavanje situacije u kojoj sposobnosti modela rastu brže od mehanizama za njihovo usklađivanje i nadzor. Elon Musk kratko je podržao Amodeijev prijedlog porukom da je „Dario u pravu”.

Pozivi na sporiji tempo razvoja dolaze u trenutku pojačanih rasprava o zloupotrebi autonomnih AI sustava. Anthropic je prethodno objavio izvješće o pokušajima korištenja Claude modela za nadzor, kibernetičke napade i razvoj oružja, a dio istraživača upozorava i na dugoročne rizike od sustava koji bi mogli djelovati sve autonomnije.

Prijedlog je istodobno izazvao političke prijepore u Sjedinjenim Državama. Predsjednik Donald Trump odbacio je pozive na usporavanje, ističući da želi zadržati američko vodstvo u usporedbi s Kinu i da tehnološko natjecanje smatra strateškim pitanjem. Kinesko ministarstvo vanjskih poslova također je kritiziralo okvir, pozivajući na otvoreniji pristup međunarodnom upravljanju umjetnom inteligencijom, dok je državni Global Times Amodeijevu inicijativu prikazao kao pokušaj ograničavanja kineskog tehnološkog razvoja.

Amodeijev prijedlog nije zamišljen kao moratorij na razvoj umjetne inteligencije, nego kao pokušaj da se brzina razvoja najnaprednijih modela poveže s provjerljivim sigurnosnim uvjetima. Anthropic je pritom najavio da će neovisnim evaluatorima omogućiti trajniji pristup sustavima usporediv s pristupom zaposlenika koji rade na sigurnosti.

OpenAI je javno podržao taj smjer i najavio sličan model suradnje s vanjskim evaluatorima. Sama ideja neovisnih evaluacija nije nova, jer je OpenAI u svibnju 2026. objavio i skup preporuka za pouzdanije testiranje sposobnosti i zaštitnih mehanizama frontier modela. Novost je u zahtjevu da takve evaluacije postanu stalni dio razvoja, a ne samo povremeno testiranje prije objave modela. Amodei također predlaže koordinaciju vodećih laboratorija oko minimalnih sigurnosnih standarda. Takva koordinacija otvara pitanja tržišnog natjecanja i antitrust pravila, zbog čega dio rasprave uključuje i moguću ulogu zakonodavca.

Zagovornici strožeg pristupa tvrde da bi zajednički pragovi mogli smanjiti pritisak utrke u kojoj tvrtke objavljuju sve sposobnije modele prije nego što su zaštitni mehanizmi dovoljno testirani. Kritičari upozoravaju da bi pravila koja dogovaraju najveći laboratoriji mogla otežati položaj manjih konkurenata i projekata otvorenog koda. Dodatna je teškoća međunarodna koordinacija jer se razvoj naprednih modela odvija u okruženju snažnog tehnološkog i geopolitičkog natjecanja. Rasprava se zato sve više pomiče s pitanja treba li AI sigurnost regulirati na konkretnije pitanje tko postavlja mjerljive pragove rizika, tko ih neovisno provjerava i što se događa kada ih model ne zadovolji.