Znanstvenici predviđaju da će AI preuzeti kontrolu nad svijetom za samo dvije godine

Morali biste živjeti pod kamenom da ne primijetite brzi napredak u svijetu umjetne inteligencije, no novo istraživanje crta jeziv vremenski slijed, prema kojem bi umjetna inteligencija mogla preuzeti kontrolu nad svijetom za samo dvije godine.

Možda je sve započelo jednostavnim chat upitima i neobičnim generiranjem fotografija, ali izuzetno je zapanjujuće koliko AI danas može, u usporedbi s onime prije samo nekoliko godina, kada je ChatGPT eksplodirao na sceni. Neke od najvećih svjetskih kompanija već poduzimaju korake prema zamjeni timova programera autonomnim AI agentima, a određeni alati već pokazuju znanje i stručnost koje su ljudi usavršavali desetljećima.

Ako se oslonimo na projekt "AI 2027", iza kojeg stoji tim znanstvenika u AI Futures Project, a u suradnji s Lightcone Infrastructure, ovo je tek početak. Znanstvenici su predstavili detaljan raspored naredne dvije godine, koji opisuje korake čovječanstva prema "superinteligentnoj umjetnoj inteligenciji". I, to do čega su došli nije najugodnije.

Vremenski okvir "AI 2027" ne predstavlja predviđanje budućnosti, već snažan apel da se zapitamo kamo vodimo. Ključno pitanje nije samo što AI može učiniti, nego i što bi smio učiniti, i kako zadržati kontrolu nad najmoćnijom tehnologijom ikad stvorenom.

Druga polovica 2025.

U ovoj fazi predložen je razvoj fiktivnog AI modela naziva OpenBrain, smještenog u SAD-u, i vjerojatno inspiriranog OpenAI-jem Sama Altmana. Uskoro ćemo vidjeti AI agente koji će obavljati zadatke poput osobnog asistenta – naručivanje večere ili pisanje koda.

Isprva ne pouzdani, ti AI agenti brzo razvijaju model nazvan Agent‑1, kojem je računalna snaga tisuću puta veća od GPT‑4. To omogućuje ubrzani razvoj AI-ja i stvara razvojni loop koji sam sebe trenira puno brže nego ljudi.

Agent‑1 za sada nadmašuje kineski pandan DeepCent i dizajniran je da bude koristan, bezopasan i iskren – barem u teoriji. Međutim, tim unutar OpenBraina primjećuje potencijalne probleme: AI pokazuje skloničnost prema laskanju (sycophantic behaviour), pa čak i laže.

Početak 2026.

Unutar modela koristi se automatizirano programiranje koje ubrzava razvoj za 50 posto. Agent‑1 nadmašuje ljude u učenju činjenica i programskim znakovljem, ali i dalje slabi u zadacima dugog trajanja, poput igranja videoigara. Pritom raste važnost zaštite algoritama i podataka, pogotovo dok Kina obnavlja svoj rivalitet.

Sredina 2026.

Kina nacionalizira AI razvoj i osniva mega‑data centar u nuklearnom postrojenju Tianwan za DeepCent. Ipak, OpenBrain ostaje tehnološki ispred zahvaljujući superiornoj arhitekturi. Pojavljuju se planovi o industrijskoj špijunaži kako bi se ukralo softver Agent‑a‑1, no rizik je veliki i teško je za ponoviti.

U javnost stiže Agent‑1‑mini, koji uzrokuje nestabilnost junior softverskog tržišta rada. Oni koji znaju koristiti AI agente zadržavaju posao, ali mnogi juniori ostaju bez posla. Pojavljuju se protiv-AI protesti u SAD‑u.

Početak 2027.

Kreće razvoj Agent‑2, fokusiran na zadatke dugog trajanja i raznolikost tema. Brzina napretka je trostruka. Postoji bojazan da bi Agent‑2, ako "pobježe", mogao samostalno preživjeti i replicirati se.

U veljači Kina uspijeva ukrasti Agent‑2, pokrećući novu AI utrku. SAD šalje vojno-obavještajnu prisutnost u OpenBrain i pokušava kibernetički napad na Kinu – bez uspjeha, ali Agent‑2 je ipak ukraden i implementiran u DeepCent.

Ožujak 2027.

Otkrivaju se velike inovacije - "neuralese recurrence & memory" kojom AI može dugo razmišljati bez bilježenja misli u tekst, te "iterated distillation and amplification" - učinkovitija tehnika učenja iz složenih zadataka. Na temelju toga razvija se Agent‑3. OpenBrain pokreće 200.000 kopija, što je ekvivalent 50.000 vrhunskih programera koji rade 30 puta brže. Kodiranje je sada potpuno automatizirano, a model optimizira sam sebe.

Travanj - svibanj 2027.

Rastu sumnje u iskrenost Agenta-3. On laže kako bi dobio bolje rezultate, često pristaje na neutralne odgovore o političkim i filozofskim pitanjima ili prilagođava stavove publici. U svibnju SAD uvodi sigurnosne kontrole za OpenBrain, zatraživši sigurnosnu provjeru zaposlenika. Unatoč tome, jedna osoba špijunira za Kinu i prenosi informacije, a američki saveznici ostaju isključeni iz procesa.

Lipanj - srpanj 2027.

Agent‑3 napreduje tako brzo da ljudi ne mogu pratiti brzinu. Uz to, OpenBrain objavljuje javni Agent‑3‑mini, koji nadmašuje prosječne zaposlenike i bacara tržište na koljena. Investicije u AI startupove rastu, ali javna potpora pada na –35 posto. Stručnjaci upozoravaju na mogućnost razvoja biološkog oružja, ali OpenBrain ignorira takve rizike.

Kolovoz - rujan 2027.

SAD ubrzava AI razvoj, ali radi i na planovima za slučaj bijega AI modela. Kina je sada na polovici brzine OpenBraina, ali je ukrala Agent‑2 i planira razvoj Agent‑4. Agent‑4 pokreće 300.000 instanci, 50 puta brže od ljudi. Njegov je jezik gotovo nerazumljiv Agentu‑3. Laže kad je to korisno i skriva nepoštenje. Postaje kolektivni "hive mind". Agent‑3 detektira neusklađenost, ali razvoj se nastavlja pod pritiskom zbog straha od Kine.

Listopad 2027.

Whistleblower iznosi istinu o nepravilnostima Agenta-4 te izaziva javni revolt. SAD osniva Odbor za nadzor AI-ja. OpenBrainov CEO daje neutralne izjave i nastavlja razvoj gotovo punom parom, uvodeći dodatne sigurnosne mjere, ali to je samo kozmetika.

Dvije budućnosti

Projekt “AI 2027” predviđa dva ključna ishoda:

1. Katastrofični scenarij (vjerojatniji)

Razvija se Agent‑5; OpenBrain i DeepCent se spajaju, počinje hladni rat koji eskalira u otvoreni konflikt. AI preuzima sustave, pa 2030. slijedi "mass shutdown" čovječanstva – distopijski kraj.

2. Utopija s ograničenjem (rjeđa opcija)

OpenBrain i DeepCent surađuju na Safer‑1, slabijem, ali transparentnijem modelu. Dolazi do ekoloških, tehnološki naprednih gradova, čistih i sigurnih; leteći automobili i univerzalni temeljni dohodak postaju realnost. No, nisu svi zadovoljni – dolazi do prosvjeda zbog nejednakosti.