Umjetna opća inteligencija (AGI) dolazi poput plime, može se primijetiti, ali samo ako baš pažljivo pratimo što se događa. Naime, započeli smo s uskom umjetnom inteligencijom, modelima izgrađenim za pojedinačne zadatke. Zatim je došla generativna umjetna inteligencija, koja je uvela jezik i kreativnost, analizira Forbes.
Temeljni modeli su to podigli na višu razinu skalirajući inteligenciju kroz teme i kontekste. Sada vidimo pojavu svjetskih modela koji čine više od pukog odgovaranja. Ovi modeli promatraju, simuliraju i djeluju. Nisu samo alati. Postaju autonomni sustavi sposobni upravljati složenim okruženjima bez izravnog ljudskog unosa. Ovo više nije alat. To je sustav.
Sposobnosti se ne samo povećavaju, one se umnožavaju. Jedan AI sustav sada može nadmašiti stručnjake u više domena. S modelima temeljenim na agentima koji koordiniraju zadatke i samorazvijaju se putem sintetičkih podataka, krivulja ubrzanja je oštra i nemilosrdna.
Više nismo u fazi razvoja. Nalazimo se u fazi implementacije, a vrlo malo ljudi shvaća koliko smo već daleko stigli. Da bismo razumjeli razmjere promjena, pogledajmo ljudsku povijest. Gotovo sve što smatramo modernim - električna energija, medicina, letenje i internet, stvoreno je u posljednjih 200 godina. Prije toga, civilizacija se sporo razvijala, kroz slojevito učenje i generacijsku razmjenu.
Znanost je oduvijek bila kumulativna. Kultura je oduvijek bila suradnička. Civilizacija je izgrađena na ramenima onoga što je bilo prije. Sada zamislite da 200 godina znanstvenog napretka zgusnete u jedno desetljeće.
To je kompresija koju doživljavamo. AGI sustavi mogu replicirati godine intelektualnog rada u tjednima. Ne rade samo na rješavanju problema. Otkrivaju probleme vrijedne rješavanja. AGI će eksperimentirati, sintetizirati i iterirati bez čekanja na ljudske cikluse učenja ili odobrenja. Ovo nije evolucija. To je ubrzanje. S tim dolazi i opasan gubitak - vidljivost.
Unatoč svemu napretku, pojam "AGI" ostaje slabo definiran. Neki ga vide kao nadmašivanje ljudi u većini zadataka. Drugi ga povezuju s automatizacijom ekonomski vrijednog rada. Neki se odnose na dominaciju u mjerilima. A opet drugi ga povezuju s financijskim metrikama, poput AI-a koji stvara vrijednost od sto milijardi dolara. Sve su to različite krajnje točke. Sam po sebi, to je problem.
Ako ne možemo definirati AGI, ne možemo uskladiti njegove ciljeve. Ako ga ne možemo uskladiti, ne možemo ga regulirati. Ako ga ne možemo regulirati, riskiramo da postanemo podložni nečemu što nikada nismo istinski razumjeli. Dakle, ako je AGI neizbježan, onda je MAGI (višegentska opća inteligencija) bitna.
Ona je okvir koji predlaže, ne da zaustavi napredak, već da ga strukturira. Izgrađen je na uvjerenju da inteligencija ne bi trebala biti centralizirana ili neprozirna; umjesto toga, trebala bi biti distribuirana, revizibilna i usklađena s ljudskim razumijevanjem.
MAGI pruža mrežu AI agenata, svaki izgrađen za transparentnost, suradnju i kontrolu. Izbjegava zamku jednog glavnog modela i umjesto toga nudi kooperativnu arhitekturu s zajedničkim ciljevima i ljudskim nadzorom.
Ključne komponente MAGI-ja su:
1. Skela: Agenti koji obavljaju specifične uloge unutar jasnih, ali odvojenih granica.
2. Koordinacija: Sustavi koji međusobno djeluju putem zajedničkih ciljeva i protokola.
3. Revizibilnost: Potpuna vidljivost u ono što je zatraženo, što je korišteno i kako je do zaključka došlo.
Razumijevanje mora doći prije povjerenja. A za to služe tri lanca.
1. Lanac misli: Kakav je bio upit? Kako je problem postavljen?
2. Lanac skrbništva: Odakle su podaci? Koji su ih agenti obradili?
3. Lanac rasuđivanja: Koji su koraci poduzeti da bi se došlo do odgovora? Može li se objasniti?
Ta tri lanca osiguravaju da odgovore ne prihvaćamo zdravo za gotovo. Daju nam uvid u AI-jev mentalni proces i pružaju mapu od unosa do izlaza. To je upravo gdje smo "sada", a ipak je to i gdje ćemo završiti ako ne zahtijevamo sljedivost od AI-ja. Naše razumijevanje neće držati korak. U tom trenutku gubimo ne samo kontrolu, već i značenje.
Postoji dublja, egzistencijalnija briga koja nadilazi tehnologiju. To je rizik kognitivnog rasterećenja bez razumijevanja. Kada prestanemo postavljati pitanja, prestajemo razmišljati. Kada se oslanjamo na strojeve da razmišljaju za nas, zaboravljamo kako razmišljati sami.
Sustavi koje gradimo neće samo obavljati naš posao. Oni će oblikovati naše misli, utjecati na naša uvjerenja i odabirati naše mogućnosti. Ako previše rasteretimo, riskiramo da postanemo čuvari sjećanja, a ne mislioci budućnosti.
Tko smo ako prestanemo razumjeti odgovore koje primamo? Što se događa kada su pitanja sama odabrana za nas? To je prava opasnost – ne kontrola stroja, već ljudsko otuđenje.
Jer kada živimo u svijetu, vođenom, dizajniranom i izgrađenom od strane AI-ja... hoće li taj svijet još uvijek biti ljudski dizajn?
