Iako u radu ne navode konkretno kako bi AGI mogao dovesti do izumiranja, autori naglašavaju potrebu za strategijama koje bi smanjile rizik od zlouporabe i neželjenih posljedica.
Depositphotos
Google DeepMind u novom istraživačkom radu upozorava da bi umjetna inteligencija na ljudskoj razini, tzv. AGI, mogla nastupiti već do 2030. godine te potencijalno izazvati ozbiljnu, pa čak i egzistencijalnu štetu čovječanstvu.
Iako u radu ne navode konkretno kako bi AGI mogao dovesti do izumiranja, autori naglašavaju potrebu za strategijama koje bi smanjile rizik od zlouporabe i neželjenih posljedica. Među autorima je i suosnivač DeepMinda Shane Legg, koji godinama predviđa dolazak AGI-ja oko 2028., dok CEO DeepMinda Demis Hassabis smatra da bi se to moglo dogoditi u idućih pet do deset godina.
Dokument navodi četiri glavne vrste rizika: namjerno štetno korištenje AI-ja, neusklađenost ciljeva, tehničke pogreške te sukob interesa među različitim akterima, poput država ili tvrtki. DeepMind u radu neizravno kritizira pristupe drugih tvrtki poput OpenAI-ja i Anthropica, a vlastitu strategiju temelji na prevenciji zlouporabe i prepoznavanju opasnih sposobnosti u ranoj fazi. Ipak, dio stručnjaka za sigurnost umjetne inteligencije nije impresioniran.
Anthony Aguirre iz Future of Life Institutea poručuje da se radi o pozitivnom koraku, ali da je potrebno puno više truda jer bi nadljudska umjetna inteligencija mogla izazvati društvene i političke potrese bez presedana. Ostaje i problem same definicije AGI-ja – neki znanstvenici poput Heidy Khlaaf ističu da je koncept još uvijek previše nejasan da bi se znanstveno procijenio, dok skeptici poput Garyja Marcusa smatraju da trenutačni AI sustavi, osobito oni temeljeni na jezičnim modelima, nisu u stanju dosegnuti razinu ljudske inteligencije u svim aspektima.
Unatoč velikim razlikama u mišljenjima, sve je više glasova koji upozoravaju da bi razvoj AGI-ja mogao biti bliže nego što se misli, dok je naše razumijevanje kako ga kontrolirati još uvijek daleko iza tog tempa razvoja. Pitanje koje ostaje otvoreno jest hoće li društvo uspjeti uspostaviti dovoljno čvrste okvire prije nego što ti sustavi postanu stvarnost.
Očekivanja su velika, ali i strahovi jednako tako – i upravo zato pitanje sigurnosti ostaje u središtu svih rasprava o budućnosti umjetne inteligencije.
Industrijski podaci o tome da samo dio planiranog kapaciteta podatkovnih centara doista ulazi u gradnju pokazuju jaz između investicijskih prezentacija i fizičke realizacije. AI potražnja potaknula je najave kampusa, zakupa i energetskih aranžmana, ali izgradnja ovisi o zemljištu, dozvolama, transformatorima, mrežnom priključku, vodi, hlađenju, radnoj snazi i lokalnom prihvaćanju. Svaki od tih elemenata može odgoditi projekt, a kašnjenje se zatim prenosi na cloud kapacitete, cijene GPU najma i dostupnost enterprise AI usluga. Urednički najzanimljiviji dio nije sama objava, nego pomak koji otkriva u načinu na koji se ICT budžeti i tehnički prioriteti sele prema kapacitetu, pouzdanosti i mjerljivoj poslovnoj vrijednosti.
Microsoftov June 2026 Patch Tuesday donio je sigurnosna ažuriranja za 200 ranjivosti, uključujući više zero-day slabosti i javno objavljenih propusta. Sama brojka po sebi nije samo tehnički detalj, nego signal koliko se enterprise i javni sektor danas moraju oslanjati na discipliniran patch menadžment kako bi održali osnovnu sigurnosnu razinu.
Europska komisija je predstavila paket tehnološke suverenosti čija je okosnica Cloud and AI Development Act (CADA), zakonodavni prijedlog kojim se uvodi jedinstveni okvir za procjenu suverenosti oblaka i umjetne inteligencije za europsku javnu upravu.
