REGULATIVA I DIGITALNA POLITIKA

EU poziva AI laboratorije na razgovoro o umjetnoj inteligenciji

Ursula von der Leyen najavila je da će Europska komisija okupiti vodeće laboratorije za napredni AI kako bi razgovarali o kontroliranju tempa razvoja modela. EU želi s Kanadom, Ujedinjenim Kraljevstvom i drugim partnerima povezati evaluaciju, provjeru, rano upozorenje i AI sigurnost. Predsjednica Komisije upozorila je da bi novi modeli mogli omogućiti kibernetičke napade dosad nezamislive razine. Datum sastanka, sudionici i obvezujuća pravila nisu objavljeni, pa je riječ o političkoj najavi koja tek treba dobiti mjerljive kriterije.

EU poziva AI laboratorije na razgovoro o umjetnoj inteligenciji
Depositphotos

Predsjednica Europske komisije Ursula von der Leyen najavila je u Europskom parlamentu u Strasbourgu da će pozvati vodeće laboratorije za razvoj najnaprednijih modela na razgovore o ograničavanju rizika i upravljanju tempom razvoja. Poziv je dio govora o stanju Unije, a Komisija nije navela datum, mjesto ni popis sudionika. Najava se odnosi na modele na tehnološkoj granici, ne na opću zabranu razvoja ili primjene umjetne inteligencije.

Von der Leyen podržala je poruke vodećih američkih AI direktora da bi razvoj samopoboljšavajućih modela trebalo usporiti dok ne postoje jače zaštitne mjere. Rekla je da će sve sposobniji modeli omogućiti hakiranje na razini koja se dosad nije smatrala mogućom te da će takvi alati doći u ruke protivnika. Komisija razgovor želi usmjeriti na to kako javne vlasti mogu poduprijeti industrijske napore za 'pacing the frontier', odnosno kontroliraniji tempo na samom rubu sposobnosti.

Politički trenutak dolazi nakon poziva šefa Anthropica Darija Amodeija na međunarodnu suradnju i sporiji razvoj najrizičnijih sposobnosti, koji su podržali čelnici OpenAI-ja i xAI-ja. Raspravu je pojačala ostavka istraživača Jacoba Coxona, bivšeg zaposlenika OpenAI-ja i Anthropica, koji je tvrtke optužio da prema samopoboljšavajućoj superinteligenciji jure bez dovoljne odgovornosti. To su stavovi pojedinaca i industrije, a ne službeni dokaz da određeni model već ima takvu sposobnost.

Komisija predlaže i užu međunarodnu skupinu s Kanadom, Ujedinjenim Kraljevstvom i drugim partnerima. Područja suradnje trebala bi obuhvatiti evaluaciju modela, neovisnu provjeru, rano upozorenje i AI sigurnost. Za tržište je važna mogućnost da se testovi i pragovi priznaju u više jurisdikcija. Laboratorij koji danas prolazi različite postupke u Londonu, Ottawi i Bruxellesu mogao bi dobiti usporediv skup dokaza, ali samo ako partneri usklade metode, pristup modelu i pravila o povjerljivim podacima.

EU u pregovore ulazi s AI Actom, koji za modele opće namjene sa sistemskim rizikom već predviđa procjene, prijavu ozbiljnih incidenata, kibernetičku zaštitu i ublažavanje rizika. Poziv laboratorijima mogao bi nadograditi provedbu praktičnim dogovorom o testiranju prije objave ili o privremenom zaustavljanju kada model prijeđe unaprijed definiran prag. Govor, međutim, nije naveo koji bi se kapacitet mjerio, tko bi smio provjeravati rezultate ni kakva bi sankcija slijedila nakon odbijanja suradnje.

Izraz 'usporavanje' zato zasad ima više mogućih značenja. Može označavati dulje interne provjere prije puštanja modela, odgodu treniranja sljedeće generacije, ograničavanje određenih funkcija ili zajednički dogovor da se ne razvijaju sposobnosti bez nadzora. Svaka varijanta ima drukčiji tržišni učinak: od većeg troška testiranja do odgode prodaje i prihoda. Bez definicije nije moguće procijeniti hoće li prednost imati najveće tvrtke, koje lakše financiraju sigurnosne timove, ili manji europski razvijatelji.

Najava otvara i pitanje sudjelovanja tvrtka izvan kruga američkih laboratorija. Komisija nije imenovala Anthropic, OpenAI, Google DeepMind, Meta, Microsoft, xAI ili europski Mistral kao formalne sudionike. Nije objašnjeno ni kako bi se u okvir uključili otvoreni modeli, akademski centri i proizvođači čipova. Ako pravila obuhvate samo zatvorene komercijalne modele, rizične sposobnosti mogle bi se razvijati izvan dogovora; ako zahvate cijeli ekosustav, provedba postaje znatno složenija.

U istom govoru von der Leyen najavila je i strože uvjete za račune maloljetnika na društvenim mrežama, ali detalji tog paketa trebali bi biti predstavljeni 17. rujna i nisu predmet ove odluke o AI laboratorijima. Sljedeći dokaz ozbiljnosti AI inicijative bit će službeni poziv s datumom, sudionicima i dnevnim redom. Komisija će tada morati razdvojiti dobrovoljne obveze od zahtjeva koji proizlaze iz AI Acta. Tek nakon toga moći će se vidjeti hoće li razgovor proizvesti zajedničke testove, rokove i provjerljive izvještaje ili ostati politička poruka bez obvezujućeg učinka.