Njemačka uspostavlja nacionalni institut za sigurnost umjetne inteligencije kako bi bolje procjenjivala prilike i rizike povezane s naprednim AI modelima. Njemački ministar za digitalizaciju Karsten Wildberger izjavio je u utorak da bi novo tijelo, oblikovano prema britanskom institutu, trebalo okupiti „vrhunsku stručnost stručnjaka svjetske razine” kako bi moglo brzo testirati nove modele, poput Anthropicova Claudea Mythosa, te savjetovati njemačku vladu.
Osnivanje novog njemačkog instituta u ponedjeljak je odobrilo Nacionalno vijeće za sigurnost, s ciljem analize sposobnosti, dosega i potencijalnih opasnosti AI sustava. Institut bi trebao bliže surađivati sa sličnim tijelima u drugim državama te poticati uspostavu zajedničkih međunarodnih standarda za korištenje umjetne inteligencije.
Među ključnim zadaćama novog tijela bit će AI sigurnost u užem, tehničkom smislu, odnosno zaštita sustava od cyber napada, ali i sigurnost umjetne inteligencije u širem smislu, koja se odnosi na pitanje kako osigurati da najnapredniji modeli ne postanu opasni za ljude, institucije i društvo u cjelini. Time se Njemačka uključuje u sve izraženiji međunarodni trend u kojem se razvoj umjetne inteligencije više ne promatra samo kroz inovacije, produktivnost i industrijsku konkurentnost, nego i kroz sigurnosnu arhitekturu države.
Razvoj Mythosa izazvao je veliku pozornost ranije ove godine nakon što je Anthropic upozorio da bi taj novi model mogao otkrivati softverske ranjivosti u operativnim sustavima. Zbog toga je kompanija odgodila njegovo puštanje u javnu uporabu. Iako njemačka vlada u početku nije imala pristup novom alatu, Savezni ured za informacijsku sigurnost, BSI, koji je dosad predvodio vladine aktivnosti u području AI sigurnosti, u kontaktu je s Anthropicom.
Novi njemački AI institut trebao bi najprije početi raditi kao virtualna institucija, a zatim bi mu se trebalo pronaći odgovarajuće stalno sjedište. Takav pristup omogućuje brži početak rada, ali istodobno pokazuje da se Njemačka još nalazi u fazi institucionalnog oblikovanja vlastitog odgovora na sigurnosne izazove napredne umjetne inteligencije.
Slične institute već imaju brojne države. U Seulu je u prosincu održan međunarodni sastanak posvećen standardizaciji sigurnosnih pravila za umjetnu inteligenciju, na kojem je sudjelovao i BSI. Cilj takvih sastanaka jest smanjiti regulatornu fragmentaciju i uskladiti tehničke metode testiranja, procjene rizika i razmjene informacija među državama koje razvijaju ili nadziru najnaprednije AI sustave.
Njemačka koalicijska vlada osnovala je Nacionalno vijeće za sigurnost prošle godine kako bi mogla brže i učinkovitije odgovarati na krize i prijetnje različitih vrsta. Vijeće, kojim predsjeda njemački kancelar Friedrich Merz, u ponedjeljak je raspravljalo i o sigurnosnoj situaciji na Bliskom istoku.
Na istoj sjednici odlučeno je i da će se preispitati zakoni koji uređuju opskrbu stanovništva i oružanih snaga osnovnim dobrima te funkcioniranje kritične infrastrukture u kriznim razdobljima. Ti bi se propisi trebali prilagoditi suvremenim izazovima, uključujući geopolitičke napetosti, cyber prijetnje, ovisnost o digitalnoj infrastrukturi i sve veću ulogu umjetne inteligencije u sustavima od javnog i sigurnosnog interesa.
Njemački potez dolazi u trenutku kada se međunarodna rasprava o umjetnoj inteligenciji sve snažnije pomiče prema pitanju tko ima kapacitet neovisno testirati najnaprednije modele prije nego što oni postanu široko dostupni. Britanski institut, koji je poslužio kao jedan od uzora njemačkom modelu, razvijen je upravo oko ideje da države moraju imati vlastitu tehničku ekspertizu za razumijevanje graničnih AI sustava, a ne se oslanjati isključivo na procjene samih tehnoloških kompanija.
Za Njemačku je to osobito važno jer se umjetna inteligencija sve više povezuje s industrijskom automatizacijom, obranom, kritičnom infrastrukturom, energetikom, javnom upravom i cyber sigurnošću. BSI već razvija zahtjeve, kriterije testiranja i metodologije za sigurnu primjenu umjetne inteligencije, no novi institut trebao bi proširiti taj okvir prema sustavnijem ispitivanju najnaprednijih modela i njihovih mogućih učinaka. Time AI sigurnost postaje dio šire nacionalne sigurnosne politike, a ne samo pitanje digitalne regulacije ili tehnološke standardizacije.
U europskom kontekstu osnivanje njemačkog instituta uklapa se u provedbu novog regulatornog okvira za umjetnu inteligenciju, ali i u širu borbu za tehnološku suverenost. Dok EU kroz pravila nastoji urediti rizike, obveze i odgovornost pružatelja AI sustava, države članice sve jasnije vide da im je potrebna i vlastita tehnička sposobnost procjene modela. Bez takvih institucija regulacija ostaje formalna, a stvarna moć procjene ostaje kod najvećih globalnih tehnoloških kompanija.
Zato njemački institut nije samo još jedno savjetodavno tijelo. On je signal da se umjetna inteligencija ulazi u istu kategoriju strateških tehnologija kao što su telekomunikacijske mreže, energetska infrastruktura, obrambeni sustavi i kibernetička sigurnost. U toj logici pitanje više nije samo koliko brzo država i industrija mogu usvajati AI, nego tko razumije granice tih sustava, tko ih može neovisno testirati i tko može reagirati prije nego što tehnološki rizik postane sigurnosna kriza.
