EU postigla politički dogovor o pravilima umjetne inteligencije

Europski parlament i Vijeće postigli su politički dogovor o Zakonu o umjetnoj inteligenciji (AI Act), koji je predložila Europska komisija u travnju 2021. Nova pravila primjenjivat će se izravno na isti način u svim državama članicama, na temelju buduća definicija umjetne inteligencije.

“AI već mijenja naše svakodnevne živote. A ovo je tek početak. Ako se koristi mudro i naširoko, umjetna inteligencija obećava velike koristi našem gospodarstvu i društvu. EU-ov Zakon o umjetnoj inteligenciji prvi je sveobuhvatni pravni okvir za umjetnu inteligenciju u cijelom svijetu. Dakle, ovo je povijesni trenutak. Zakon o umjetnoj inteligenciji prenosi europske vrijednosti u novo doba. Usmjeravanjem propisa na rizike koji se mogu identificirati, današnji sporazum potaknut će odgovorne inovacije u Europi. Jamčeći sigurnost i temeljna prava ljudi i poduzeća, podržat će razvoj, implementaciju i prihvaćanje pouzdane umjetne inteligencije u EU-u. Naš Zakon o umjetnoj inteligenciji dat će značajan doprinos razvoju globalnih pravila i načela za umjetnu inteligenciju usmjerenu na čovjeka,” rekla je Ursula von der Leyen, predsjednica Europske komisije.

Tvrtke koje se ne pridržavaju pravila bit će novčano kažnjene. Kazne bi se kretale od 35 milijuna eura ili 7% globalnog godišnjeg prometa (što god je veće) za kršenje zabranjenih AI aplikacija, 15 milijuna eura ili 3% za kršenje drugih obveza i 7,5 milijuna eura ili 1,5% za davanje netočnih informacija. Predviđene su razmjernije gornje granice za upravne kazne za mala i srednja poduzeća i novoosnovana poduzeća u slučaju kršenja Zakona o umjetnoj inteligenciji.

Zakon o umjetnoj inteligenciji uvodi posebna pravila za modele umjetne inteligencije opće namjene koji će osigurati transparentnost duž lanca vrijednosti. Za vrlo snažne modele koji bi mogli predstavljati sustavne rizike, postojat će dodatne obvezujuće obveze vezane uz upravljanje rizicima i praćenje ozbiljnih incidenata, provođenje evaluacije modela i kontradiktorno testiranje. Ove nove obveze bit će operacionalizirane kroz kodekse prakse koje će izraditi industrija, znanstvena zajednica, civilno društvo i drugi dionici zajedno s Europskom komisijom.

Što se tiče upravljanja, nacionalna nadležna tijela za nadzor nad tržištem nadzirat će provedbu novih pravila na nacionalnoj razini, dok će se stvaranjem novog Europskog ureda za umjetnu inteligenciju unutar EK osigurati koordinacija na europskoj razini. Također će nadzirati provedbu i provedbu novih pravila o modelima umjetne inteligencije opće namjene. Uz nacionalna tijela za nadzor tržišta, Ured za umjetnu inteligenciju bit će prvo tijelo na globalnoj razini koje provodi obvezujuća pravila o umjetnoj inteligenciji te se stoga očekuje da postane međunarodna referentna točka. Za modele opće namjene, znanstveni panel neovisnih stručnjaka igrat će središnju ulogu izdavanjem upozorenja o sistemskim rizicima i doprinosom klasifikaciji i testiranju modela.

Politički sporazum sada podliježe službenom odobrenju Europskog parlamenta i Vijeća te će stupiti na snagu 20 dana nakon objave u Službenom listu. Zakon o umjetnoj inteligenciji tada bi se počeo primjenjivati dvije godine nakon što stupi na snagu, osim nekih posebnih odredbi: zabrane će se primjenjivati nakon 6 mjeseci, dok će se pravila o umjetnoj inteligenciji opće namjene primjenjivati nakon 12 mjeseci. Kako bi se premostilo prijelazno razdoblje prije nego Uredba postane općeprimjenjiva, EK će pokrenuti Pakt o umjetnoj inteligenciji. Okupit će programere umjetne inteligencije iz Europe i cijelog svijeta koji se dobrovoljno obvezuju na provedbu ključnih obveza Zakona o umjetnoj inteligenciji prije zakonskih rokova.