HUP ICT očekuje da promjene Kaznenog zakona ne ugroze ulaganja i inovacije

Hrvatski Kazneni zakon uskoro bi trebao dobiti novo poglavlje i članak kojim se prvi put izravno odnosi na umjetnu inteligenciju. Riječ je o članku 215.a kojim se uvodi kazneno djelo dovođenja u opasnost života i imovine korištenjem sustava temeljenih na umjetnoj inteligenciji. Time zakonodavac pokušava odgovoriti na brzi razvoj tehnologije i potencijalne prijetnje koje ona može izazvati, primjerice kroz autonomna vozila, robote ili softvere koji samostalno donose odluke.

Prema prijedlogu, svatko tko u razvoju, testiranju, nadzoru ili uporabi AI sustava izazove opasnost za ljude ili imovinu, a da pritom nije počinjeno teže kazneno djelo, mogao bi završiti u zatvoru od šest mjeseci do pet godina. Ako se to učini iz nehaja, kazna je blaža, do tri godine zatvora.

Kazne rastu ovisno o posljedicama. Ako sustav umjetne inteligencije prouzroči tešku ozljedu ili veliku materijalnu štetu, zatvorska kazna može biti od jedne do deset godina. U slučaju smrti jedne ili više osoba, predviđena je kazna od tri do petnaest godina. Ako je pak smrt ili teška ozljeda posljedica nehata, kazne su niže, ali i dalje stroge – od šest mjeseci do osam godina zatvora.

Ovakve izmjene Kaznenog zakona pokazuju da država želi jasno regulirati odgovornost za postupke umjetne inteligencije. Poruka je jasna – iako sustavi donose odluke sami, odgovornost uvijek snosi čovjek koji ih razvija, testira ili koristi. Time se nastoji osigurati zaštita ljudi i imovine u situacijama kada tehnologija zakaže ili se koristi na neodgovoran način.

Iz HUP ICT- naglašavaju da tehnologija i upravljanje njome podrazumijevaju odgovornost, osobito u situacijama kada je riječ o prijetnjama imovini ili životu ljudi, ističe Ratko Mutavdžić, voditelj HUP-Koordinacije za umjetnu inteligenciju i dodaje kako je vrlo važno da se ta odgovornost adekvatno regulira, bez narušavanja klime za ulaganja i inovacije.

U tom smislu smatramo da kaznenopravna regulativa treba biti usmjerena isključivo na one slučajeve u kojima je štetna posljedica rezultat ozbiljnog propusta ili namjere, ističe Mutavdžić.

Europska unija trenutačno je ponajprije usmjerena na građanskopravnu (odštetnu) odgovornost prilagođenu specifičnostima AI sustava. Direktiva o odgovornosti za umjetnu inteligenciju uvodi olakšice za odštetne zahtjeve, uključujući oborivu pretpostavku uzročnosti i obvezu otkrivanja dokaza za visokorizične AI sustave, dok AI Act uspostavlja režim razina rizika (neprihvatljiv, visoki, ograničeni, minimalni) sa strogim pravilima za visokorizične primjene te izričito zabranjuje neprihvatljive prakse poput manipulacije, socijalnog bodovanja (prikupljanja i agregiranja podataka o ponašanju i obilježjima pojedinaca) i uporabe biometrije bez odgovarajućih jamstava.

Europska praksa dakle primarno uvodi odgovornost kroz građanskopravne mehanizme, dok kazneno pravo zasad nije primarni okvir za regulaciju AI rizika u EU. U tom smislu, uvođenje ovakvog novog kaznenog djela bio slučaj bez presedana u Europskoj uniji jer niti jedna država članica EU-a nije do sada uvela tako sveobuhvatnu i restriktivnu kaznenu odgovornost za široke aktivnosti u području razvoja i primjene umjetne inteligencije, štoviše, ne postoji niti jedna država članica EU-a koja je uvela novo kazneno djelo koje je općenito i izravno usmjereno na sustave umjetne inteligencije, ističe Mutavdžić.

Uvođenje ovakvih odredbi uzrokovalo bi značajnu pravnu nesigurnost, otežalo normalan tijek poslovanja te stavilo Republiku Hrvatsku u nepovoljan položaj u odnosu na ostale članice EU-a. Time se ozbiljno riskira znatan pad inovacija, odvraćanje investicija i demotivacija stručnjaka u tom području, što bi dugoročno moglo ograničiti razvoj domaće AI industrije i ukupne konkurentnosti hrvatskog gospodarstva, kako na europskoj, tako i na svjetskoj razini.

Slijedom navedenog, u HUIP ICT-u smatraju da kako bi umjesto općeg kaznenog djela bilo potrebno slijediti dosadašnji europski pristup identificirati konkretne scenarije visokog rizika u kojima sustavi umjetne inteligencije mogu dovesti do ugrožavanja života, zdravlja ili imovine (npr. autonomna vozila, sustavi umjetne inteligencije u medicini, kritične infrastrukture),

U tim scenarijima, prema potrebi, i samo ako već ne postoji posebno kazneno djelo pod koje se mogu podvesti identificirani rizici, predvidjeti posebne inkriminacije ili otegotne okolnosti, uz jasne granice i definicije, uskladiti definicije pojmova s Aktom o umjetnoj inteligenciji, kako bi se izbjegle pravne praznine i preklapanja, zaključuju iz HUP ICT-a.

Promjene

Članak 8.

Iza članka 215. dodaju se naslov iznad članka i članak 215.a koji glase:

„Dovođenje u opasnost života i imovine sustavom umjetne inteligencije

Članak 215.a

• Tko u razvoju, testiranju, provjeri, nadzoru, upravljanju, uporabi sustava umjetne inteligencije ili na drugi način izazove opasnost za život ili tijelo ljudi ili za imovinu većeg opsega, a time nije počinjeno teže kazneno djelo, kaznit će se kaznom zatvora od šest mjeseci do pet godina. 

• Tko kazneno djelo iz stavka 1. ovoga članka počini iz nehaja, kaznit će se kaznom zatvora do tri godine.  

• Ako je kaznenim djelom iz stavka 1. ovoga članka prouzročena teška tjelesna ozljeda neke osobe ili imovinska šteta velikih razmjera, počinitelj će se kazniti kaznom zatvora od jedne do deset godina.  

• Ako je kaznenim djelom iz stavka 1. ovoga članka prouzročena smrt jedne ili više osoba, počinitelj će se kazniti kaznom zatvora od tri do petnaest godina.  

• Ako je kaznenim djelom iz stavka 2. ovoga članka prouzročena teška tjelesna ozljeda neke osobe ili imovinska šteta velikih razmjera, počinitelj će se kazniti kaznom zatvora od šest mjeseci do pet godina.  

• Ako je kaznenim djelom iz stavka 2. ovoga članka prouzročena smrt jedne ili više osoba, počinitelj će se kazniti kaznom zatvora od jedne do osam godina.“.

 

 HUP ICT napominje nekoliko ključnih pitanja usklađenosti ovakvog prijedloga kaznenog djela s pravnim poretkom i stečevinom Europske unije. 

1. Suprotnost s načelima Uredbe (EU) 2024/1689 (Akt o umjetnoj inteligenciji)

• • Akt o umjetnoj inteligenciji uspostavlja administrativnu regulaciju temeljenu na precizno određenim scenarijima visokorizične uporabe (npr. u zdravstvu, prometu, zapošljavanju, kritičnim infrastrukturama).
  • Predloženi članak 215.a, međutim, uvodi opće kazneno djelo koje obuhvaća svaki „razvoj, testiranje, provjeru, nadzor, upravljanje i uporabu sustava umjetne inteligencije ili na drugi način“ ako je time stvorena opasnost. Takva opća formulacija nije u skladu s temeljnim regulatornim pristupom EU-a, koji zahtijeva taksonomiju rizika i jasnu kategorizaciju slučajeva u kojima se traži pravna intervencija.
  • Ako bi se usvojio prijedlog donošenja novog kaznenog djela, imali bismo situaciju da se na nižu kategoriju pravnih propisa (administrativne povrede) primjenjuju stroži kriteriji nego na višu kategoriju pravnih propisa (kaznene povrede), što je apsurdno.  

2. Preklapanje s postojećim kaznenim djelima

• Kazneni zakon već poznaje djela protiv opće sigurnosti ljudi i imovine (članak 215. - Dovođenje u opasnost života i imovine općeopasnom radnjom ili sredstvom, članak 222. - Teška kaznena djela protiv opće sigurnosti) pa tako ne postoji pravna praznina u odnosu na opis kaznenog djela iz predloženog članka 215.a jer bi se taj opis mogao podvesti pod već postojeća kaznena djela.

• Uvođenje iznimno restriktivne odredbe koja obuhvaća „razvoj, testiranje, provjeru, nadzor, upravljanje, uporabu sustava umjetne inteligencije ili na drugi način“, bez jasnog razlikovanja od postojećih instituta, stvara pravnu nesigurnost i otvara prostor za arbitrarnu primjenu.

 

3. Rizik od povrede načela pravne izvjesnosti i lex certa

• • Pravna stečevina Europske unije zahtijeva da kaznena djela budu precizno određena. Opća definicija koja uključuje svaku uporabu umjetne inteligencije, neovisno o kontekstu, suprotna je načelu lex certa.
  • Usporedno, Direktiva (EU) 2024/1385, kao prvi primjer harmonizirane EU kaznene regulacije područja koje je dijelom povezano s umjetnom inteligencijom, obvezuje države članice na kriminalizaciju točno određenog ponašanja koje je samo dijelom povezano s umjetnom inteligencijom (npr. neovlaštena izrada i distribucija seksualiziranih deepfakeova), a ne na uvođenje općih klauzula. Ovdje je važno naglasiti da spomenuta direktiva nije usmjerena na sustav umjetne inteligencije kao takav, već je usmjerena na neovlaštenu izradu i distribuciju seksualiziranih slika (deepakeova), koje mogu, ali ne moraju biti generirane pomoću sustava umjetne inteligencije. 

4. Fragmentacija regulatornog okvira EU-a

• • Restriktivne nacionalne kaznene odredbe mogle bi fragmentirati unutarnje tržište EU-a za AI usluge i stvoriti regulatornu arbitražu. To je u suprotnosti s ciljem EU-a o harmoniziranoj regulaciji umjetne inteligencije kroz Akt o umjetnoj inteligenciji.
  • Uslijed navedene regulatorne arbitraže, hrvatski AI sektor mogao bi se naći u znatno nepovoljnijem položaju u odnosu na AI sektore u drugim državama članicama s manje restriktivnim kaznenopravnim okvirima. 

5. Obveze Republike Hrvatske u procesu usklađivanja

• • Republika Hrvatska dužna je do 14. lipnja 2027. transponirati obveze iz Direktive 2024/1385 i istodobno osigurati da nacionalno zakonodavstvo bude u skladu s Aktom o umjetnoj inteligenciji.
  • Uvođenje članka 215.a u predloženom obliku moglo bi dovesti do nesuglasja s pravom EU-a, što otvara rizik od pokretanja postupaka zbog povrede prava Unije.

Pregled komparativne kaznenopravne prakse drugih država članica EU-a 

U nastavku je pregled kaznenih djela vezanih uz sustave umjetne inteligencije po pojedinim državama članicama EU, prema našim trenutnim saznanjima. Ponovno naglašavamo kako trenutno niti jedna država članica EU-a nema posebno kazneno djelo koje bi bilo izravno vezano uz sustave umjetne inteligencije, na način kakav je predviđen u prijedlogu članka 215.a.

Kao što smo prethodno istaknuli, Direktiva (EU) 2024/1385, kao prvi primjer harmonizirane EU kaznene regulacije područja koje je dijelom povezano s umjetnom inteligencijom, obvezuje države članice da do 14. lipnja 2027. kriminaliziraju proizvodnju, manipulaciju i distribuciju seksualiziranih digitalnih sadržaja (deepfake) bez pristanka žrtve.

Pojedine države (npr. Francuska, Nizozemska, Belgija) već su uvele izričita kaznena djela koja obuhvaćaju deepfake sadržaje spolne naravi.

Dodatno, u području autonomnih vozila, Njemačka je zakonom uredila obvezu postojanja „tehničkog nadzornika“, čime se kaznena i prekršajna odgovornost i dalje usmjerava prema ljudskim akterima, a ne prema samom sustavu umjetne inteligencije.

 

Odabrane države - stanje i trendovi