Južna Koreja uvodi pravila za sigurnost umjetne inteligencije

Južna Koreja donijela je zakon o sigurnosti umjetne inteligencije, čime je postala druga država na svijetu, nakon Europske unije, koja je regulirala ovo područje posebnim zakonodavstvom. Zakon uspostavlja nacionalni okvir politika s naglaskom na procjenu rizika, transparentnost i ljudski nadzor.

Ministarstvo znanosti i ICT-a objasnilo je da je zakon osmišljen kako bi potaknuo rast AI sektora uspostavom nacionalnih standarda za pouzdanu umjetnu inteligenciju, s ciljem uravnoteženja inovacija i sigurnosti, posebno kod sustava s velikim utjecajem. Novi zakon obuhvaća tri područja: umjetnu inteligenciju s visokim utjecajem, sigurnosne obveze za visokoučinkovite AI sustave te zahtjeve transparentnosti za generativnu umjetnu inteligenciju. Njegova će se primjena provoditi postupno tijekom najmanje jedne godine, uz naglasak na savjetovanje i edukaciju. Tijekom tog razdoblja vlada neće provoditi činjenične istrage niti uvoditi administrativne sankcije, navodi se u pisanju novina.

Krajem 2024. na snagu je službeno stupio Akt o umjetnoj inteligenciji Europske unije, koji od tvrtki zahtijeva ispunjavanje obveza transparentnosti, objavu detaljnog izvješća o sadržaju korištenom za treniranje AI sustava te provođenje sigurnosnih testova prije lansiranja AI proizvoda. U to je vrijeme izvršni direktor Ericssona Börje Ekholm, zajedno s drugim tehnološkim čelnicima, supotpisao otvoreno pismo u kojem je kritizirao pravila EU-a o umjetnoj inteligenciji i zaštiti podataka, upozoravajući zakonodavce da će fragmentirani pristup dodatno usporiti gospodarski i tehnološki napredak Unije.

Južnokoreški zakon o sigurnosti umjetne inteligencije odražava globalni trend prema jačoj regulaciji naprednih digitalnih tehnologija, pri čemu države nastoje postaviti jasna pravila prije nego što rizici postanu sistemski. Za razliku od strožeg europskog pristupa, korejski model naglašava faznu primjenu i suradnju s industrijom, čime se pokušava izbjeći naglo usporavanje inovacija. Poseban fokus na visokoučinkovite i generativne AI sustave pokazuje svijest o potencijalnim društvenim i ekonomskim posljedicama nekontrolirane primjene. 

U azijskom kontekstu, Južna Koreja se ovim zakonom pozicionira kao regionalni predvodnik u regulaciji umjetne inteligencije. Istodobno, zakon šalje signal međunarodnim tvrtkama da se očekuje usklađivanje s nacionalnim standardima povjerenja i sigurnosti. Stručnjaci ističu da će ključan izazov biti operativna provedba zahtjeva za transparentnošću i ljudskim nadzorom. Uspjeh zakona ovisit će i o sposobnosti regulatora da prate brzi tehnološki razvoj. Dugoročno, ovakav pristup mogao bi ojačati povjerenje javnosti u AI rješenja. 

Također se očekuje da će zakon potaknuti razvoj domaćih AI tvrtki koje će od početka graditi proizvode u skladu s regulatornim okvirom. Usporedba s europskim modelom pokazuje kako različite regije traže vlastitu ravnotežu između sigurnosti, konkurentnosti i inovacija. Južna Koreja time nastoji osigurati da umjetna inteligencija postane motor rasta, ali unutar jasno definiranih sigurnosnih granica.