Nedostatak dosljednih globalnih najboljih praksi i standarda za AI i upravljanje podacima dodatno pogoršava izazove uzrokovane fragmentacijom tržišta, prisiljavajući poduzeća da razvijaju strategije specifične za regiju. To može ograničiti njihovu sposobnost globalnog širenja poslovanja i korištenja AI proizvoda i usluga.
Prema predviđanjima Gartnera, do 2027. godine više od 40 posto povreda podataka povezanih s umjetnom inteligencijom (AI) bit će uzrokovano nepravilnom upotrebom GenAI tehnologija preko granica. Brza primjena GenAI tehnologija od strane krajnjih korisnika premašila je razvoj mjera za upravljanje podacima i sigurnost, što izaziva zabrinutost zbog lokalizacije podataka zbog centralizirane računalne moći potrebne za podršku tim tehnologijama.
„Nepravedni prijenosi podataka preko granica često se događaju zbog nedostatka nadzora, osobito kada je GenAI integriran u postojeće proizvode bez jasnih opisa ili objava“, rekao je Joerg Fritsch, VP analitičar u Gartneru. „Organizacije primjećuju promjene u sadržaju koji zaposlenici stvaraju koristeći GenAI alate. Iako se ti alati mogu koristiti za odobrene poslovne aplikacije, oni predstavljaju sigurnosne rizike ako osjetljive upute budu poslane AI alatima i API-jima smještenima na nepoznatim lokacijama.“
Nedostatak dosljednih globalnih najboljih praksi i standarda za AI i upravljanje podacima dodatno pogoršava izazove uzrokovane fragmentacijom tržišta, prisiljavajući poduzeća da razvijaju strategije specifične za regiju. To može ograničiti njihovu sposobnost globalnog širenja poslovanja i korištenja AI proizvoda i usluga.
„Složenost upravljanja protokom podataka i održavanja kvalitete zbog lokaliziranih AI politika može dovesti do operativnih neučinkovitosti“, rekao je Fritsch. „Organizacije moraju ulagati u napredno upravljanje AI-jem i sigurnost kako bi zaštitile osjetljive podatke i osigurale usklađenost. Ova potreba vjerojatno će potaknuti rast tržišta sigurnosti AI-ja, upravljanja i usklađenosti, kao i tehnoloških rješenja koja poboljšavaju transparentnost i kontrolu nad AI procesima.“
Gartner predviđa da će do 2027. godine upravljanje AI-jem postati obavezno za sve zakone i regulative o suverenim AI-ima širom svijeta. „Organizacije koje ne mogu integrirati potrebne modele upravljanja i kontrole mogli bi se naći u konkurentskoj nepovoljnoj situaciji, osobito one koje nemaju resurse za brzo proširenje postojećih okvira za upravljanje podacima“, rekao je Fritsch.
Kako bi ublažile rizike od povreda podataka vezanih uz AI, osobito od zloupotrebe GenAI-a preko granica, te osigurale usklađenost, Gartner preporučuje nekoliko strateških akcija za poduzeća:
Poboljšajte upravljanje podacima: Organizacije moraju osigurati usklađenost s međunarodnim regulativama i pratiti neželjene prijenose podataka preko granica proširujući okvire upravljanja podacima kako bi uključili smjernice za podatke obrađene pomoću AI-ja. To uključuje uključivanje praćenja porijekla podataka i procjena utjecaja prijenosa podataka unutar redovnih procjena utjecaja na privatnost.
Osnujte odbore za upravljanje: Formirajte odbore za poboljšanje nadzora nad AI-jem i osiguravanje transparentne komunikacije o implementaciji AI-ja i rukovanju podacima. Ovi odbori trebaju biti odgovorni za tehnički nadzor, upravljanje rizicima i usklađenošću, te izvještavanje o komunikaciji i odlukama.
Ojačajte sigurnost podataka: Koristite napredne tehnologije, enkripciju i anonimizaciju za zaštitu osjetljivih podataka. Na primjer, verificirajte pouzdana okruženja za izvršenje u određenim geografskim regijama i primjenju naprednih tehnologija anonimizacije, kao što je Diferencijalna privatnost, kada podaci moraju napustiti te regije.
Uložite u TRiSM proizvode: Planirajte i raspodijelite proračune za upravljanje povjerenjem, rizikom i sigurnošću (TRiSM) proizvode i mogućnosti prilagođene AI tehnologijama. To uključuje upravljanje AI-jem, upravljanje sigurnošću podataka, filtriranje i redakciju upita, te sintetičko generiranje nestrukturiranih podataka. Gartner predviđa da će do 2026. godine poduzeća koja primjenjuju TRiSM kontrole u AI-ju konzumirati barem 50 posto manje netočnih ili nelegitimnih informacija, čime će smanjiti pogrešno donošenje odluka.
Globalni pristupi u upravljanju AI-jem: Usklađivanje međunarodnih politika o AI-ju bit će ključno za smanjenje rizika povezanih s povredama podataka i zloupotrebama AI-ja. Neke zemlje već poduzimaju korake prema razvijanju zajedničkih standarda, dok druge nastoje povećati nadzor na regionalnoj razini.
Podaci kao poslovni resurs: Podaci su postali ključni resurs za poslovanje, pa organizacije moraju ulagati u tehnologije koje omogućuju sigurnost podataka, transparentnost i poštivanje etičkih smjernica pri korištenju AI-ja.
Prema predviđanjima Gartnera, do 2027. godine više od 40 posto povreda podataka povezanih s umjetnom inteligencijom (AI) bit će uzrokovano nepravilnom upotrebom GenAI tehnologija preko granica.
Britanski prizivni sud (UK Court of Appeal) donio je presudu prema kojoj Apple mora platiti 502 milijuna dolara kompaniji Optis Cellular Technology, zbog korištenja patenata bez odgovarajuće licencije.
Europska komisija (EK) podnijela je tužbu protiv Češke, Španjolske, Cipra, Poljske i Portugala zbog neprovođenja ključnih odredbi Zakona o digitalnim uslugama (DSA – Digital Services Act), što predstavlja ozbiljno kršenje europskog zakonodavstva u području digitalne regulative.
