Samsung istražuje kako povjerenje, sigurnost i privatnost oblikuju budućnost umjetne inteligencije

Serija Samsung Tech Forum nastavlja se na CES-u 2026 raspravom AI Platform Centra o budućnosti povjerenja i umjetne inteligencije. Samsung Electronics je ugostio panel globalnih stručnjaka pod nazivom „U tehnologiju vjerujemo? Promišljanje sigurnosti i privatnosti u doba umjetne inteligencije“ u sklopu svoje serije Tech Forum na sajmu CES 2026. Održana u hotelu The Wynn u Las Vegasu, sesija je okupila međunarodne stručnjake iz područja tehnologije, istraživanja i etike kako bi istražili na koji je način povjerenje postalo jedan od ključnih čimbenika koji oblikuju prihvaćanje i korištenje umjetne inteligencije, kako se ona sve snažnije i neprimjetnije integrira u svakodnevni život.

Kako umjetna inteligencija sve češće predviđa potrebe, oblikuje rutine i autonomno djeluje na različitim uređajima, sudionici panela Allie K. Miller, Amy Webb, Zack Kass i Shin Baik istaknuli su da se povjerenje ne stječe obećanjima, već dosljednim, razumljivim ponašanjem sustava. Samsung je tijekom sesije predstavio svoj pristup „povjerenju po dizajnu“, naglašavajući važnost AI sustava koji su predvidivi, transparentni i jednostavni za upravljanje korisnicima. „Kada je riječ o umjetnoj inteligenciji, korisnici traže transparentnost i kontrolu“, rekla je Allie Miller. „Žele biti nositelji vlastitih personaliziranih iskustava, razumjeti radi li AI model lokalno ili u oblaku, znati da su njihovi podaci sigurni i jasno vidjeti što je pogonjeno umjetnom inteligencijom, a što nije. Ta razina vidljivosti gradi povjerenje. S druge strane, pružatelji usluga imaju odgovornost dizajnirati personalizirana iskustva oko temeljnih stupova povjerenja – jasnoće, sigurnosti i odgovornosti.“ Samsung je dodatno naglasio kako AI na samom uređaju omogućuje da osobni podaci ostanu lokalni kad god je to moguće, dok se oblak koristi selektivno, kada su potrebni veća brzina ili opseg obrade, čime se korisnicima daje fleksibilnost bez ugrožavanja privatnosti.

Panel se također bavio pitanjem kako se sigurnost mora razvijati u trenutku kada se inteligencija distribuira između pametnih telefona, televizora i kućanskih uređaja. Samsung je pritom istaknuo svoju sigurnosnu platformu Knox, koja danas štiti milijarde uređaja od razine čipseta naviše, kao i Knox Matrix, sigurnosni okvir za više uređaja koji omogućuje međusobnu autentifikaciju i zaštitu proizvoda. „Povjerenje u umjetnu inteligenciju počinje sigurnošću koja je dokazana, a ne obećana“, rekao je Shin Baik. „Više od desetljeća Samsung Knox pruža duboko ugrađenu sigurnosnu platformu osmišljenu za zaštitu osjetljivih podataka na svakoj razini. No povjerenje nadilazi pojedini uređaj – ono zahtijeva ekosustav koji se sam štiti. Uz Knox, uređaji se kontinuirano autentificiraju i nadziru jedni druge, tako da svaki uređaj djeluje kao štit za ostale, stvarajući otporno i sigurno okruženje na koje se korisnici mogu osloniti.“

Shin Baik naglasio je da povjerenje raste kada se umjetna inteligencija ponaša predvidivo i sigurno na svim uređajima, ističući kako su korisnicima potrebni vidljivi signali kontrole, a ne sustavi nalik „crnoj kutiji“. Samsung je ukazao i na partnerstva s industrijskim liderima poput Googlea i Microsofta kao način jačanja zajedničkog sigurnosnog istraživanja, interoperabilnosti i zaštite na razini cijelog ekosustava. Allie Miller dodatno je istaknula važnost transparentnosti prema korisnicima, uključujući jasne informacije o tome gdje se AI modeli izvršavaju, kako se podaci koriste te jasno označavanje onoga što je pogonjeno umjetnom inteligencijom. Zack Kass dodao je da, iako dezinformacije i zlouporabe predstavljaju stvarne izazove, „za svaki rizik postoji i protumjera, a sama tehnologija imat će ključnu ulogu u ublažavanju negativnih strana umjetne inteligencije“. 

Amy Webb analizirala je odnos povjerenja i potrošačkih navika, istaknuvši da korisnici često ne donose odluke isključivo na temelju povjerenja, već prvenstveno zbog praktičnosti i jednostavnosti korištenja. Kako umjetna inteligencija postaje sve nevidljivija, panel je zaključio da će dugoročno povjerenje steći one tehnologije koje od samog početka daju prednost sigurnosti, transparentnosti i stvarnom izboru korisnika.

Rasprava o povjerenju u umjetnu inteligenciju sve je relevantnija kako AI sustavi postaju sastavni dio svakodnevnih proizvoda i usluga, od pametnih kućanstava do osobnih digitalnih asistenata. Regulatorni okviri u Europi, Sjedinjenim Državama i Aziji sve snažnije naglašavaju zaštitu privatnosti i odgovorno korištenje podataka. Istodobno, proizvođači tehnologije suočeni su s izazovom balansiranja između personalizacije i očuvanja privatnosti korisnika. Lokalna obrada podataka na uređaju postaje ključna strategija za smanjenje rizika i povećanje povjerenja. Sigurnosni ekosustavi koji obuhvaćaju više uređaja dobivaju na važnosti kako se povećava broj povezanih proizvoda. Transparentno označavanje AI funkcija pomaže korisnicima da razumiju tehnologiju koju koriste. Povjerenje se sve više promatra kao konkurentska prednost, a ne samo tehnički zahtjev. Potrošači očekuju da AI sustavi budu pouzdani, ali i razumljivi. 

Dugoročno, uspjeh umjetne inteligencije ovisit će o sposobnosti industrije da izgradi održive modele sigurnosti i upravljanja podacima. Etika i odgovornost postaju jednako važni kao i performanse. Upravo zbog toga ovakve rasprave dobivaju sve veći značaj. Povjerenje će ostati temeljni preduvjet širokog prihvaćanja umjetne inteligencije u godinama koje dolaze.