Tehnologije donose velike promjene u način razmišljanja

Industrija se više usredotočuje na poboljšana rješenja za otkrivanje prijetnji i odgovor na njih potaknuta umjetnom inteligencijom i strojnim učenjem, ističe za ICTBusiness.info Chris Bradshaw, Product Strategy Director u Infinumu.

Tehnike sigurnog kodiranja također su visoko cijenjene, što nam omogućuje uključivanje sigurnosti u proces razvoja od samog početka, objašnjava Bradshaw.

Koje su najnovije prijetnje kibernetičkoj sigurnosti i kako se industrija nosi s njima?

Čini se da tradicionalne prijetnje nikada ne nestaju – ransomware, phishing i zlonamjerni softver koji se neprestano mijenja. Svakim su danom sve više sofisticirani. Napadi na lanac opskrbe koji su usmjereni protiv dobavljača softvera također su velika prijetnja budući da mogu imati najrazorniji učinak na tvrtku ili čak cijelu industriju. U najvišoj kategoriji prijetnje mogući su i napadi na vitalnu infrastrukturu, kao što su prometne mreže i električne mreže. Međutim, čak i ako se dogode, vjerojatno nećemo često čuti o njima jer utječu na nacionalnu sigurnost.

U svjetlu ovih rizika, industrija se više usredotočuje na poboljšana rješenja za otkrivanje prijetnji i odgovor na njih potaknuta umjetnom inteligencijom i strojnim učenjem. Tehnike sigurnog kodiranja također su visoko cijenjene, što nam omogućuje uključivanje sigurnosti u proces razvoja od samog početka. Jedno od ključnih područja koje vidim kao neposrednu kampanju za tvrtke je ulaganje više napora u internu obuku kako bi se zaposlenici informirali o prijetnjama kao što su društveni inženjering i krađa identiteta. Obično jedna točka neuspjeha počinje s ljudskim bićem prevarenim na neki način bez njegovog znanja.

Kako se dizajn prilagođava sve složenijim tehnološkim zahtjevima, posebice u području Interneta stvari (IoT) i umjetne inteligencije (AI)?

Dizajn i korisnička sučelja moraju se stalno prilagođavati najnovijim paradigmama inovacija. Najbolje tvrtke neprestano preispituju ovo u svjetlu napretka u IoT i AI, što može biti neugodno, ali neophodno. U kontekstu Interneta stvari, dizajneri moraju stvoriti sučelja i interakcije prilagođene korisniku za uređaje s izuzetno ograničenim ulazno/izlaznim mogućnostima, kao što su mali zasloni, osnovne kontrole gumba ili glasovne naredbe. To podrazumijeva drastično pojednostavljenje korisničkih tokova i korištenje glatke multimodalne interakcije između uređaja, kao što je konfiguriranje i upravljanje uređajima Internet of Things putem telefona. Uz širenje IoT-a na kritična polja, privatnost i sigurnost također se moraju uključiti odozdo prema gore u IoT arhitekturi.

Dizajn AI sustava otežan je potrebom za upravljanjem humanističkim znakovima za konverzacijska korisnička sučelja, objašnjenjem neprozirnog donošenja odluka AI i pružanjem korisničkih kontrola za izmjenu ili nadglasavanje rezultata. Predvidljivi i dosljedni odgovori sustava - temeljni aspekti korisničkog iskustva - u suprotnosti su s prirodom "crne kutije" umjetne inteligencije. Usredotočujući se na pojedinačne slučajeve upotrebe, dizajneri moraju smisliti kako obrazloženje iza modela umjetne inteligencije učiniti transparentnim. Umjesto da AI alat tretiraju kao osnovni sustav upita i odgovora, trebaju omogućiti nijansirane korisničke kontrole. Ključno je definirati prihvatljiva načela umjetne inteligencije i provesti temeljita testiranja u širokom rasponu permutacija. To je vrli novi svijet, ali moramo ga osvojiti da bismo napravili nove proizvode.

Koje su najnovije inovacije u području umjetne inteligencije i kako se one koriste u različitim sektorima IT industrije?

Kao strateg proizvoda koji koristi umjetnu inteligenciju, smatram da su veliki jezični modeli (LLM-ovi) koji tumače i generiraju tekst nalik ljudskom putem pomoćnika umjetne inteligencije za razgovor i alata za generiranje sadržaja iznimno korisni čak i za korisnike koji ne znaju puno o tehnologiji. Iz iskustva u radu sa svim vrstama kompanija, većina se utrkuje u usvajanju ovih inovacija u različitim industrijama: AI chatbotovi revolucioniraju korisničku službu, prediktivna analitika koju pokreće strojno učenje optimizira predviđanje, održavanje i operacije, a automatizacija, personalizacija i procesna inteligencija poboljšavaju financije, zdravstvo i proizvodnju.

Kako je IoT tehnologija integrirana u svakodnevni život i koji su rizici povezani s njom?

IoT sve više prodire u gotovo svaki aspekt naših života, a svijet postaje figitalan (fizički + digitalni). Kako su senzori, računalna snaga i mrežna povezanost ugrađeni u uređaje, vozila i komunalnu infrastrukturu, pojavljuju se inteligentna okruženja. Automatizacija u IoT sustavima može optimizirati korištenje energije u našim domovima. Nosivi uređaji prate zdravlje i aktivnosti. Ključ za prediktivno održavanje putem senzorske analitike i vidljivosti opskrbnog lanca u stvarnom vremenu je dvosmjerno dijeljenje podataka IoT uređaja.

Međutim, postoje rizici koji se moraju pratiti. Na primjer, IoT uređaji sa slabom sigurnošću mogu se pridružiti botnet mrežama i izazvati pustoš. Ako je ugrožen, IoT nadzor može ugroziti privatnost korisnika. Planeri proizvoda moraju uključiti tehnike "sigurno po dizajnu" i "privatnost po dizajnu", uključujući robusno upravljanje identitetom/pristupom, enkripciju, sigurno ažuriranje softvera i edukaciju korisnika od samog početka. Dok 5G i rubno računalstvo potiču IoT, naš je posao isporučiti sigurnu, pouzdanu inovaciju kojoj klijenti mogu vjerovati.

Koji su trenutno glavni trendovi u industriji informacijske tehnologije i kako se industrija prilagođava promjenama?

Mogu komentirati kroz perspektivu proizvodnog stratega da brojni glavni digitalni/IT trendovi mijenjaju okruženje. Sve tvrtke moraju prijeći na oblak kako bi stvarno iskoristile skalabilnost, isplativost i globalno dostupne resurse za obradu, kako bi brže gradile i skalirale u skladu s konkurencijom. Istodobno, razvojne platforme s niskim kodom i bez koda omogućuju većem broju ljudi da brzo konstruiraju aplikacije bez kodiranja, povećavajući produktivnost, tako da sigurno postoji porast rješenja bez koda i AI koja pokreće kodiranje kopilota u nastajanju.

Široka primjena umjetne inteligencije i strojnog učenja za ubacivanje inteligencije u softver i omogućavanje poboljšane automatizacije u svim domenama imat će najveći učinak. S porastom rubnog računarstva, 5G mreža i AR/VR, ova tehnološka revolucija stvara kulturu agilnosti kroz DevOps koji potiče česta, iterativna izdanja softvera i brze cikluse inovacija.

Koje su najveće sigurnosne prijetnje povezane s AI tehnologijom i kako se industrija nosi s njima?

Na široj razini, mislim da je najbolji način da se krene naprijed raditi na stvaranju umjetne inteligencije, a istovremeno osigurati da je sigurna i etička. Industrija, vlade i akademska zajednica trebaju raditi zajedno kako bi riješili ovaj problem jer on pogađa mnoge ljude. Poduzmemo li ispravne strateške korake, možemo smanjiti rizike umjetne inteligencije, a da pritom i dalje uživamo u njezinim ogromnim dobrobitima za društvo. Uglavnom, trenutno se možemo osjećati kao ljudi + umjetna inteligencija = tim, dok zapravo treba biti čovjek + čovjek od samog početka kako bismo osigurali da ublažimo rizike povezane s umjetnom inteligencijom.

Za bilo koju industriju ili tvrtku sigurnost umjetne inteligencije mora biti glavna briga od samog početka. To se može učiniti upotrebom sigurnog upravljanja životnim ciklusom umjetne inteligencije i "sigurnosti prema dizajnu" pri stvaranju sustava umjetne inteligencije. Kako bi se izvršio pritisak na obranu umjetne inteligencije, neprijateljsko testiranje, crveno udruživanje i modeliranje prijetnji specifično za umjetnu inteligenciju postaju standard. Ovo je daleko najbolji način da tvrtke usvoje AI i nose se s tim mogućim problemima.

Što se tiče prijetnji, vjerujem da su suparnički napadi strojnog učenja jedan od najvećih problema. To se događa kada se ulazni podaci mijenjaju na tajan način tako da AI modeli donose pogrešne odluke ili rezultate. Napadi poput ovih mogli bi imati užasne posljedice u stvarnom svijetu za kritične AI sustave, poput onih koji se koriste u samovozećim automobilima ili medicinskim analizama.

Kako se dizajn softvera prilagođava zahtjevima umjetne inteligencije i strojnog učenja?

Metode razvoja softvera mijenjaju se na stvarno cool načine tako da se AI i strojno učenje mogu koristiti u velikoj mjeri. Jedna velika promjena je uspon DevOps za ML, koji koristi DevOps koncepte za automatizaciju cijelog životnog ciklusa modela, od čišćenja podataka i modela obuke do testiranja, implementacije i praćenja istih. Ovo uzima u obzir činjenicu da ML modeli nisu statični poput statičnog softvera; potrebno ih je stalno ponovno obučavati, provjeravati i ažurirati kako novi podaci pristižu.

DevOps za ML ubrzava ovaj iterativni proces, što ubrzava promjene modela i uključuje snažno testiranje, provjeru valjanosti i provjere upravljanja. Alati poput Dockera, Kubernetesa itd. mogu se koristiti za pakiranje modela strojnog učenja i njihovih inputa u prijenosne, samostalne jedinice koje se mogu koristiti gotovo bilo gdje. Uspon MLOps-a povezuje sve zajedno, budući da odlično funkcionira i za zadatke umjetne inteligencije, zahvaljujući arhitekturama bez poslužitelja koje mogu automatski povećavati i smanjivati resurse. Zamislite MLOps više kao napredni oblik DevOps-a; automatizira cijeli životni ciklus ML-a sa značajkama specifičnim za umjetnu inteligenciju kao što su verzija podataka, upravljanje modelom, praćenje drifta i tehnike koje osiguravaju da je umjetna inteligencija odgovorna i sama sebe objašnjava.

Ukratko, sve gore navedeno jednostavno olakšava zajednički rad stručnjaka za podatke, programera i operativnog osoblja. Ugrađuje AI kontrolu od samog početka i koristi izvrsnu automatizaciju.

Kako tvrtke koriste blockchain tehnologiju u svom poslovanju i koje su prednosti i izazovi povezani s njom?

Osim valute, kripto, bitcoina i svake druge popularne riječi povezane s ovim pojmom, blockchain kao tehnologija mijenja mnoga područja. U osnovi, blockchain nudi digitalnu knjigu za bilježenje i provjeru valjanosti informacija koje su sigurne, decentralizirane i nepromjenjive. Ovo je posebno korisno u osiguranju, financijama, imovini ili bilo kojoj drugoj industriji koja se temelji na imovini. Blockchain je pogodan za korisne aplikacije kao što je upravljanje digitalnim identitetom s prijenosnim osobnim podacima i vjerodajnicama, sigurne peer-to-peer transakcije, sljedivost opskrbnog lanca za praćenje podrijetla proizvoda i sigurno čuvanje osjetljivih podataka. Otvorenost i decentralizacija, dvije različite prednosti, otvaraju vrata dosad neostvarenoj učinkovitosti.

Iako su inovacije u ovom području bile snažne u posljednjih 5 godina, još uvijek postoje prepreke široj implementaciji blockchaina. Kako količina obrađenih podataka raste, trenutna računalna ograničenja otežavaju skalabilnost. Tehnologija distribuirane knjige (blockchain) prepuna je regulatorne nesigurnosti. Osim toga, određeni lanci su ekološki osjetljivi zbog značajne potrošnje energije za rudarenje i provjeru valjanosti. Također, postoji problem prirodnog ljudskog usvajanja gdje određene industrije znaju da mogu pružiti učinkovitije načine rada, ali promjena paradigme zahtijeva više rada nego što bi neki ljudi bili voljni uložiti da uživaju u plodovima tehnologije.

Unatoč tome, kako se blockchain tehnologija razvija, očekuje se da će podržati sigurne i transparentne sustave u nekoliko industrija, zahvaljujući sve većem interesu i ulaganjima velikih korporacija i vlada.