https://www.ictbusiness.info

Link: https://www.ictbusiness.info / internet / chatgpt-i-konkurenti-izazivaju-sve-vecu-zabrinutost-oko-sigurnosti

ChatGPT i konkurenti izazivaju sve veću zabrinutost oko sigurnosti

Razvoj naprednih jezičnih modela kao što je ChatGPT pokrenuo je rasprave među kompanijama o potencijalnim rizicima povezanim s generativnom AI tehnologijom. Dok neki vjeruju da proizvodi pokretani umjetnom inteligencijom mogu poboljšati učinkovitost i produktivnost, drugi se brinu o utjecaju na kibernetičku sigurnost, rangiranje u tražilicama i profitabilnost, navodi GlobalData, vodeća kompanija za podatke i analitiku.

"Od pojave ChatGPT-a, stručnjaci za kibernetičku sigurnost zabrinuti su zbog rizika povezanih s kibernetičkim kriminalom i prijetnjama. Osim toga, kompanije koje pružaju internetske usluge vjeruju da bi ChatGPT mogao utjecati na njihov ranking u tražilicama, što dovodi do smanjenog prometa na njihovoj platformi", dodatno pojašnjavaju iz GlobalData.

Otkriva se i da su Generative AI te ChatGPT pokrenuli rasprave o rizicima kibernetičke sigurnosti. S obzirom na ovu pozadinu, britansko-američka kompanija za kibernetičku sigurnost Darktrace vjeruje da ChatGPT ne smanjuje prepreke akterima prijetnji, ali vjeruje da je možda doprinio sofisticiranosti phishing e-mail poruka, omogućujući ciljanije, prilagođenije i u konačnici učinkovitije napade.

Salesforce je pak raspravljao o evoluciji umjetne inteligencije koja bi zahtijevala primjenu resursa za razvoj, testiranje i održavanje proizvoda i usluga kako bi se osiguralo da se umjetna inteligencija implementira kako bi se nenamjerni i štetni utjecaji sveli na minimum.

Ta se kompanija suočava s nesigurnošću oko novih i nadolazećih AI aplikacija, posebno onih za stvaranje generativnog AI sadržaja. Takve aplikacije mogu zahtijevati dodatna ulaganja u razvoj vlasničkih skupova podataka, modela strojnog učenja i sustava testiranja kako bi se osigurala točnost. Ovi su procesi složeni i mogu biti skupi, potencijalno utječući na profitnu maržu.

Microsoft i Google već su najavili planove za integraciju ovih novih modela umjetne inteligencije u svoje proizvode što je zabrinulo druge, poput Baidu i Yandexa. Naime, bit će im potrebna znatna kapitalna ulaganja za istraživanje i razvoj tehnoloških promjena te inovacijskih usluga kako ne bi izgubile korak.

"Kako se tehnologija nastavlja razvijati i integrirati u razne proizvode, kompanije moraju pažljivo razmotriti potencijalne rizike i poduzeti odgovarajuće mjere za njihovo ublažavanje", zaključuju u GlobalData.