Brži razvoj traži strožu sigurnost

Razvoj softvera prolazi kroz korjenitu promjenu, a granice između ranije odvojenih poslova postaju sve manje izražene. „Kompletan životni ciklus razvoja softvera se mijenja. Ništa više ne ostaje isto.”, za ICTbusiness Media - ICTbusiness.info ističe Hrvoje Gorajščan, CEO Q agency.

On ocjenjuje da je smjer transformacije pozitivan, ali da se ne radi o jednostavnom ubrzanju postojećeg rada. Mijenja se raspodjela zadataka među inženjerima, a iskustvo starijih stručnjaka dobiva dodatnu važnost u procjeni rezultata. „Vidimo da se sve stapa u jedno, a seniori ovdje imaju svoju prednost.”, kaže Gorajščan.

U Q agencyju primjećuju znatna ubrzanja u pojedinim zadacima. Gorajščan spominje slučajeve u kojima je rad šest do sedam puta brži, ali odmah upozorava da se takav rezultat ne smije prikazivati kao univerzalno pravilo. Kada kvaliteta mora ostati na prethodnoj razini, ostvarivo ubrzanje često je manje. „U nekim slučajevima šest ili sedam puta smo brži.”, kaže Gorajščan.

Brzina bez provjere može povećati broj pogrešaka. Upravo zato sigurnost, prema njegovu iskustvu, postaje važnija nego prije. Razvojni proces treba prilagoditi novim vrstama rizika, uključujući ono što se unosi u AI alate i način na koji se provjerava generirani rezultat. „Ako želimo zadržati istu kvalitetu, uštede na vremenu konzervativnije su.”, kaže Gorajščan.

Posebno je osjetljivo pitanje slanja korisničkih, financijskih i drugih povjerljivih podataka prema vanjskim modelima. Gorajščan navodi da su u kompaniji uveli međusloj koji filtrira sadržaj prije prosljeđivanja AI sustavima. Takva kontrola omogućuje da se tehnologija koristi uz dodatnu zaštitu podataka. „Moramo paziti što stavljamo unutra: korisničke podatke, povjerljive podatke i financije.”, kaže Gorajščan.

Istodobno se mijenjaju i kriteriji provjere kvalitete. Uobičajena testiranja potrebno je dopuniti kontrolama koje odgovaraju rizicima generativnih sustava i mogućim zlonamjernim uputama. Umjetna inteligencija pritom može služiti i obrani, a ne samo povećati površinu napada. „Potpuno su nove metrike kvalitete i provjere kvalitete.”, kaže Gorajščan.

Zaključno, on promjenu vidi kao priliku za brži razvoj, ali samo uz sustavnu kontrolu kvalitete i sigurnosti. Tehnološka učinkovitost ne može biti opravdanje za slabiju zaštitu korisničkih podataka. „Kako se korjenito mijenja razvoj, tako se potpuno promijenio i pristup sigurnosti.”, kaže Gorajščan.