Orange Cyberdefense i Mistral razvijaju sigurnosni AI

Orange Cyberdefense i francuski Mistral AI dogovorili su razvoj sigurnosnih usluga temeljenih na posebno prilagođenom velikom jezičnom modelu. Orangeov odjel za kibernetičku sigurnost tako dobiva rani pristup inačici Mistral Large 4, namijenjenoj konkretnim zadacima obrane i analize incidenata.

Partneri namjeravaju model postupno uvoditi u sigurnosne postupke. Najprije će ga koristiti za penetracijska testiranja i tehničke provjere u kojima AI može pomoći pri ispitivanju mogućih načina napada i pronalaženju ranjivosti. Predviđena je i uporaba u obradi incidenata, osobito pri pretraživanju zapisnika i rekonstrukciji složenih napada.

Obje tvrtke naglašavaju da će sve primjene biti pod ljudskim nadzorom te da će kontrola pristupa i praćenje svih postupaka biti temeljne zaštitne mjere. Odgovornost za ključne obrambene odluke i aktivnosti ostat će na sigurnosnim stručnjacima. Orangeova podružnica posebno ističe digitalnu suverenost i korištenje europske računalne infrastrukture za izvođenje modela namijenjenih kibernetičkoj zaštiti.

Suosnivač i tehnološki direktor Mistrala AI Timothée Lacroix izjavio je da je cilj partnerstva ponuditi europskim organizacijama suvereno i pouzdano rješenje za obranu uz pomoć umjetne inteligencije. Suradnja dolazi u razdoblju u kojem pružatelji sigurnosnih usluga sve češće odgovaraju na napade automatizirane umjetnom inteligencijom. Glavni izvršni direktor Orange Cyberdefensea Hugues Foulon upozorio je da su opseg, brzina i povjerenje tri ključna izazova današnje kibernetičke sigurnosti te istaknuo potrebu za primjenom umjetne inteligencije u obrani u velikom opsegu.

Prema dogovorenom modelu suradnje Orange Cyberdefense postaje prvi europski razvojni partner Mistrala AI u području upravljanih sigurnosnih usluga. Pristup specijaliziranoj inačici Mistral Large 4 namijenjen je razvoju konkretnih sigurnosnih radnih postupaka. Penetracijsko testiranje podrazumijeva kontroliranu provjeru mogućnosti iskorištavanja ranjivosti informacijskih sustava. Analiza nakon incidenta omogućuje stručnjacima povezivanje tehničkih tragova kako bi ustanovili slijed i posljedice napada. Obrada velikog broja sigurnosnih zapisnika jedno je od područja u kojima automatizacija može ubrzati istragu.

Ipak, rezultati modela trebaju biti provjerljivi jer generativna umjetna inteligencija može proizvesti netočne zaključke. Partneri zato predviđaju nadzor stručnjaka, provjeru sigurnosti modela i praćenje aktivnosti sustava. Kontrole pristupa trebaju ograničiti koje podatke i alate pojedini AI sustav smije koristiti. Za osjetljive organizacije važno je i gdje se podaci obrađuju te tko upravlja temeljnom infrastrukturom. Mistralovi modeli u ovom će se slučaju izvoditi na računalnim kapacitetima smještenima u Europi. Povratne informacije iz operativne primjene trebale bi pomoći prilagodbi modela stvarnim sigurnosnim zadacima. Partnerstvo ne znači uklanjanje ljudske odgovornosti, nego pokušaj povećanja kapaciteta stručnih timova uz zadržavanje nadzora nad kritičnim postupcima.