Kibernetička sigurnosti i AI

Kibernetička sigurnosti i AI

Tijekom proteklih nekoliko godina svjedoci smo sve većeg napretka i primijenjene upotrebe AI-a, od poslovnih do raznih privatnih svrha, čime se otvara još veći prostor za razne ranjivosti i izazove koje AI sa sobom donosi.

Međuzavisnost AI-ja i kibernetičke sigurnosti, iako višedimenzionalna, može se sagledati iz dva smjera/fokusa:

1. kibernetička sigurnost umjetne inteligencije i
2. umjetna inteligencija u kibernetičkoj sigurnosti.

Slika 1. Međupovezanost umjetne inteligencije i kibernetičke sigurnosti

Kibernetička sigurnosti umjetne inteligencije

Ovdje se primarno osvrće na zahtjeve EU Akta o umjetnoj inteligenciji u pogledu kibernetičke sigurnosti. Dobavljači visokorizičnih AI sustava morati će postići određenu usklađenost propisanu zahtjevima iz Akta, a jednu od ključnih uloga imat će standardi kibernetičke sigurnosti.

Kibernetička sigurnost je ključna za otpornost AI sustava

U članku 15. navodi se: „visokorizični AI sustavi projektiraju se i razvijaju tako da imaju odgovarajuću razinu točnosti, otpornosti i kibernetičke sigurnosti“. Dodatno, u uvodnoj izjavi 51. navodi se da je kibernetička sigurnost ključna za otpornost AI sustava na pokušaje zlonamjernih trećih strana koje iskorištavaju slabe točke sustava da bi im izmijenili način uporabe, ponašanje, sposobnost ili da bi ugrozili njihove sigurnosne mehanizme. Kibernetičkim napadima na AI sustave moguće je iskoristiti resurse svojstvene umjetnoj inteligenciji, kao što su skupovi podataka za učenje (npr. trovanje podataka) ili poučeni modeli (npr. neprijateljski napadi) ili pak iskoristiti slabe točke digitalnih resursa AI sustava ili osnovne IKT infrastrukture.

Kako bi se osigurala razina kibernetičke sigurnosti koja odgovara rizicima, dobavljači visokorizičnih AI sustava trebali bi poduzeti odgovarajuće mjere, prema potrebi uzimajući u obzir i osnovnu infrastrukturu IKT-a.

Dakle, visokorizični AI sustavi morat će ispuniti zahtjev kibernetičke sigurnosti prije upotrebe na tržištu EU-a, a dobavljači AI sustava moraju jamčiti kibernetičku sigurnost i njegovo ažuriranje tijekom cijelog životnog vijeka AI sustava.

Zahtjevi kibernetičke sigurnosti za visokorizične AI sustave

Izvješće „Kibernetička sigurnost umjetne inteligencije u Aktu o umjetnoj inteligenciji” usredotočuje se na zahtjeve kibernetičke sigurnosti za visokorizične AI sustave, kako je to navedeno u članku 15. Akta. Pritom se definira pojam „kibernetička sigurnost AI-ja” kao polje proučavanja u nastajanju koje prikuplja i kombinira znanja i pristupe iz različitih područja kao što su istraživanja umjetne inteligencije, suparničko/neprijateljsko strojno učenje i opća kibernetička sigurnost.

Izazovi kibernetičke sigurnosti umjetne inteligencije mogu se podijeliti u dvije kategorije:

1. organizacijski izazovi vezani uz procese i
2. izazovi istraživanja i razvoja vezani uz tehnike i tehnologiju.

Četiri su glavna načela za rješavanje zahtjeva Akta o umjetnoj inteligenciji u pogledu kibernetičke sigurnosti:

1. fokus Akta o umjetnoj inteligenciji je na AI sustavima;
2. usklađenost sa Aktom nužno zahtijeva procjenu sigurnosnog rizika;
3. zaštita AI sustava zahtijeva integrirani i kontinuirani pristup korištenjem dokazanim praksama i kontrolama specifičnim za AI;
4. postoje ograničenja najsuvremenijih tehnologija pri zaštiti AI modela.

U godinama ispred nas, kibernetička sigurnost umjetne inteligencije postajat će sve važnije, a moglo bi se reći i kritično područje. Tvrtke koje se bave kibernetičkom sigurnošću imat će povećane zahtjeve za implementacijom svojih usluga, standarda i rješenja u primarno visokorizičnim AI sustavima.

Umjetna inteligencija u kibernetičkoj sigurnosti

Ovdje se osvrćemo na prijetnje kibernetičkoj sigurnosti korištenjem umjetne inteligencije, ali i potencijal umjetne inteligencije u obrani od kibernetičkih incidenata. Neke od ključnih prednosti korištenja umjetne inteligencije u kibernetičkoj sigurnosti (obrana) jesu:

1. ZAŠTITA PODATAKA U HIBRIDNIM OKRUŽENJIMA (CLOUD).
   AI rješenja mogu identificirati „podatke u sjeni”, pratiti abnormalnosti/anomalije u pristupu podacima i upozoriti stručnjake za kibernetičku sigurnost na potencijalne prijetnje od bilo koga tko pristupa podacima ili osjetljivim informacijama. Također, štede dragocjeno vrijeme u otkrivanju i rješavanju problema u stvarnom vremenu.

2. GENERIRANJE PRECIZNIJIH I PRIORITIZIRANIH PRIJETNJI.
   Analiza rizika koju pokreće AI može proizvesti sažetke incidenata za upozorenja visoke točnosti i automatizirati odgovore na incidente, ubrzavajući istrage upozorenja i trijažu za prosječno 55 %. AI tehnologija također pomaže u prepoznavanju ranjivosti i samoj obrani od kibernetičkih kriminalaca i kibernetičkog kriminala.

3. USKLAĐIVANJE POTREBA KORISNIČKOG PRISTUPA I SIGURNOSTI.
   AI modeli mogu pomoći u pronalaženju ravnoteže između sigurnosti i korisničkog iskustva analizom rizika svakog pokušaja prijave i provjerom korisnika putem podataka o ponašanju (bihevioralna analiza), pojednostavljujući pristup za provjerene korisnike i smanjujući troškove prijevare do 90 %. AI sustavi pomažu i u sprječavanju krađe identiteta, zlonamjernog softvera i drugih zlonamjernih aktivnosti, osiguravajući visoku razinu sigurnosti.

IZDVOJENA STATISTIKA:

Organizacije s potpuno implementiranim AI sigurnosnim sustavima prosječno su smanjile troškove povrede podataka (data breach) za 3 milijuna USD. Te sposobnosti doprinose i uštedi vremena. Tako, primjerice, potrebno vrijeme od 230 dana (za otkrivanje, reakciju i oporavak) smanjuju na 99 dana, a organizacije s najzrelijim AI sustavima te sposobnostima automatizacije ostvaruju 40 % veći ROSI (povrat na sigurnosna ulaganja).

Tablica prikazuje AI metode u funkciji/ama kibernetičke sigurnosti (ARTIFICIAL INTELLIGENCE AND CYBERSECURITY RESEARCH; ENISA Research and Innovation Brief; JUNE 2023)

Trend rasta primjene AI-a u cyber securityu se nastavlja

Primjena generativne umjetne inteligencije za potrebe kibernetičke sigurnosti je u velikom porastu te će nastaviti rasti. Tvrtke će pri odabiru sustava kibernetičke sigurnosti (npr. SOC, SIEM i dr.) sve više uzimati u obzir AI mogućnosti sustava.

Prijetnje kibernetičkoj sigurnosti korištenjem umjetne inteligencije izazivaju sve veću zabrinutost organizacija i pojedinaca, s obzirom da mogu izbjeći tradicionalne sigurnosne mjere i uzrokovati značajnu štetu.

Neke od prijetnji na koje treba posebno obratiti pozornost jesu (sažeti popis):

1. upotreba umjetne inteligencije od strane APT-ova kako bi se izbjeglo otkrivanje pri napadima na određene organizacije ili pojedince;
2. zlonamjerni kôd koji se koristi umjetnom inteligencijom (AI powered malware);
3. automatizirano iskorištavanje ranjivosti;
4. credential stuffing napadi i
5. automatizirani botneti.

Ukoliko ste obveznik NIS2 i DORA-e, a pritom u svom poslovanju koristite i AI, pred vama je dodatan izazov vezan uz identificiranje i umanjivanje rizika koji proizlaze iz korištenja takve nove tehnologije. AI sustavi, kao i svi drugi koji se koriste u organizaciji, moraju biti usklađeni s primjenjivim zakonskim okvirima.