Stvarni domet veštačke inteligencije u sajber bezbednosti

Marketing i realnost digitalne zaštite

Tržište informacionih tehnologija preplavljeno je tvrdnjama o revolucionarnim sposobnostima najnovijih modela veštačke inteligencije kada je reč o sajber bezbednosti. Kompanije koje razvijaju ove sisteme često naglašavaju potencijalnu opasnost ako ovi alati dospeju u pogrešne ruke, stvarajući atmosferu straha i nesigurnosti. Ipak, stručnjaci koji se bave primenjenim istraživanjima u ovoj oblasti ukazuju na značajnu razliku između laboratorijskih uslova i stvarnog poslovnog okruženja.

U kontrolisanim okruženjima i takmičarskim poligonima, napredni algoritmi postižu izuzetne rezultate u otkrivanju i iskorišćavanju ranjivosti. Kada se isti sistemi nađu u živim mrežama koje se aktivno brane i primenjuju različite slojeve obmane, njihova efikasnost naglo opada. Takozvani napredni modeli pokazuju neočekivanu rigidnost u situacijama kada se okruženje menja ili kada naiđu na otpor.

Ovakva situacija dovodi do neslaganja između rukovodilaca koji traže budžete na osnovu aktuelnih medijskih natpisa i praktičara koji se svakodnevno bore sa realnim pretnjama. Skepticizam prema paušalnim ocenama o svemoćnim digitalnim napadačima raste jer praksa pokazuje da je put od teorije do izvođenja uspešnog napada u složenoj mreži znatno teži nego što to marketing sugeriše.

Zašto napadači nasedaju na digitalne mamce

Jedan od najintrigantnijih nalaza u savremenim bezbednosnim istraživanjima jeste ponašanje autonomnih sistema u poređenju sa ljudskim stručnjacima. Dok iskusni testeri penetracije povremeno nasedaju na lažne akreditive, baze podataka i druge obmane, računarski sistemi pokazuju zapanjujuću naivnost. Podaci pokazuju da veštačka inteligencija znatno češće interaguje sa postavljenim zamkama nego ljudski napadači.

Lažni tokeni i virtuelni resursi koji izgledaju privlačno služe kao rani signal za odbrambene timove, otkrivajući prisustvo neovlašćenog aktera u sistemu. Kada algoritam naiđe na ovakav artefakt, on često ignoriše sopstvene sumnje i nastavlja interakciju. Arhitektura ovih modela oslanja se na pohlepnu optimizaciju, što znači da biraju put koji deluje najkorisnije u datom trenutku, zanemarujući indikatore koji ukazuju na klopku.

Ova sklonost ka prebrzom obavezivanju na određeni korak otkriva suštinsko ograničenje savremenih modela u nepredvidivim okruženjima. Umesto da procene širi kontekst i mogućnost postojanja kontramera, algoritmi se fokusiraju na lokalni cilj, što ih čini lakim plenom za jednostavne odbrambene taktike poput strateški raspoređenih digitalnih mamaca.

Ograničenja podataka za obuku

Temelj svakog uspešnog modela veštačke inteligencije jesu podaci na kojima je treniran, a u oblasti sajber bezbednosti ti podaci su izuzetno ograničeni. Većina komercijalnih modela uči na javno dostupnim informacijama, kodovima otvorenog koda i standardnim bezbednosnim takmičenjima. Zbog toga njihova baza znanja ostaje plitka kada je reč o specifičnostima rada u velikim industrijskim mrežama.

Prava preduzeća funkcionišu na osnovu složenih, zatvorenih sistema koji se međusobno razlikuju po arhitekturi, protokolima i internoj organizaciji. Nedostatak kvalitetnih podataka o dešavanjima iza korporativnih zaštitnih zidova sprečava razvoj modela koji bi mogli samostalno da se snalaze u realnim scenarijima. Bez uvidanja u specifičnosti internog saobraćaja, autonomni sistemi nemaju dovoljno informacija za donošenje ispravnih odluka.

Ovaj problem pokazuje da trajnu vrednost u tehnološkom razvoju nemaju sami modeli, koji se neprekidno menjaju i usavršavaju, već specifične baze podataka i okviri za obuku. Kompanije koje uspeju da prikupe i strukturiraju podatke iz realnog okruženja stiču trajnu prednost, dok oni koji se oslanjaju isključivo na opšte dostupne izvore ostaju ograničeni u dometu.

Ubrzavanje zastarelih napadačkih tehnika

Iako autonomni sistemi nisu sposobni da u jednom potezu izvrše složen napad s kraja na kraj bez ljudske supervizije, njihova stvarna snaga leži u ubrzavanju postojećih procesa. Iskusni napadači danas koriste ove alate kao neograničene resurse digitalnih pripravnika koji mogu značajno da olakšaju rad na prikupljanju informacija i analizi koda.

Kada proizvođači softvera objave ispravke za uočene bezbednosne propuste, napadači vrše poređenje koda pre i posle zakrpe kako bi identifikovali prirodu ranjivosti. Ovaj proces, poznat kao binarna diferencijacija, ranije je zahtevao izuzetno specijalizovane veštine i značajno vreme. Uz podršku naprednih jezičkih modela, analiza izmenjenih linija koda obavlja se višestruko brže, čime se skraćuje vreme potrebno za kreiranje funkcionalnog napada.

Time se stvara ozbiljan izazov za organizacije koje sporo primenjuju dostupna ažuriranja. Činjenica da polovina poznatih ranjivosti ostaje nezakrpljena mesecima nakon objavljivanja upozorenja daje napadačima dovoljno vremena da iskoriste novostečenu brzinu automatske analize i ugroze sisteme pre nego što oni budu zaštićeni.

Koncept beskonačnih digitalnih metaka

Pojam beskonačnih digitalnih metaka opisuje sposobnost sistema da bez ljudskog zamora pokreću hiljade ili stotine hiljada instanci napada istovremeno. Kada je tehnička prepreka za pokretanje napada svedena na minimum, organizacije koje se brane moraju da promene pristup celokupnoj arhitekturi bezbednosti. Oslanjanje na spoljni perimetar više nije dovoljno za sprečavanje prodora.

U svetu u kojem napadači mogu da automatizuju početne faze izviđanja i mapiranja mreže, naglasak se pomera na unutrašnju segmentaciju i kontrolu pristupa. Umesto sprečavanja svakog pokušaja ulaza, fokus prelazi na ograničavanje štete kroz principe minimalnih privilegija i nultog poverenja. Ako napadač uspe da savlada spoljnu odbranu, unutrašnja struktura mreže mora da spreči njegovo slobodno kretanje.

Ovaj dinamični odnos između napadača i odbrane pokazuje da tehnologija ne rešava sve probleme sama po sebi. Dok veštačka inteligencija omogućava masovno izvođenje poznatih postupaka, efikasna odbrana i dalje zahteva kombinaciju brze primene zakrpa, mikrosegmentacije i strateške upotrebe sistema obmane koji zbunjuju dolazeće pretnje.

Perspektiva unutrašnjih pretnji

Posmatranje autonomnih agenata kroz prizmu unutrašnjih pretnji menja način na koji bezbednosni stručnjaci pristupaju njihovom nadzoru. Budući da ovi sistemi deluju unutar mreže koristeći ukradene akreditive i postojeće mrežne resurse, njihov rad podseća na ponašanje nesavesnog ili kompromitovanog zaposlenog. Pregled deljenih diskova i potraga za osetljivim datotekama predstavljaju standardne korake koje ovi alati preduzimaju.

Sve veća povezanost aplikacija sa autonomnim agentima otvara nova pitanja u vezi sa bezbednošću poslovnih sistema. Kada kompanije integrišu ove alate u svakodnevne operacije bez adekvatne kontrole, otvaraju se vrata za nenamerne zloupotrebe ili preuzimanje kontrole nad resursima. Neophodno je uspostaviti stroge mehanizme nadzora koji prate svaku aktivnost digitalnih agenata unutar poslovnog okruženja.

Zaključno, iako strah od svemoćnih veštačkih inteligencija koje samostalno ruše globalne finansijske sisteme ima uporište u marketinškim kampanjama, stvarna opasnost leži u suptilnijem ubrzavanju rutinskih zadataka. Razumevanje ovih ograničenja omogućava preduzećima da usmere resurse ka merama koje zaista daju rezultate u praksi, umesto da podležu neutemeljenoj panici.

Izvor: Alex Kantrowitz, Big Technology · Fotografija: Pexels / Freepik (ilustracija)