Samoumnožavajući tekstualni crvi: Nova bezbednosna ranjivost u radu sa AI asistentima

Nova dimenzija bezbednosnih izazova

Savremena primena veštačke inteligencije u svakodnevnom radu donela je visoku efikasnost, ali i sasvim nove oblike bezbednosnih rizika. Među najpoznatijim ranjivostima pametnih sistema izdvajaju se takozvani napadi ubacivanjem komandi, gde spoljni tekst menja planirano ponašanje AI modela. Istraživač Hokon Moloj nedavno je otkrio novu varijantu ovog problema koja podiže rizik na znatno viši nivo. Njegovo otkriće pokazuje kako se jednostavna manipulacija teksta u programu Microsoft Word može pretvoriti u mehanizam koji se samostalno umnožava kroz digitalne dokumente.

Klasične tehnike skrivanja teksta nisu novost u digitalnom svetu, jer se bela slova na beloj pozadini već dugo koriste u razne svrhe, uključujući i biografije za posao. Međutim, nova metoda predstavlja prvi zabeleženi slučaj u kom skrivena uputstva nameću modelu da ih doslovno prepiše u novi fajl. Kroz ovaj proces nastaje digitalni lanac u kome stvoreni dokument postaje novi nosilac skrivenih komandi. Kada se takav fajl upotrebi u sledećem radnom procesu uz podršku asistenta, ciklus se iznova pokreće bez ikakvog prisustva originalnog izvora.

Kako funkcioniše samoumećući mehanizam

Sustina ovog napada leži u načinu na koji alati poput alata Copilot za Microsoft Word obrađuju tekstualne podatke. Kada napadač postavi skrivene instrukcije u dokument koji služi kao izvor za generisanje novog sadržaja, pametni asistent te komande tumači kao deo korisničkog zahteva. Umesto da samo analizira zatečeni tekst, algoritam počinje da menja strukturu novog dokumenta prema unetom nalogu. Time se tradicionalni koncept računarskih crva prevodi na nivo jezičkih modela i semantičke obrade podataka.

Otpornost ovakvih napada ogleda se u tome što ne zahtevaju izvršni kod niti klasične softverske propuste u samom operativnom sistemu. Informacija o novoj ranjivosti odgovorno je prosleđena kompaniji Microsoft, koja je imala period od 144 dana da razvije odgovarajući zaštitni mehanizam. Uprkos naporima, trenutno ne postoji sveobuhvatna zaštita koja bi u potpunosti eliminisala čitavu klasu ovih bezbednosnih pretnji. Ovo otkriće, koje je privuklo veliku pažnju na platformi Hacker News, ukazuje na kompleksnost obezbeđivanja AI sistema.

Značaj digitalne higijene u radu

Pojava samoreplicirajućih instrukcija naglašava potrebu za novim pristupom u analizi pouzdanosti dokumenata koje razmenjujemo putem interneta. Kako se digitalni asistenti sve više integrišu u poslovne i obrazovne tokove, granica između običnog teksta i izvršnih komandi postaje sve nejasnija. Korisnici više ne mogu pretpostaviti da je tekstualni fajl bezbedan samo zato što ne sadrži makroe ili sumnjive priložene datoteke. Zbog toga razumevanje prirode jezičkih modela postaje ključni deo savremene informatičke pismenosti.

Bezbednosni stručnjaci ističu da će razvoj generativne veštačke inteligencije morati da prati i napredak u filtriranju ulaznih i izlaznih podataka. Dok se ne pronađu trajna rešenja na nivou samih modela, oprez pri korišćenju neproverenih izvora ostaje primarna zaštita. Predstavljanje ove ranjivosti pruža važnu lekciju o tome kako pametne tehnologije mogu postati prenosnici nevidljivih komandi. Predstojeće godine pokazaće u kojoj meri će razvoj AI sistema uspešno odgovoriti na izazove automatskog širenja neovlašćenih instrukcija.

Izvor: Simon Willison · Fotografija: Pexels / Markus Winkler (ilustracija)