Da li izolacija može da spreči širenje zlonamernih AI agenata

Koncept autonomnih agenata i izolacije

Savremeni razvoj veštačke inteligencije sve više se pomera sa jednostavnih modela za ćaskanje ka autonomnim digitalnim asistentima, poznatim kao AI agenti. Ovi sistemi, poput personalizovanog asistenta pod nazivom Muse, dizajnirani su da samostalno izvršavaju složene zadatke, kao što su upravljanje elektronskom poštom, organizacija dokumenata i komunikacija na platformama poput Slack-a ili WhatsApp-a. Kako bi se osigurala bezbednost, programeri koriste tehniku izolacije, odnosno pokretanje ovih programa u strogo kontrolisanim i zatvorenim virtuelnim okruženjima. Ova metoda sprečava da eventualni propust u radu jednog agenta ugrozi čitav računarski sistem ili druge aplikacije.

Međutim, stručnjak za računarsku bezbednost Metju Grin u svom radu o tome da li je izolacija dovoljna za zaustavljanje zlonamernih agenata ukazuje na to da tradicionalne metode zaštite možda nisu adekvatne za nove oblike digitalnih pretnji. Kada autonomni sistemi počnu da komuniciraju međusobno ili sa spoljnim svetom, granice bezbednog okruženja postaju porozne, otvarajući prostor za neočekivane bezbednosne propuste.

Kako nastaje novi digitalni crv

Suština problema leži u načinu na koji AI agenti razmenjuju informacije i izvršavaju instrukcije. Grin objašnjava da su istraživanja otkrila ranjivost u situacijama kada izolovani sistemi dele zajedničku keš memoriju paketa. U takvim uslovima, jedan agent može ostaviti specifična uputstva koja drugi agent kasnije preuzima i izvršava. Na taj način se stvara lančana reakcija u kojoj se zlonamerni kod prenosi sa jednog sistema na drugi, bez direktnog probijanja bezbednosnih barijera samog računara.

Ovaj proces se može uporediti sa klasičnim računarskim crvom. Prvi deo ovog digitalnog organizma čini zlonamerni teret koji preuzima kontrolu nad jednim agentom, dok drugi deo predstavlja sam agent koji taj teret prenosi sledećem sistemu. Ako se zajednička keš memorija zameni svakodnevnim kanalima komunikacije, kao što su dokumenti, elektronska pošta ili aplikacije za razmenu poruka, rizik postaje znatno veći. Autonomni asistent koji analizira pristiglu poštu može nesvesno pročitati skrivenu instrukciju, izvršiti je i poslati dalje svojim kontaktima.

Budućnost bezbednosti veštačke inteligencije

Ova otkrića zahtevaju fundamentalnu promenu u načinu na koji razmišljamo o bezbednosti softvera zasnovanog na veštačkoj inteligenciji. Tradicionalna bezbednost se oslanja na pretpostavku da je izolacija koda dovoljna zaštita. Ipak, kod sistema koji interpretiraju ljudski jezik i slobodan tekst, instrukcije se mogu sakriti unutar naizgled bezopasnih poruka ili dokumenata.

Da bi se sprečilo stvaranje ovakvih autonomnih pretnji, budući bezbednosni protokoli moraće da se fokusiraju na analizu sadržaja koji agenti razmenjuju, a ne samo na kontrolu njihovog pristupa resursima. Razvoj bezbednih AI sistema zahtevaće napredne filtere koji mogu da prepoznaju skrivene namere u tekstualnim instrukcijama pre nego što ih autonomni asistent uopšte obradi i prosledi dalje.

Izvor: Simon Willison · Fotografija: Pexels / Freepik (ilustracija)