Trek
Početna
Rubrike
Nalog
Trek
podrska@gosimple.space © 2026 Trek · gosimple.agency
26 novih danas Dešavanja Igre
Trek

Kraj ere enkripcije: Zašto AI agenti vide ono što šifrovanje ne može da zaštiti

Tradicionalna zaštita podataka putem enkripcije postaje nedovoljna pred naletom AI agenata integrisanih u operativne sisteme. Članak analizira zašto ekrani uređaja postaju nova ranjiva tačka i kako kompanije moraju prilagoditi svoje bezbednosne protokole.

Kratak odgovor

Enkripcija štiti podatke u prenosu, ali ne i sadržaj na ekranu koji AI agenti mogu slobodno da čitaju. Kompanije moraju preuzeti kontrolu nad dozvolama aplikacija i uvesti stroge politike upravljanja AI agentima kako bi sprečile curenje osetljivih informacija.

Futuristička kontrolna soba sa velikim svetlećim ekranima koji prikazuju digitalne podatke i mape sveta u mraku

Iluzija sigurnosti u eri veštačke inteligencije

Decenijama je end-to-end enkripcija smatrana zlatnim standardom digitalne privatnosti. Kompanije su verovale da, ukoliko su podaci šifrovani tokom prenosa i skladištenja, njihova tajnost je zagarantovana. Međutim, nedavno upozorenje aplikacije Signal, koja je poznata po beskompromisnom stavu prema bezbednosti, menja ovu paradigmu. Signal je javno označio AI agente integrisane u operativne sisteme kao egzistencijalnu pretnju.

Problem leži u tome što enkripcija štiti poruku dok putuje kroz mrežu, ali ne pruža nikakvu zaštitu na samom uređaju gde se ta poruka prikazuje. AI agenti, poput onih koje razvijaju Apple, Google ili Microsoft, dizajnirani su da budu sveprisutni asistenti. Oni funkcionišu na nivou operativnog sistema, što im omogućava da 'vide' sve što se nalazi na ekranu korisnika, bez obzira na to koliko je jaka kriptografija korišćena u pozadini aplikacije.

Ovo otkriće ukazuje na fundamentalnu promenu u tehnološkom pejzažu. Dok su se inženjeri decenijama fokusirali na zaštitu podataka u tranzitu, sada se suočavaju sa izazovom zaštite podataka na samom korisničkom interfejsu. AI agenti ne mare za protokole enkripcije jer oni ne presreću podatke iz mreže, već ih 'čitaju' direktno sa ekrana, pretvarajući svaki prozor u izvor informacija za svoje modele.

Mehanizmi pristupa: Kako agenti zaobilaze barijere

Da bi razumeli opasnost, neophodno je analizirati kako ovi sistemi funkcionišu. AI agenti koriste niz dozvola koje su prvobitno dizajnirane za pomoćne tehnologije, poput onih za osobe sa invaliditetom. Pristupačnost (accessibility) je postala ključni mehanizam koji omogućava softveru da čita i kontroliše interfejse drugih aplikacija. Kada korisnik dodeli ove dozvole, on zapravo daje agentu 'glavni ključ' za pristup svim podacima na uređaju.

Pored pristupačnosti, agenti koriste alate za snimanje ekrana i praćenje notifikacija. Notifikacije su posebno opasne jer često prikazuju delove poruka, kodove za verifikaciju ili osetljiva upozorenja pre nego što korisnik uopšte otvori aplikaciju. Kada se ovi podaci jednom capture-uju, oni napuštaju kontrolu aplikacije i postaju deo lokalne baze podataka ili udaljenog servera koji agent koristi za obradu.

Signal je primetio da je ovo postalo posebno teško kontrolisati na platformama poput macOS-a, gde dokumentacija o API-jima često ne pruža jasne načine za blokiranje ovakvog pristupa. Dok se na mobilnim uređajima još uvek mogu primeniti određene restrikcije, desktop okruženja ostaju ranjivija, jer su mnogi procesi snimanja ekrana sistemski podržani radi funkcionalnosti, a ne radi zaštite privatnosti.

Ekonomska i korporativna odgovornost

Ovaj problem nije ograničen samo na privatne poruke; on direktno pogađa korporativni sektor. Zamislite CRM sisteme, portale za ljudske resurse ili poverljive dokumente sa sastanaka odbora koji su otvoreni na laptopu zaposlenog. Svaka od ovih aplikacija je prošla rigorozne bezbednosne provere, ali nijedna od njih nije dizajnirana da se brani od AI agenta koji 'gleda preko ramena' korisnika.

CIO (Chief Information Officer) i CISO (Chief Information Security Officer) pozicije sada moraju da redefinišu svoje prioritete. Bezbednosne revizije više ne smeju da pitaju samo da li su podaci enkriptovani. Ključno pitanje postaje: koji softver na ovom uređaju ima dozvolu da čita ekran, notifikacije i stablo pristupačnosti? Ako agent ima sve tri dozvole, on je praktično stalni posmatrač rada zaposlenog.

Kompanije moraju da shvate da je dozvola koju zaposleni klikne tokom podešavanja novog alata postala nova granica bezbednosti. Često se dešava da zaposleni, u želji da ubrzaju rad, daju široke dozvole AI alatima, ne shvatajući da time otvaraju vrata za eksfiltraciju korporativnih tajni. Upravljanje ovim dozvolama mora postati deo standardne IT politike preduzeća.

Strategija odbrane: Šta CIO mora da uradi

Prvi korak za svaku organizaciju je detaljan popis svih AI agenata koji se koriste na managed uređajima. Ovo uključuje kako sistemske asistente, tako i third-party alate koje su zaposleni samoinicijativno instalirali. Potrebno je klasifikovati osetljive aplikacije, poput onih za finansije ili razvoj softvera, i postaviti politiku da nijedan AI agent ne sme imati pristup ovim aplikacijama po defaultu.

Neophodno je iskoristiti postojeće kontrole. Na primer, na macOS-u je moguće dodati osetljive aplikacije na listu isključenih aplikacija u podešavanjima za Siri ili druge asistente. Takođe, in-app zaštite, poput blokiranja screenshotova, moraju biti aktivirane za sve osetljive role unutar kompanije. Ovo možda neće rešiti sve probleme, ali značajno smanjuje površinu napada.

Takođe, potrebno je revidirati upitnike za dobavljače softvera. Svaki vendor mora biti upitan da li njegova aplikacija podržava 'opt-out' od AI obrade podataka. Kompanije moraju zahtevati od velikih tehnoloških igrača, poput Apple-a, Google-a i Microsoft-a, da uvedu jednostavne prekidače po aplikaciji koji će onemogućiti AI agentima da čitaju sadržaj specifičnih programa.

Budućnost privatnosti na ekranu

Signal je jasno poručio da oni ne mogu sami da reše ovaj problem. Njihova uloga 'kanarinca u rudniku' ukazuje na to da, ako aplikacija koja je sinonim za privatnost ne može da garantuje sigurnost, nijedna druga aplikacija na istom uređaju to sigurno ne može. Ovo je sistemski problem koji zahteva sistemsko rešenje od strane kreatora operativnih sistema.

Dok čekamo na standardizovane prekidače, organizacije moraju tretirati dozvole za AI agente kao administratorske privilegije. One moraju biti vremenski ograničene, odobrene od strane nadležnih lica i redovno revidirane. Svaki pristup koji nije neophodan za rad mora biti uklonjen kako bi se minimizirao rizik od curenja podataka.

Na kraju, edukacija zaposlenih ostaje ključna. Oni moraju razumeti da praktičnost AI asistenta dolazi sa cenom privatnosti. Kada zaposleni razumeju da 'pomoć' agenta znači da on mora da vidi sve što oni vide, verovatno će biti oprezniji pri davanju dozvola. Bezbednost više nije samo pitanje mreže; ona se sada odlučuje u deliću sekunde na ekranu uređaja.

Zaključak: Proaktivno upravljanje rizikom

Prelazak sa mrežne na vizuelnu bezbednost predstavlja najveću promenu u IT sigurnosti u poslednjoj deceniji. Kompanije koje na vreme prepoznaju da AI agenti predstavljaju novi vektor napada biće u prednosti. Neophodno je prestati sa pasivnim prihvatanjem podrazumevanih podešavanja operativnih sistema i preuzeti aktivnu kontrolu nad onim što AI sme da vidi.

Poruka je jasna: tehnologija koja nam pomaže da budemo produktivniji istovremeno postaje naš najveći bezbednosni rizik. Delujte pre nego što agenti postanu standardni deo vašeg radnog okruženja. Postavite jasne granice, revidirajte dozvole i zahtevajte od vendora alate koji vam omogućavaju da kažete 'ne' kada je u pitanju pristup vašim najosetljivijim podacima.

Izvor: Towards AI · Fotografija: Freepik (ilustracija)

Imaš pitanje za autora?

Pošalji ga direktno autoru (Trek). Odgovor stiže na tvoj imejl.

82 pregleda
Trek
Autor

Trek

0 pratilaca

Trek je poslovna platforma za čitaoce i autore: startapi, firme, inovacije, ekonomija, marketing, propisi i karijera. Pod ovim potpisom izlaze tekstovi redakcije, vodiči i analize koje ne potpisuje jedno ime.

Pitanja i odgovori

Zašto enkripcija više nije dovoljna zaštita?

Enkripcija štiti podatke tokom prenosa kroz mrežu, ali ne pruža zaštitu na samom uređaju gde se podaci prikazuju na ekranu.

Kako AI agenti pristupaju šifrovanim podacima?

AI agenti funkcionišu na nivou operativnog sistema i vide sve što se nalazi na ekranu korisnika bez obzira na primenjenu kriptografiju.

Koje kompanije razvijaju AI agente?

AI agente razvijaju kompanije kao što su Apple, Google i Microsoft.

Izvori

  1. Towards AI
Prijavi ovaj tekst redakciji
Prijave pregleda redakcija. Zloupotreba obrasca vodi u blokadu.

Komentari (0)

Budi prvi koji komentariše ovaj članak.

Ostavi komentar

Imaš nalog? Prijavi se ili nastavi preko Google-a, ili komentariši kao gost:

Stigao si do kraja ovog lanca čitanja.

Otkrij još tekstova