Kako autonomni AI agenti menjaju sisteme za sprečavanje finansijskih zloupotreba

Novi izazovi u zaštiti digitalnih resursa

Autonomni softverski agenti postaju sve sposobniji da obavljaju složene zadatke u ime korisnika, ali njihovo delovanje donosi i potpuno nove oblike finansijskog i operativnog rizika. Klasični mehanizmi za sprečavanje prevara razvijani su godinama sa ciljem da prepoznaju sumnjive finansijske transakcije u samom trenutku plaćanja. Međutim, savremeni alati zasnovani na veštačkoj inteligenciji mogu napraviti značajnu štetu i pre nego što do bilo kakve uplate uopšte dođe. Oni često samostalno otvaraju nalože, masovno troše besplatne kredite i iskorišćavaju probne periode bez ikakve namere da kasnije postanu korisnici koji plaćaju uslugu.

Kada se računarski resursi potroše na zloupotrebe, poslovanje trpi direktne gubitke koje tradicionalni alati ne mogu da povrate. Primer kompanije Kurzor i njihove saradnje sa finansijskom platformom Strajp slikovito prikazuje ovaj problem u praksi. Strajpov specijalizovani alat za zaštitu od prevara pod nazivom Radar godinama je uspešno prepoznavao loše kartice i nevažeće transakcije. Ipak, pokazalo se da takav sistem nije bio prilagođen za korisnike koji prave gubitke bez ikakvog pokretanja platnog prometa. Kada tradicionalni mehanizam dobije priliku da proceni rizik, dragocena računarska snaga već je nepovratno potrošena.

Upravljanje budžetom i dozvolama softverskih agenata

Pitanje poverenja u autonomne sisteme postaje ključna tema za sve organizacije koje planiraju primenu veštačke inteligencije. Dodeljivanje finansijskih sredstava digitalnom agentu rešava samo jedan deo slagalice i ne osigurava automatski bezbedno poslovanje. Finansijski budžet u digitalnom novčaniku ne garantuje kvalitet izvršenog zadatka, niti daje odobrenje za deljenje poverljivih informacija sa trećim stranama. Zbog toga se ograničenje potrošnje, provera kvaliteta rada i dozvole za pristup podacima moraju posmatrati kao tri potpuno odvojena nivoa odobravanja.

Mogućnost kompanije da precizno razdvoji poštene korisnike od zlonamernih agenata direktno određuje koje klijente ta firma uopšte može sebi priuštiti da uslužuje. Odluke o načinu borbe protiv zloupotreba tako postaju direktne odluke o distribuciji i ponudi proizvoda na tržištu. Zbog toga se u industriji sve više analizira veza između troškova obrade i ostvarenih prihoda. Strajpova akvizicija servisa OpenRuter predstavlja primer nastojanja da se cena izvršavanja zadataka direktno poveže sa zaradom koju ti zadaci donose.

Prilagođavanje poslovnih modela novim okolnostima

Povezivanje stvarnih troškova sa cenom usluga predstavlja izazov koji prevazilazi puko prebrojavanje utrošenih tokena u sistemu. Čak i kada kompanija ima potpunu evidenciju o potrošnji resursa, to joj ne govori automatski da li je novac uložen na pametan način. Dodatno, autonomni agenti menjaju i način na koji se softverski alati otkrivaju i koriste. Zanimljiv primer jeste sedam godina star softver komandne linije kompanije Strajp, koji je zabeležio nagli vertikalni rast upotrebe onog trenutka kada su ga AI agenti samostalno otkrili i integrisali u svoje radne procese.

Integracija veštačke inteligencije u radne tokove zahteva i nove načine pristupa stručnim informacijama i bibliotekama podataka. Razvoj specijalizovanih interfejsa za komunikaciju sa AI sistemima, poput MCP protokola, omogućava da se pretplate i arhive direktno povežu sa radnim sesijama veštačke inteligencije. U novim okolnostima, formiranje cena i zaštita od prevara više se ne rešavaju na izolovanim sastancima o AI strategiji, već kroz redefinisanje celokupne infrastrukture digitalnog poslovanja.

Izvor: Nate's Newsletter (AI) · Fotografija: Pexels / Freepik (ilustracija)