Stvarna odgovornost kod autonomnih sistema veštačke inteligencije

Evolucija softvera i problem autonomije

Savremeni softverski alati više ne čekaju eksplicitne komande korisnika pre nego što preduzmu akciju. Dok su ranije generacije tehnologije funkcionisale kroz direktan dijalog i odgovarale na pitanja, današnji autonomni sistemi samostalno trijažuju elektronsku poštu, ažuriraju baze podataka i šalju poruke dok se ljudi nalaze na sastancima. Ova promena predstavlja osnovnu svrhu postojanja modernih agenata, ali istovremeno otvara niz složenih pitanja o granicama njihove samostalnosti.

Pitanja sa kojima se suočavaju razvojni timovi uglavnom se svode na to da li agent sme da deluje pre nego što korisnik postavi pitanje i ko preuzima krivicu kada sistem prekorači ovlašćenja. Tradicionalni odgovor industrije sastojao se u dodavanju dijaloških prozora za potvrdu. Ideja je bila da jednostavan klik mišem rešava problem odgovornosti i vraća kontrolu u ruke čoveka.

Međutim, ovakav pristup zapravo premešta teret odgovornosti na osobu koja ima najmanje informacija i najmanje moći da utiče na krajnji ishod procesa. Kada softver obavi desetine koraka u pozadini, čovek koji potvrdno klikne na samom kraju postaje samo pasivni svedok složenih procesa koje više nije u mogućnosti da detaljno proveri.

Teoretičari su ove probleme predvideli još ranije. Istraživači su još krajem devedesetih godina prošlog veka modelirali situacije u kojima softver treba da deluje samostalno, dok su studije o automatizaciji upozoravale da oslobađanje ljudi rutinskih poslova ostavlja pred njima najteži zadatak, a to je pasivno posmatranje i čekanje greške.

Iluzija dugmeta za potvrdu

Prisustvo dugmeta za odobrenje na ekranu samo beleži činjenicu da je čovek bio prisutan u sistemu. Ono ne pruža nikakve garancije da je ta osoba zaista pročitala i razumela radnju koju odobrava. Psihološki fenomeni zabeleženi u istraživanjima interakcije čoveka i mašine pokazuju da ljudi razvijaju snažnu pristrasnost prema automatizovanim odlukama.

Postoje dve osnovne vrste grešaka koje proističu iz ovog ponašanja. Prva vrsta su greške izvršenja, kod kojih operater bespogovorno sledi pogrešan predlog mašine. Druga vrsta su tiše greške propusta, kod kojih čovek ne primećuje ono što sistem nije uspeo ni da registruje niti da označi kao problematično.

Relevantna istraživanja pokazuju da radnici koji se oslanjaju na automatsku pomoć beleže znatno nižu tačnost u situacijama kada sistem napravi grešku u odnosu na ljude koji samostalno obavljaju zadatke bez tehnološke podrške. Zbog toga se interrupcija rada često pokazuje korisnijom od pukog odobravanja.

Kompanije koje razvijaju napredne modele veštačke inteligencije primećuju da iskusniji korisnici češće prekidaju rad automatskih agenata nego početnici. Prinudno odobravanje svakog pojedinačnog koraka unosi nepotrebnu frikciju bez stvarnog povećanja bezbednosti, čineći proces sličnim beskorisnim bezbednosnim ritualima.

Koncept moralnih zona gužvanja

U sociološkim i pravnim analizama tehnologije postoji dobro poznat koncept koji objašnjava kako se odgovornost za propuste sistema uvek svaljuje na onog čoveka koji se u trenutku incidenta nalazio najbliže mestu događaja. Slično kao što zona gužvanja na automobilu štiti konstrukciju vozila tako što apsorbuje udarac, moralna zona gužvanja štiti softversku kompaniju, dok sav teret pada na operatera.

Klasičan primer ove pojave desio se tokom testiranja autonomnih vozila na javnim putevima, kada je vozilo udarilo pešaka uprkos prisustvu bezbednosnog vozača iza volana. Iako je federalna istraga utvrdila da je sama kompanija imala neadekvatnu bezbednosnu kulturu i da je sistem imao ozbiljne propuste, teret pravne odgovornosti često nosi pojedinac koji je sedeo u vozilu.

Biti uključen u radnu petlju u praksi često znači biti najbliži mestu na kojem dolazi do kolapsa sistema. Pojedinci koji kliknu na odobrenje pretvaraju se u zaštitni mehanizam sistema, dok autorski timovi koji su definisali pravila rada ostaju potpuno van fokusa javnosti i istrage.

Ovakva praksa pokazuje suštinsku nepravdu u dizajnu mnogih modernih platformi. Kada sistem funkcioniše bez adekvatne podrške za osobu koja ga nadzire, svaki neuspeh se automatski pripisuje ljudskom faktoru, abolirajući stvarne kreatore arhitekture rešenja.

Dvosmerna vrata i procena rizika

Osnovni princip donošenja odluka u softverskim sistemima nalaže da autonomija treba da prati stepen reverzibilnosti neke radnje, a ne samo nivo samopouzdanja samog algoritma. Pripremanje nacrta poruke i njeno direktno slanje nose potpuno istu verovatnoću tačnosti, ali potpuno drugačiju cenu greške.

Agent koji priprema, skicira i označava materijal unutar radnog prostora koji korisnik može slobodno da izmeni predstavlja proširenje ljudskih mogućnosti. Sa druge strane, agent koji samostalno vrši uplate, briše podatke ili šalje konačne dokumente zapravo troši tuđi autoritet i resurse bez mogućnosti jednostavnog povraćaja.

Različiti tipovi odluka zahtevaju i različite pristupe interakciji. Statistički izveštaj ili sažetak teksta može da predstavlja verovatnoću i da i dalje bude koristan jer čitaocu ostavlja prostor za sopstvenu procenu. Međutim, odluka koja rutira finansijski zahtev ili odobrava isplatu mora da se zasniva na determinističkim pravilima.

Poseban izazov predstavljaju ambijentalni agenti koji rade u pozadini na sopstvenom rasporedu. Dok klasični četbotovi čekaju direktno pitanje i imaju svedoke za svaku reč, ambijentalni sistemi deluju bez nadzora, pa se njihove greške akumuliraju tiho i daleko pre nego što neko pregleda sistemske dnevnike.

Pravni okviri i regulatorni pritisak

Regulatorne mere širom sveta sve više pooštravaju zahteve u pogledu odgovornosti za automatizovane odluke. Evropski propisi o veštačkoj inteligenciji izričito zahtevaju da ljudi koji nadgledaju rizične sisteme imaju mogućnost da u svakom trenutku prekinu rad aplikacije i preuzmu kontrolu nad procesom.

Slični propisi stupaju na snagu u različitim jurisdikcijama, uvodeći obavezu ljudskog pregleda za sve značajne odluke koje utiču na radni status, zapošljavanje ili finansije građana. Ukoliko softver donese negativnu odluku, pravni sistem zahteva postojanje jasnog kanala za žalbu i mogućnost da stvarni čovek poništi takvu odluku.

Određene kategorije odluka nikada ne bi smele da se prepuste potpunoj automatizaciji. Donošenje odluka o zapošljavanju, otpuštanju, uskraćivanju zdravstvene nege, potpisivanju pravnih ugovora u ime organizacije ili pružanju licenciranih stručnih saveta zahteva prisustvo lica koje preuzima ličnu odgovornost.

Praksa pokazuje da uvođenje zakonskih obaveza često nailazi na otpor u korporativnom sektoru, gde brojne kompanije i dalje beleže regulatorna kršenja. Regulatori insistiraju na tome da tehnološki alati ne mogu zameniti profesionalnu odgovornost licenciranih stručnjaka.

Dizajniranje sistema sa stvarnim vlasništvom

Istraživanja interakcije između ljudi i veštačke inteligencije naglašavaju tri ključna elementa uspešnog dizajna. Prvi element jeste precizno definisanje opsega usluge u situacijama sumnje, drugi je obezbeđivanje globalnih kontrola, a treći je transparentnost koja objašnjava zašto je sistem doneo određenu odluku.

Odluka koja dolazi bez jasnog obrazloženja ostavlja korisnika u situaciji da može da ponovi radnju, ali nikada ne može da je odbrani pred sudom ili upravom. Zbog toga je postojanje nezavisnog zapisa o radu sistema, koji sam agent ne može da prepravlja, apsolutni prioritet u bezbednosnom inženjeringu.

Iskustva iz pravne tehnologije pokazuju da su najbolje zaštićeni oni sistemi u kojima su pravni stručnjaci imali obavezu pregleda pre nego što dokument napusti sistem. Pri tome je dizajniranje samog interfejsa moralo biti izuzetno jednostavno, jer komplikovani koraci dovode do automatskog i besomučnog potpisivanja bez čitanja.

Suština kontrole leži u činjenici da se vlasništvo nad procesom ne može preneti na algoritam. Onog trenutka kada odobrenja postanu brža od čitanja, a jedina ograda postane rečenica unutar sistemskog prompta, sistem prestaje da ima stvarnu ljudsku kontrolu.

Praktični koraci za upravljanje agentima

Organizacije koje žele da zadrže kontrolu nad naprednim tehnologijama moraju da sprovedu temeljnu reviziju procesa odobravanja. Merenje vremena koje je ljudima potrebno da kliknu na odobrenje brzo otkriva da li je izgrađen pravi kontrolni mehanizam ili samo formalni ritual bez suštine.

Pravila delovanja moraju biti zapisana u sistemskim dozvolama i pravima pristupa, a nikada samo kao tekstualna instrukcija u okviru modela. Softverska ograničenja sprečavaju agente da pređu granice ovlašćenja čak i onda kada sama aplikacija ima drugačije ambicije.

Testiranje dometa delovanja pomaže u razdvajanju radnji koje sistem može da obavi samostalno od onih koje zahtevaju strogu ljudsku intervenciju. Nezavisno logovanje akcija i postojanje dugmeta za hitno zaustavljanje rada u realnom vremenu predstavljaju minimalni standard bezbednosti.

Krajnji cilj jeste očuvanje ljudske agencije kroz transparentan dizajn. Agent koji radi javno i u skladu sa unapred utvrđenim mandatom omogućava preduzećima da inoviraju bez straha od nepredviđenih i katastrofalnih posledica u poslovanju.

Izvor: UX Collective · Fotografija: Pexels / Freepik (ilustracija)