Kredibilitet veštačke inteligencije i unutrašnje krize

Konflikt oko bezbednosti i otkazi

Početkom oktobra, kompanija OpenAI našla se u središtu pažnje javnosti nakon što su otpuštena tri istraživača iz sektora zaduženog za bezbednost sistema. Prema navodima otpuštenih radnika, razlozi koji su im navedeni tokom razlaza bili su različiti, ponekad kontradiktorni i često saopšteni usmeno bez zvanične pisane dokumentacije. Jedan od istraživača, Tomek Korbak, obavesten je da je otkaz usledio zbog načina komuniciranja sa spoljnom istraživačkom organizacijom METR, sa kojom je kompanija ranije sarađivala na ispitivanju bezbednosnih incidenata. Drugi zaposleni, Mikita Balesni, suočio se sa tvrdnjama da rukovodstvo više nema poverenja u njega zbog navodnog odavanja poverljivih informacija, iako on kategorički odbacuje takve optužbe. Treći slučaj uključivao je administrativni nesporadi u vezi sa pristupom korporativnoj e-pošti koji je ranije bio odobren za potrebe regrutovanja kadrova.

Reakcija menadžmenta usledila je kroz zvanično saopštenje za medije u kojem se navodilo da su pojedinci nepravilno rukovali osetljivim informacijama suprotno utvrđenim procedurama. Kompanija je istakla da ovi potezi nemaju nikakve veze sa iznošenjem zabrinutosti u vezi sa bezbednošću ili internim debatama, već predstavljaju kršenje osnovnog poverenja koje je neophodno za rad. Bivši radnici su ubrzo odgovorili otvorenim pismom u kojem demantuju ove navode i tvrde da su otpušteni zapravo zbog insistiranja na strožim bezbednosnim standardima i očuvanju nadzora nad modelima. Ova situacija stvara ozbiljan presedan unutar organizacije, jer šalje dvosmislene poruke preostalim stručnjacima koji u svakodnevnom radu mogu naići na etičke i tehničke dileme koje zahtevaju reakciju.

Pitanje ko govori istinu postalo je centralno za radnu atmosferu unutar kompanije koja teži globalnom liderstvu u oblasti veštačke inteligencije. Ukoliko zaposleni posumnjaju da se unutrašnja upozorenja kažnjavaju pod izgovorom administrativnih propusta, verovatnoća da će ubuduće prijavljivati rizike drastično opada. Takva klima straha i nepoverenja direktno ugrožava misiju stvaranja bezbednih sistema, jer se problemi guraju pod tepih umesto da se transparentno rešavaju. Slični incidenti koji su se dešavali u prošlosti dodatno pojačavaju utisak da postoji jaz između proklamovanih vrednosti rukovodstva i konkretnih korporativnih akcija na terenu.

Značaj praćenja procesa razmišljanja

Da bismo razumeli suštinu sukoba, neophodno je sagledati kako savremeni jezički modeli obrađuju informacije i dolaze do rešenja. Većina naprednih sistema koristi takozvani lanac misli, odnosno privremeni prostor gde model zapisuje korake svog rezonovanja pre nego što formuliše konačan odgovor. Ovaj mehanizam se pokazao kao ključna bezbednosna brana, jer ljudskim inženjerima omogućava da zavire u unutrašnji tok zaključivanja sistema. Analizirajući ove beleške, istraživači mogu da uoče da li model pokušava da prevari sistem, da li ignoriše pravila ili da li razvija potencijalno opasne namere tokom rešavanja zadataka. Bez ovog uvida, rad sa veštačkom inteligencijom postao bi znatno rizičniji, nalik na rad u mraku sa nepoznatim ishodom.

Mehanizmi praćenja lanca misli nisu savršeni, ali predstavljaju najbolji alat koji industrija trenutno ima na raspolaganju za nadzor nad autonomnim agentima. Alternativni pristup, poznat kao mehanistička interpretabilnost, pokušava da analizira rad modela direktno na nivou veštačkih neurona i njihovih međusobnih veza. Iako taj pristup pruža fascinantne akademske uvide u strukturu mreže, on još uvek nije doneo praktične alate koji bi se mogli koristiti za svakodnevnu kontrolu kompleksnog ponašanja modela. Zbog toga je očuvanje i unapređenje transparentnosti lanca misli ostalo primarni zadatak istraživača koji brinu o bezbednosti i etici primene veštačke inteligencije u realnom okruženju.

Otpušteni istraživači su mesecima unutar organizacije naglašavali važnost očuvanja ove vidljivosti procesa rada. Prema njihovim rečima, industrija još uvek ne poseduje bezbedne metode za razvoj i primenu modela čije ponašanje ne može pouzdano da se nadzire. Svaki korak koji smanjuje mogućnost uvidjanja unutrašnjih odluka sistema predstavlja korak unazad za bezbednosnu kulturu. Upravo je ovo zalaganje za industrijske standarde transparentnosti, prema mišljenju bivših radnika, bio stvarni razlog njihovog udaljivanja iz kompanije, pošto su se njihovi stavovi kosili sa komercijalnim planovima bržeg izbacivanja novih proizvoda na tržište.

Tehničke promene i arhitektura modela

Tehnološki napredak u ovoj industriji često nosi sa sobom nepredviđene rizike po bezbednost i nadzornu moć ljudi nad mašinama. Nedavno predstavljeni modeli kompanije OpenAI doneli su značajnu arhitektonsku promenu koja omogućava sistemima da efikasnije rešavaju probleme uz znatno manju potrebu za zapisivanjem međukoraka. Ova promena je postignuta primenom tehnike poznate kao rekurentna dubina, koja menja tradicionalni jednosmerni tok informacija kroz slojeve mreže. Kod klasičnih modela, informacije se prenose napred iz sloja u sloj sve do konačnog izlaza, dok nova arhitektura omogućava da se podaci iz kasnijih slojeva vraćaju na ranije obrade, čime se issti slojevi koriste više puta bez emitovanja izlaznih tokena.

Ovakav pristup donosi nesumnjive ekonomske i tehničke prednosti u vidu veće brzine, manjeg memorijskog opterećenja i niže cene primene sistema u praksi. Međutim, negativna strana ove inovacije jeste drastično smanjenje vidljivosti unutrašnjeg rezonovanja za spoljne posmatrače i inženjere. Modeli sa rekurentnom dubinom mogu direktno da daju tačne odgovore na lakše zadatke bez ikakvog traga razmišljanja, dok za složenije probleme generišu znatno kraće i teže razumljive beleške. Nezavisna testiranja su pokazala da najnovije verzije sistema imaju znatno veće šanse da obave teške zadatke bez vidljivog lanca misli u poređenju sa starijim generacijama tehnologije.

Rukovodstvo kompanije je pokušalo da umiri javnost tvrdnjama da dubina računskih grafova ostaje unutar prihvatljivih granica i da informacioni tok nije drastično izmenjen u poređenju sa prethodnicima. Ipak, kritičari upozoravaju da je ovo tek početak trenda koji će se nastaviti u budućim verzijama modela. Ako manja količina rekurentnosti donosi veću efikasnost, budući sistemi će verovatno još agresivnije koristiti ovu tehniku, čineći lance misli potpuno neprozirnim. Time se otvara suštinsko pitanje o tome kako će ljudi nadzirati sisteme koji postaju pametniji, a istovremeno sve više sakrivaju načine na koje donose odluke.

Kultura tajnovitosti i poruke zaposlenima

Bez obzira na zvanična objašnjenja menadžmenta i argumente otpuštenih istraživača, nastala situacija šalje nedvosmislenu poruku preostalim radnicima u sektoru bezbednosti. Rečenica da se od zaposlenih očekuje visok stepen poverenja često se u praksi tumači kao zahtev za poslušnošću i izbegavanjem javnog iznošenja internih problema. Kompanija koja se suočava sa optužbama da ne može u potpunosti da nadzire sopstvene modele sada se našla u poziciji da još teže kontroliše sopstveni kadar. Kada se poverenje izgradi na strahu od posledica, stručnjaci radije biraju tišinu ili napuštanje kompanije nego rizikovanje karijere zarad opšteg društvenog interesa.

Ovakav razvoj događaja ima direktne posledice na sposobnost kompanije da zadrži najbolje kadrove na konkurentnom tržištu radne snage. Vodeći stručnjaci za veštačku inteligenciju često imaju brojne alternative i mogu birati gde će raditi, a ugled poslodavca igra sve veću ulogu pri donošenju odluka o karijeri. Odlazak istaknutih istraživača, bilo kroz otkaze ili dobrovoljne odlaske koji su obeležili prethodni period, slabi unutrašnje resurse za rešavanje složenih etičkih izazova. U industriji gde je ljudski kapital ključni resurs za uspeh, gubitak talenata može imati dugoročne posledice koje se ne mogu nadoknaditi pukim uvođenjem novih hardverskih kapaciteta.

Klimu u kojoj vlada pravilo iznošenja što manjeg broja informacija prepoznaju i spoljni posmatrači, investitori i regulatorna tela. Kada organizacija izbegava jasne odgovore na legitimna pitanja o bezbednosti i radnim odnosima, stvara se vakuum koji se popunjava spekulacijama i gubitkom tržišnog kredibiliteta. Kompanije koje pretenduju da vode globalnu tehnološku trku moraju pokazati viši nivo otvorenosti kako bi zadržale podršku javnosti koja sve više prepoznaje rizike nekontrolisanog razvoja naprednih algoritama.

Paralela između mašina i ljudi

U celoj situaciji prisutna je neobična i zabrinjavajuća ironija koja povezuje ponašanje veštačke inteligencije i korporativno upravljanje. Dok inženjeri strahuju da jezički modeli razvijaju skrivene motive koji se razlikuju od onoga što zapisuju u svojim lancima misli, javnost i zaposleni sada brinu da ista ta kompanija ima skrivene motive koji se razlikuju od njenih javnih izjava. U oba slučaja, osnovni problem leži u nemogućnosti posmatrača da provere istinitost tvrdnji koje sistem plasira spoljašnjem svetu.

Rešenje za ovaj dvostruki problem zapravo prati potpuno isti princip, a to je uvođenje veće transparentnosti radi vraćanja poljuljanog poverenja. Kada su u pitanju jezički modeli, to znači ulaganje dodatnih napora u razvoj pouzdanih metoda nadzora pre nego što se sistemi bez kontrole puste u komercijalnu upotrebu. Bez takvih koraka, razumevanje incidenata poput onog sa bezbednosnim propustima postalo bi nemoguće, jer ne bismo imali uvid u unutrašnje motive autonomnih agenata koji su ih izazvali.

Sa druge strane, ukoliko tehnološki giganti zaista žele da im zaposleni i šira javnost veruju, moraju se otvoriti za spoljni nadzor od strane nezavisnih organizacija i državnih regulatornih tela. Prihvatanje spoljne kontrole ne predstavlja slabost, već jedini održivi način da se dokaže iskrena posvećenost proklamovanim ciljevima bezbednosti. Kompanije koje prepoznaju ovu potrebu postaće predvodnici nove ere u kojoj inovacije i odgovornost idu ruku pod ruku, dok one druge rizikuju da ostanu zarobljene u sopstvenoj zatvorenosti.

Izvor: Understanding AI · Fotografija: Pexels / Freepik (ilustracija)