Zašto fokus na apokaliptične scenarije šteti stvarnoj bezbednosti veštačke inteligencije

Razdvajanje egzistencijalnog straha od sistemske ranjivosti

Savremena javna debata o veštačkoj inteligenciji duboko je podeljena na dve dominantne struje. Sa jedne strane nalaze se upozorenja da tehnologija predstavlja neposrednu egzistencijalnu pretnju po opstanak čovečanstva. Sa druge strane, kritičari tvrde da su takve izjave rukovodilaca tehnoloških kompanija i uzbunjivača neiskrene, te da služe stvaranju lažnog utiska o moći alata ili pokušaju takozvanog regulatornog zarobljavanja tržišta.

Između ova dva pola često se zanemaruje treća mogućnost. Ta treća opcija sugeriše da su upozorenja o egzistencijalnom riziku iskrena, ali u svojoj suštini pogrešna i kontraproduktivna za samu bezbednost društva. Posmatrači često podrazumevaju da su akteri koji podižu uzbunu genijalci, pa se rasprava vodi jedino oko toga da li su njihove namere dobronamerne ili zlonamerne. Takav pristup onemogućava hladnoratovsku analizu stvarnih ekonomskih i tehničkih izazova.

Da bi se razumeo pravi problem bezbednosti, potrebno je razdvojiti maštovite scenarije o superinteligenciji od dokazanih obrazaca po kojima društva ulažu u odbranu od sistemskih kriza. Istorija pokazuje da svet sistematski ulaže nedovoljno resursa u zaštitu od katastrofalnih događaja, čak i kada postoje jasni naučni i ekonomski modeli. Bezbednost veštačke inteligencije mora se posmatrati kroz prizmu pojačavanja već postojećih društvenih i tehnoloških ranjivosti.

Lekcije iz istorije nedovoljnog ulaganja u prevenciju

Problem zanemarivanja sistemskih rizika nije nastao sa pojavom naprednih algoritama. Primer pripreme za globalne pandemije slikovito ilustruje kako javne politike zakazuju uprkos pravovremenim upozorenjima. Izveštaj Svetske zdravstvene organizacije i Svetske banke iz 2019. godine izneo je procenu da respiratorni patogen može usmrtiti od 50 do 80 miliona ljudi i uništiti skoro pet procenata globalne ekonomije. Isti dokument je pokazao da bi adekvatna priprema koštala svega jedan do dva dolara po osobi godišnje na globalnom nivou.

Od pandemije gripa H1N1 2009. godine, najmanje jedanaest visokih komisija i panela dalo je konkretne preporuke za poboljšanje globalne spremnosti. Uprkos tome, velika većina tih preporuka nikada nije sprovedena u praksi. Čak i nakon iskustva sa pandemijom virusa COVID, finansiran je samo mali deo stvarnih potreba za preventivu.

Nezavisni panel je 2024. godine ukazao na ciničnu privlačnost obezbeđivanja velikih resursa tokom same krize, umesto proaktivnog sprečavanja nesreće. Koren ovog problema leži u političkoj dinamici u kojoj birači nagrađuju trošenje novca na sanaciju štete, dok proaktivnu prevenciju retko ko vrednuje. Finansijski i moralni okviri zasnovani na proračunu očekivane koristi efikasni su za uočavanje ovih propusta, ali njihova primena na hipotetičke opasnosti veštačke inteligencije stvara pogrešne prioritete.

Ranije lekcije iz sajber bezbednosti i mrežni raspad

Kada se posmatra digitalna infrastruktura, problem nedovoljne pripremljenosti za sistemske šokove još je izraženiji nego u medicini. Za razliku od finansijskog sektora ili zdravstva, u zajednici sajber-bezbednosti nikada nije zaživela kultura modelovanja katastrofalnih rizika. Ekonomski pristup bezbednosti uspeo je da ublaži gubitke od svakodnevnih napada, ali tržišta dokazano loše procenjuju rizik ekstremnih događaja sa malom verovatnoćom i ogromnim posledicama.

Osiguravajuće kuće su svesne ovih ograničenja. Predstavnici kompanije Lojds su još 2022. godine otvoreno ukazali na to da gubici usled teških kibernetičkih napada pod pokroviteljstvom država mogu uveliko premašiti kapacitet apsorpcije čitavog tržišta osiguranja. Zbog toga osiguravači masovno odbijaju da pružaju pokriće za takve napade, ostavljajući privredu izloženo nepredvidivim potresima.

Ova ranjivost nema nikakve direktne veze sa najnovijim probojima u razvoju veštačke inteligencije. Pre pet godina, na Univerzitetu Prinston, profesor Arvind Narajanan je učio studente da su lančani otkaz i katastrofalni krahovi interneta sasvim mogući, sa posledicama koje mogu promeniti civilizaciju. Tvrdnja Darija Amodeija da mreže autonomnih agenata mogu potencijalno preuzeti čitavu mrežu jeste formulisana hiperbolično, ali ukazuje na pravac koji zahteva ozbiljnu analizu umesto ignorisanja.

Akumulativni rizik i tiho urušavanje društvene otpornosti

Pored naglih i katastrofalnih događaja, postoje i sistemski rizici koji deluju postepeno i neprimetno. Delovanje generativnih četbotova na saobraćaj prema novinskim portalima pruža jasan primer tog procesa. Stope učestalosti klikova sa četbotova daleko su niže u poređenju sa tradicionalnim pretraživačima, što ubrzava finansijski pad klasičnog novinarstva.

Drugostepeni društveni efekti ove promene neće postati očigledni u kratkom roku, ali dugoročno urušavaju kvalitet javnog informisanja. Naučnica Atoosa Kasirzadeh uvela je koncept akumulativnog rizika kako bi opisala ovo postepeno nagrizanje društvene otpornosti. Dok kod pandemija javnost brzo zaboravlja prošle krizne događaje, kod akumulativnog rizika proces propadanja je toliko sveprisutan i nejasan da ljudi na njega oguglaju.

Polazeći od jasno utvrđenih uzročno-posledičnih veza, razumljivo je zašto donosioci odluka drastično malo ulažu u zaštitu društva od realnih opasnosti veštačke inteligencije. To stvara pritisak unutar stručne zajednice da se koristi sve oštrija retorika kako bi se skrenula pažnja javnosti. Međutim, pitanje je da li dramatizacija upozorenja zaista dovodi do kvalitetnijeg zakonodavstva i boljih poslovnih praksi.

Raskorak između tehnološke industrije i šire javnosti

Nerazumevanje između aktera unutar AI sektora i šire društvene zajednice proističe iz potpunog nesklada u percepciji važnosti ove teme. Za ljude koji direktno stvaraju ili proučavaju algoritme, teško je zamisliti da bilo šta drugo u svetu trenutno ima veću težinu. Informatičar Skot Aronson je u svom eseju o dobu čuda i užasa istakao uverenje da će se ceo ljudski život ubrzo vrteti oko načina na koji usmeravamo moć veštačke inteligencije.

Sa druge strane, šira javnost jedva da primećuje ove debate. Istraživanja agencije Galup pokazuju da je udeo građana koji napredak računara i veštačke inteligencije smatraju najvažnijim problemom društva na nivou od svega pola procenta. Čak i ti pojedinci uglavnom razmišljaju o lokalnim temama, poput izgradnje centra za obradu podataka u njihovom susedstvu. Udeo ljudi van tehnološke industrije koji ovu temu vide kao presudnu za naše doba izuzetno je mali.

Razlog za ovaj nesklad leži u tome što su skretanje pažnje i stvarni osećaj zabrinutosti kod veštačke inteligencije razdvojeni. Kada se ljudima postavi direktno pitanje, oni izražavaju brigu, ali sami od sebe retko svrstavaju tehnologiju u vrh prioriteta. Skandalozne ostavke i dramatična upozorenja uzbunjivača poput Koksona uspeli su na kratko da probiju tu barijeru, pre svega zbog medijske privlačnosti koncepta verovatnoće apokalipse, poznatog kao p(doom). Rukovodioci razvijaju sisteme svesni visokih procenata rizika, što široj javnosti deluje potpuno nerazumljivo i neodgovorno.

Pogrešni ciljevi regulative i rizik politizacije

Dominacija narativa o egzistencijalnom riziku nosi sa sobom ozbiljne opasnosti po donošenje delotvornih zakona. Prva opasnost je rastuća politička polarizacija. Apokaliptične tvrdnje počinju da se dele po stranačkim linijama, što dovodi do zakonskog paraličara, visoke pravne nesigurnosti i naglih preokreta u politici nakon promena vlasti. Kada javnost shvati da iza tvrdnji o deset odsto rizika od uništenja ne stoji nikakav egzaktan matematički model, dolazi do gubitka poverenja u stručnjake.

Druga opasnost jeste skretanje resursa i pogrešna dijagnoza problema. Kada se pretnja definiše kao opšta egzistencijalna opasnost, jedina logična mera koja se javlja u javnosti jeste potpuna zabrana daljeg razvoja. Izjava da razvoj superinteligencije nosi rizik od katastrofe navodi na zaključak da je jedina poluga delovanja zaustavljanje napretka.

Zabrane razvoja superinteligencije su definiciono nejasne i neizvodljive u praksi. Mere poput pauziranja izgradnje centara za obradu podataka potpuno su nedelotvorne kao bezbednosne garancije. Najvažnije od svega, zabrane razvoja ne rešavaju apsolutno ništa kada je reč o katastrofalnim i sistemskim rizicima koje stvaraju već postojeći sistemi veštačke inteligencije.

Praktične pouke za gradnju otpornog poslovnog okruženja

Izgradnja bezbednog okruženja zahteva napuštanje snova o jednoj sveobuhvatnoj meri ili zabrani koja će rešiti sve probleme. Umesto usmeravanja energije na nerealne scenarije uništenja, kompanije i kreatori politika moraju se posvetiti sprovođenju stotina pojedinačnih, ali konkretnih intervencija. Otpornost se gradi kroz jačanje sajber-odbrane, zaštitu kritičnih sektora od zloupotrebe automatskih alata i praćenje akumulativnog propadanja institucija.

Za poslovne lidere i donosioce odluka, ključna poruka jeste da se bezbednost ne kupuje čekanjem regulatornog raspleta oko hipotetičke superinteligencije. Pravi rizik leži u svakodnevnim sistemskim ranjivostima privrede koje algoritmi mogu višestruko pojačati. Samo sistematsko ulaganje u odbranu od konkretnih pretnji može obezbediti dugoročnu stabilnost i održiv ekonomski razvoj.

Izvor: AI Snake Oil · Fotografija: Pexels / Freepik (ilustracija)