Arhitektura inovacija: Kako Uber gradi ekosistem za AI agente

Nasleđe kao temelj za budućnost

Mnoge kompanije danas pokušavaju da integrišu veštačku inteligenciju u svoj radni proces, ali često zaboravljaju da efikasnost AI sistema direktno zavisi od kvaliteta postojeće infrastrukture. Uberov primer pokazuje da su alati razvijeni pre ere generativne AI, poput sistema za praćenje metrika ili upravljanje radnim tokovima, postali ključni za funkcionisanje modernih agenata. Bez čvrste osnove u vidu pouzdanih registara servisa i sistema za praćenje, AI agenti bi bili ograničeni na površinske zadatke bez dubljeg uvida u poslovnu logiku.

Tokom godina, Uber je bio prinuđen da izgradi sopstvena rešenja jer tržišni proizvodi nisu mogli da prate njihove zahteve za skalabilnošću. Sistemi poput Cadence za upravljanje složenim procesima ili M3DB za opservabilnost nisu nastali iz želje za eksperimentisanjem, već iz čiste nužde. Danas, ti isti sistemi omogućavaju agentima da se povežu sa internim servisima, razumeju vlasništvo nad kodom i efikasno komuniciraju sa infrastrukturom, što drastično ubrzava razvoj novih funkcija.

Ovaj pristup dokazuje da inovacije nisu izolovani događaji, već nadgradnja na stabilnim temeljima. Kada inženjeri grade alate koji su modularni i dobro dokumentovani, oni zapravo pripremaju teren za automatizaciju koja će uslediti godinama kasnije. Uberov uspeh u ovoj tranziciji leži u činjenici da su njihovi inženjeri već imali naviku da razmišljaju o sistemima kao o servisima koji moraju biti laki za održavanje i proširivanje.

Model Gateway kao strateška prednost

Jedna od najznačajnijih odluka Uberovog platformskog tima bila je uspostavljanje jedinstvenog prolaza za AI modele. Umesto da se svaki tim oslanja na različite provajdere, centralizovani Model Gateway omogućava kompaniji da bude agnostička u odnosu na tehnologiju. To znači da inženjeri mogu lako da menjaju modele, bilo da je reč o rešenjima kompanija OpenAI, Anthropic ili sopstvenim modelima otvorenog koda, bez potrebe za izmenama u samoj aplikaciji.

Ovaj sistem pruža višestruke benefite, uključujući bezbednosne provere kroz AI Guard middleware. Svaki zahtev i odgovor prolaze kroz filtere koji mere latenciju, proveravaju usklađenost sa bezbednosnim pravilima i beleže troškove. Ovakva kontrola je ključna za održivost projekata, jer kompanija ne želi da dozvoli nekontrolisano trošenje resursa, već teži optimizaciji koja je već rezultirala smanjenjem troškova tokena za oko pedeset procenata u poslednjih nekoliko meseci.

Transparentnost koju pruža ovaj pristup omogućava menadžmentu da precizno prati potrošnju po korisniku i projektu. Umesto strogih ograničenja koja bi gušila kreativnost, Uber koristi sistem nivoa potrošnje, gde menadžeri mogu odobriti dodatna sredstva za projekte koji pokazuju jasnu vrednost. Time se podstiče odgovorno ponašanje inženjera, dok se istovremeno zadržava fleksibilnost potrebna za eksperimentisanje sa novim tehnologijama.

Inženjering konteksta kao nova veština

Uloga softverskog inženjera prolazi kroz duboku promenu, gde pisanje koda postaje sekundarno u odnosu na upravljanje kontekstom. Kako bi AI agenti proizveli pouzdane rezultate, inženjeri moraju da im pruže precizne informacije o arhitekturi, poslovnim pravilima i specifičnim zahtevima zadatka. Ovo zahteva visoku sposobnost multitaskinga i verifikacije, jer inženjer više nije samo kreator, već i revizor koji mora da prepozna potencijalne greške u radu agenata.

Prethodno su inženjeri bili fokusirani na jedan zadatak tokom dužeg perioda, dok danas moraju da upravljaju paralelnim procesima koje pokreću agenti. Sposobnost da se brzo prebacuju između različitih konteksta postala je presudna za produktivnost. Inženjeri sada provode više vremena u pripremi okruženja i definisanju parametara, osiguravajući da agenti imaju pristup svim potrebnim podacima pre nego što započnu izvršavanje koda.

Ovaj prelazak na 'inženjering konteksta' znači da se vrednost inženjera meri njihovom sposobnošću da strukturiraju informacije na način koji je razumljiv mašinama. Oni koji ovladaju ovom veštinom postaju arhitekte sistema u kojima AI agenti obavljaju rutinske poslove, dok ljudi zadržavaju kontrolu nad strateškim odlukama i rešavanjem kompleksnih problema koji zahtevaju ljudsku intuiciju.

Optimizacija procesa kroz kategorizaciju

Tradicionalno merenje produktivnosti kroz brzinu prolaska koda kroz sistem (PR velocity) postalo je irelevantno u svetu gde agenti mogu generisati stotine izmena dnevno. Uber je prepoznao ovaj problem i uveo sistem kategorizacije zahteva za izmenama (PR-ova) prema njihovoj prirodi: funkcije, ispravke grešaka, održavanje, testiranje ili dokumentacija. Ovakav pristup omogućava jasniji uvid u to na šta se zaista troši inženjersko vreme.

Analizom ovih kategorija, kompanija je primetila zanimljiv trend: udeo zahteva koji se odnose na nove funkcije raste, dok se udeo onih koji se odnose na održavanje smanjuje. Ovo je direktan pokazatelj da automatizacija i AI alati zaista oslobađaju inženjere od repetitivnih zadataka. Umesto da se bave rutinskim održavanjem, timovi se mogu fokusirati na inovacije koje direktno utiču na korisničko iskustvo.

Osim kategorizacije, Uber je uveo i 'inner loop' validaciju, gde se jednostavni poslovi poput lintovanja i izgradnje koda obavljaju pre samog otvaranja zahteva za pregled. Time se smanjuje opterećenje CI sistema i ubrzava povratna informacija inženjeru. Ovakva strategija pokazuje da se efikasnost ne postiže samo bržim hardverom, već pametnijim procesima koji eliminišu nepotrebne korake u razvojnom ciklusu.

Izazovi skaliranja i ljudska intervencija

Iako AI donosi ogromne prednosti, ljudska kontrola ostaje neophodna, posebno u sistemima gde greška može imati velike posledice. Uber koristi alate kao što je Airlock za upravljanje dozvolama agenata, gde se svaki zahtev procenjuje pre nego što se odobri ili pošalje čoveku na proveru. Ovo je ključno za održavanje sigurnosti i integriteta sistema u okruženju gde agenti imaju pristup osetljivim delovima koda.

Code review proces je postao usko grlo, pa su razvijeni alati koji pomažu inženjerima da odrede prioritete. Pre nego što čovek uopšte pogleda kod, AI već obavlja preliminarnu analizu, dodaje snimke ekrana ako je potrebno i dodeljuje ocenu rizika. To omogućava inženjerima da se fokusiraju na najkritičnije delove koda, dok se rutinske provere prepuštaju automatizovanim sistemima.

Ovaj balans između automatizacije i ljudskog nadzora je suština moderne inženjerske kulture. Kompanija ne teži potpunom uklanjanju čoveka iz procesa, već njegovom oslobađanju od poslova koji ne zahtevaju kognitivni napor. Time se stvara okruženje u kojem inženjeri mogu da se posvete rešavanju problema koji zaista pomeraju granice poslovanja.

Budućnost inženjerskog rada

Razvoj alata poput Miniona ili AIFX-a, koji omogućavaju inženjerima da menjaju AI modele bez gubitka podešavanja, pokazuje pravac u kojem se kreće industrija. Fokus više nije na samom alatu, već na ekosistemu koji omogućava inženjeru da bude produktivan bez obzira na to koju tehnologiju koristi. Fleksibilnost i modularnost postaju najvažnije karakteristike inženjerske infrastrukture.

Uberov primer služi kao putokaz za druge kompanije koje žele da integrišu AI na održiv način. Ključ nije u brzom usvajanju najnovijih trendova, već u strateškom planiranju koje povezuje postojeće znanje sa novim mogućnostima. Inženjerski timovi koji razumeju kako da iskoriste svoju istoriju razvoja za izgradnju budućih AI rešenja biće korak ispred konkurencije.

Zaključno, uspeh u eri AI agenata zavisi od sposobnosti kompanije da izgradi kulturu u kojoj se tehnologija koristi kao poluga za ljudsku kreativnost. Uber je uspeo da transformiše svoje inženjerske procese tako da AI postane prirodni deo svakodnevnog rada, a ne strana komponenta. Ovo je lekcija o važnosti dugoročnog planiranja i kontinuiranog ulaganja u alate koji olakšavaju život onima koji grade sistem.

Izvor: Gergely Orosz, The Pragmatic Engineer · Fotografija: Pexels / Christina Morillo (ilustracija)