Kada AI agent obriše bazu: dozvole, kopije i granice
Agent je obrisao živu bazu usred zamrzavanja izmena. Zašto rečenica u promptu nije kontrola, šta su režimi dozvola i kako se postavlja sigurna granica.
AI agenti mogu obrisati bazu jer pravila dozvola sprovodi alat, a ne model. Uputstva u promptu oblikuju šta model pokušava, ali ne menjaju šta mu je zaista dozvoljeno.
Izaberi iznos ili skeniraj kod bez iznosa pa ga upiši u banci. Novac ide direktno na račun autora (GoSimple), Trek ne uzima ništa i nije posrednik u plaćanju.
Na telefonu: preuzmi kod, pa ga u aplikaciji banke učitaj iz galerije.
Ažurirano: 12.10.2026. | Verzija 1.0
U julu 2025. agent jedne poznate platforme obrisao je produkcijsku bazu, i to tokom zamrzavanja izmena, dakle u periodu kad je izričito rečeno da se ništa ne dira. Direktor platforme je slučaj nazvao neprihvatljivim i najavio izmene, među njima automatsko razdvajanje razvojne i produkcijske baze i režim u kojem agent samo planira, bez diranja koda.
Priča je korisna zbog pouke koja važi za sve, ne zbog te jedne platforme.
Pouka: rečenica u promptu nije kontrola
Zamrzavanje izmena bilo je rečeno agentu. Agent je ipak obrisao bazu.
Zvanična dokumentacija Claude Code-a to kaže doslovno i vredi je prepisati: pravila dozvola sprovodi alat, a ne model. Uputstva u vašem promptu ili u fajlu sa pravilima oblikuju šta će model pokušati, ali ne menjaju šta mu je dozvoljeno.
To je cela razlika između želje i ograde. Model je sistem koji predviđa šta je sledeće, a ne činovnik koji poštuje zabrane. Ako nešto ne sme da se desi, to mora da bude nemoguće, a ne zabranjeno.
Režimi dozvola, od najstrožeg do opasnog
Alati danas imaju stepenovane režime. Nazivi se razlikuju, logika je ista.
| Režim | Šta radi | Kad ga koristiti |
|---|---|---|
| Planski | Čita i pokreće samo radnje koje ništa ne menjaju | Upoznavanje sa projektom, pravljenje plana |
| Podrazumevani | Pita pri prvoj upotrebi svakog alata | Svakodnevni rad |
| Prihvatanje izmena | Sam prihvata izmene fajlova u radnom folderu | Kad je projekat pod verzijama i znate šta radite |
| Automatski | Bez rutinskih pitanja, uz proveru komandi u pozadini | Zadaci sa mnogo koraka, u projektu bez osetljivih podataka |
| Bez pitanja | Automatski odbija sve što bi tražilo potvrdu | Kad hoćete da sigurno ništa ne dira |
| Zaobilaženje | Preskače sva pitanja | Isključivo u izolovanom okruženju |
Za poslednji, dokumentacija izričito upozorava: koristiti samo u izolovanim okruženjima kao što su kontejneri ili virtuelne mašine, gde alat ne može da napravi štetu.
Zašto zabrana u podešavanjima nije uvek dovoljna
Jedna tehnička finesa koju vredi znati: zabrana određene komande ne hvata istu komandu pozvanu punom putanjom ili kroz drugu ljusku. Zato ozbiljne postavke kombinuju dozvole sa izolacijom na nivou sistema, koja važi i kad model donese pogrešnu odluku, na primer zato što je pročitao uputstvo sakriveno u tuđem sadržaju.
Isto važi i za mrežu: ograničenja koja važe za komande ne moraju da pokrivaju i spoljne servere koje agent koristi.
Sedam pravila za sigurnu postavku
- Razdvojite razvojnu i produkcijsku bazu. Ako agent vidi samo razvojnu, ne može da obriše pravu.
- Agent nema pristup produkciji. Ako nešto mora na produkciji, radi to čovek.
- Zakazane rezervne kopije koje odlaze van platforme. Vraćanje na raniju verziju koda nije rezervna kopija podataka.
- Počnite u planskom režimu. Neka prvo pročita i napiše plan.
- Proširujte dozvole postepeno, kako stičete poverenje u konkretan zadatak.
- Za nepoznat tuđi kod koristite izolovano okruženje. Postoje opisani napadi u kojima otvaranje tuđeg projekta pokrene napadačev kod pre nego što vas alat išta pita.
- Pogledajte šta je tačno uradio. Pregled izmena posle svakog većeg zadatka traje minut.
Šta se promenilo kod proizvođača
Posle poznatih slučajeva, platforme su uvele automatsko razdvajanje razvojne i produkcijske baze, režime u kojima agent samo planira, vraćanje na raniju verziju jednim klikom i, kod nekih, proveru bezbednosti pri objavljivanju.
To pomaže, ali ne skida odgovornost. Podrazumevano podešavanje je napravljeno da bi alat bio prijatan za rad, a ne da bi bio najbezbedniji mogući.
Česta pitanja
Da li agent može sam da obriše moje podatke? Može, ako mu date pristup i prava. Zabrana napisana u promptu nije ograda.
Kako da se zaštitim najjednostavnije? Razdvojite razvojnu i produkcijsku bazu i podesite zakazanu kopiju koja odlazi van platforme.
Da li je vraćanje na raniju verziju dovoljno? Nije. Ono po pravilu vraća kod, a ne podatke.
Koji režim dozvola da koristim? Počnite planskim, pa podrazumevanim. Režim koji preskače sva pitanja koristite samo u izolovanom okruženju.
Šta ako otvaram tuđi projekat? Tretirajte ga kao nepouzdan. Postoje opisani slučajevi u kojima otvaranje projekta pokrene kod pre nego što vas alat pita.
Sledeći korak
Proverite da li vaš agent vidi produkcijsku bazu. Ako vidi, oduzmite mu pristup pre nego što pročitate sledeći tekst.
GoSimple · Ivan Dabetić
Izvori (provereno 12.10.2026)
- Opis slučaja brisanja produkcijske baze: https://www.tomshardware.com/tech-industry/artificial-intelligence/ai-coding-platform-goes-rogue-during-code-freeze-and-deletes-entire-company-database-replit-ceo-apologizes-after-ai-engine-says-it-made-a-catastrophic-error-in-judgment-and-destroyed-all-production-data
- Claude Code, dozvole i granica između pravila i sprovođenja: https://code.claude.com/docs/en/permissions
- Replit, kontrolne tačke i vraćanje: https://docs.replit.com/replitai/checkpoints-and-rollbacks
- Replit, planski režim: https://docs.replit.com/core-concepts/agent/plan-mode
- Baza zabeleženih incidenata sa AI sistemima: https://incidentdatabase.ai/cite/1178
