Prompt ne može da spreči model da izmisli broj

Kvar

Prvog avgusta 2026. uhvatili smo sopstveni generator oglasa kako proizvodi dokazne tačke koje niko nije izmerio: 42%, 63%, 40% i 34% — četiri različite vrednosti za istu tvrdnju — uz poziv na „EU financial client" koji ne postoji.

Četiri različita broja za jednu tvrdnju bolja su ilustracija od jednog pogrešnog, jer pokazuju šta se zaista dešava. Vrednost nije bila netačna. Bila je proizvoljna.

Uputstvo da ne izmišlja brojke stajalo je u promptu od prve verzije, formulisano na nekoliko načina kroz nekoliko revizija.

Ovo nije tekst o modelu koji se loše ponaša. Reč je o grešci u kategoriji koju smo sami napravili i ispravili — jer ista greška sedi u velikom delu LLM sistema koji se upravo isporučuju, svuda gde je zaštita od lažne tvrdnje rečenica u promptu.

Zašto uputstvo ne može da radi

Jezički model nema registar stvari za koje zna da su tačne i onih koje izmišlja. Proizvesti 42% i proizvesti i je ista operacija: sledeći token, uslovljen svime pre njega. Kada je okolni kontekst oglas za tehnički proizvod, procenat je izuzetno verovatan nastavak — jer je to ono što takve rečenice sadrže u tekstovima iz kojih je model učio.

„Ne izmišljaj statistiku" se takmiči sa tim pritiskom. Ne poništava ga. I praćenje uputstava je verovatnosno — jaka sklonost, ne ograničenje — i najslabije je tačno tamo gde struktura rečenice najjače traži broj.

Uputstvo, dakle, otkazuje u slučaju zbog kojeg postoji, i otkazuje tiho. Nema greške, nema oznake niske pouzdanosti, nema odbijanja. Izlaz je dobro oblikovan oglas, a jedini signal da nešto nije u redu jeste čovek koji slučajno prepozna izmišljenu vrednost.

Opšte pravilo ispod toga: prompt je molba, ne kontrola. Sve što ne sme da se desi mora da spreči nešto što nije model.

Šta ga je zamenilo

Tri dela, a zanimljivo kod njih je što prave suprotne kompromise.

1. Zapis onoga što sme da se kaže

Generator ne piše iz opšteg znanja o firmi. Piše iz strukturiranog zapisa dozvoljenih tvrdnji, a tvrdnja koje u tom zapisu nema generatoru uopšte nije dostupna. Ne slabija — odsutna.

Unosi postoje u dva oblika, namerno. Neki su obične linije koje je neko otkucao i za njih lično jemči. Drugi nose strukturu: tvrdnju, ko je iznosi i gde je zapisana. Oba odgovaraju na isto pitanje — sme li ovo da se kaže — a strukturirani oblik dodatno i na po čijem ovlašćenju.

Najkorisnije u tom zapisu danas jeste ono čega u njemu nema. Spisak dozvoljenih merenja je prazan, kao i spisak klijenata koji se smeju imenovati. Ne „oskudan": prazan. To znači da je pošteno stanje sistema ovo: ne sme da iznese nijednu količinsku tvrdnju i ne sme da se pozove na klijenta, jer merenja nema i klijenta nema.

Ako to izvedete do kraja, govori nešto oštrije od „kapija je stroga". Pošto je skup dozvoljenog prazan, pada svaka brojka, jer nema sa čim da bude uporedena. Provera danas nije podešena na strogo; stroga je koliko uopšte može biti, po konstrukciji — i popustiće tačno onoliko brzo koliko neko nešto izmeri i zapiše.

Taj zapis se pokazao na neočekivan način. Jedan unos je mesecima nosio dokaznu liniju „nema zasebnog repozitorijuma u radnom prostoru; nema deploya ni klijenta." Bila je tačna. Bila je i nepročitana — unos je stajao tu dok je naš sopstveni sajt istu stvar opisivao kao spremnu za primenu, sve dok jedna nepovezana provera nije konačno uporedila to dvoje. Informacija nikada nije nedostajala. Nedostajao je čitalac.

Otuda drugo pravilo: dokazna beleška radi samo ako je čita nešto mašinsko. Polje koje pregleda isključivo čovek jeste dokumentacija — a dokumentacija je mesto gde pogrešne tvrdnje preživljavaju.

2. Deterministička provera, i izvršava se pre nego što slika postoji

Napravljen tekst prolazi kroz proveru u kojoj nema modela: regularni izraz i poređenje podniza prema dozvoljenim tvrdnjama. Traži tri oblika, svaki viđen uživo:

• broj ili procenat (slučaj 42/63/40/34);
• količinu rečima — „thousands of…", „hundreds of…";
• impliciranog klijenta — „our clients", kada je spisak imenljivih klijenata prazan.

Sve što uhvati mora doslovno da se pojavi u nekoj dozvoljenoj tvrdnji, inače se kreativa odbacuje.

Dve stvari o tome treba reći precizno, jer se obe lako preuveličaju.

Izvršava se pre nego što se napravi slika. Ne posle nje — i u tome je razlika između odbijanja i nepostojanja: kreativa sa neproverenim brojem nikada ni ne nastane. Nijedna slika nije plaćena, nijedan materijal nije sačuvan, ništa ne ulazi u red za pregled. Najjeftinija kapija je ona koja opali pre skupog koraka.

Provera je uska, i baš je uskost pošteni deo. Čita naslov i glavni tekst i traži ta tri oblika. Izmišljena tvrdnja bez broja kroz nju prolazi. „Certified under ISO 27001", „built on the same stack the banks use" — provera ih ne vidi. Njih drže prompt i čovek koji odobrava objavu, dakle upravo mehanizam za koji ovaj tekst tvrdi da nije kontrola.

To nije rupa koju krijemo. To je opseg koji smo izabrali, a imenovati ga razlika je između kapije i tvrdnje o kapiji.

3. I slika je tvrdnja — a ta provera jeste model

Napravljen oglas nije samo tekst. Slika nosi tvrdnje, a napravljena slika nosi artefakte koje nijedna tekstualna provera nikada neće videti.

Ovde se kompromis obrće. Nad tvrdnjama model ne sme da se koristi: pitati drugi LLM „deluje li ti ovo tačno?" ponavlja izvorni problem jedan sloj više, uz dodatnu manu da zvuči autoritativno. Nad pikselima determinističke zamene nema — slika nema spisak dozvoljenih tvrdnji prema kojem bi se poredila — pa sudi vizuelni model.

Prihvatljivim to ne čini poverenje nego ograničen mandat: vizuelna provera sme samo da odbije. Nikada ne može ništa da gurne u objavu; za to je i dalje potrebna imenovana ljudska odluka. A kada ne može da odgovori, ne izlazi ništa.

Evo njenog suda o kreativi koju je odbila, doslovno iz našeg internog zapisa:

„Uz umetnuti logo u donjem desnom uglu vidljiv je izolovani slovni fragment 'L' koji ne pripada ni logotipu ni tekstu naslova — izgleda kao AI artefakt (odsečeni ili nasumični tekstualni ostatak)."

„Nekoliko praznih narandžastih i sivih oblika 'značka' na server pločama nemaju čitljiv sadržaj, deluju kao dekorativni AI artefakti bez funkcije."

Isti zapis je zabeležio i šta je bilo dobro, i pošteno je citirati obe polovine:

„Headline tekst 'AI Incident Triage, Zero Cloud Exposure' je čitljiv i pravopisno tačan, boje uglavnom odgovaraju paleti (primary, accent, tech_dark), nema zabranjenih tvrdnji."

Ta kreativa je odbijena, ne popravljena. Tekst je bio čist i tvrdnje su se razrešile — što smemo da tvrdimo kao svojstvo redosleda, a ne kao utisak, jer je kreativa koja uopšte ima sliku determinističku proveru već prošla. Slika je imala slovni fragment koji lebdi pored logotipa i prazne značke na iscrtanom serverskom ormaru: vizuelni ekvivalent samouverene rečenice ni o čemu.

Dan kada je halucinirao proveravač

Tekst koji tvrdi da modeli izmišljaju duguje vam i slučaj u kojem je to uradio naš sopstveni proveravač.

Na ispravno iscrtanoj srpskoj slici vizuelna kapija je vratila pad uz obrazloženje „'ć' umesto 'ć'" — isti znak sa obe strane rečenice. Na toj rezoluciji model ne razlikuje pouzdano ć, č i ę, pa je izmislio razliku i onda joj napisao opravdanje.

Cena nije bila apstraktna. Svaki pad pokreće regeneraciju — otprilike pet centi po slici, do granice ponovnih pokušaja — posle čega je kreativa označena kao pala. Jezik sa dijakritikom bi, dakle, potrošio dvostruki budžet i ne bi proizveo ništa. A zaključak koji je čekao da ga neko izvuče bio je da generator slika ne podnosi dijakritiku — a nije je podnosio proveravač. Pogrešna presuda ne košta samo ponovni pokušaj; nudi vam uverljivo objašnjenje koje pokazuje na pogrešnu komponentu.

Ni ispravka nije bila bolji prompt za proveravača. Bila je strukturno razdvajanje: uputstva sada razlikuju presudu od opažanja. Slovo koje je vidljivo izobličeno, udvojeno ili je postalo druga reč jeste pad. „Ne razaznajem koji je to dijakritički znak" jeste ograničenje modela, a ne kvar slike — to se upisuje u napomene i ostavlja presudu netaknutom.

Što je isti nauk jedan nivo niže: preteranu samouverenost modela ne popravljaš tako što ga zamoliš da bude manje samouveren. Menjaš o čemu sme da odlučuje.

Koliko to košta

Kreative umiru, a najbrže one koje ni ne nastanu. To je namerno ponašanje i čini sistem sporijim i manje plodnim od verzije sa uputstvom u promptu. Trajno, nije stvar podešavanja.

Otkazuje zatvoreno, ali je popravljivo. Kada vizuelna provera ne može da se izvrši, kreativa ne izlazi — ali je parkirana, a ne odbačena, i može se presuditi kasnije nad sačuvanom slikom. Konačan pad i nedostupan proveravač oba su „ništa se ne objavljuje"; samo jedan od njih baca sliku koju ste već platili.

Prvo vam treba zapis. Kapija je dobra onoliko koliko je dobar zapis prema kojem razrešava. Graditi ga je nezahvalno, a održavati ga pročitanim zaseban je problem od održavati ga tačnim.

Ne čini tekst dobrim. Sve ovde govori o tvrdnjama, ne o kvalitetu. Dosadan, tačan oglas prolazi svaku opisanu proveru. To je pod, ne standard.

I poštena centralna brojka: provera tvrdnji u produkciji nije opalila nijednom. Nula odbijanja u zapisu. To nije dokaz da radi — kapija koja nikada nije rekla ne još nije dokazana uživo. Najverovatnije objašnjenje sledi iz praznog spiska merenja: pošto nijedna količinska tvrdnja nije dozvoljena, generator od nastanka zapisa broj nije ni pokušao. Dve druge provere jesu opalile — provera novosti dvaput i vizuelna kapija nad gore citiranom kreativom.

Šta se uopštava

• Opasan izlaz je uverljiv izlaz. Model koji otkaže vidljivo je rešen problem; model koji izmisli lepo formatiranu vrednost nije.
• Izmestite kontrolu iz prompta. Ako pravilo mora da važi, mora ga sprovesti nešto izvan modela — a sprovođenje znači da izlaz ne izlazi, ne da je označen.
• Jeftinu proveru stavite pre skupog koraka. Odbijanje posle generisanja košta onoliko koliko je koštalo generisanje.
• Gde model moraš da proveravaš modelom, ograniči mu mandat. Naš sme samo da odbije, nikada da objavi, a njegova nesigurnost se upisuje kao opažanje, ne kao presuda.
• Otkazuj zatvoreno, ali sačuvaj rad. Nedostupno nije isto što i palo; oba tretiraj kao „ne objavljuj", samo jedno kao „baci".
• Recite gde se kapija zaustavlja. Provera opisana kao potpuna dok pokriva tri oblika jeste tvrdnja one vrste koju treba da spreči.
• Neka vaše zapise čita nešto mašinsko. Tačna beleška koju niko ne čita ima isti efekat kao pogrešna.

Četiri procenta od prvog avgusta uhvatio je čovek. Sve opisano postoji zato da sledeći uhvati provera — i da kada je pogrešna sama provera, i to bude vidljivo.

Opisani sistem je marketar, naša sopstvena automatizacija marketinga, koja radi na našim sopstvenim kampanjama. Ovo je inženjersko uputstvo iz tog rada; kada vaša tvrdnja nosi regulatornu težinu, obaveze su vaše i vašeg pravnog savetnika.