Problem
Enterprise ITSM timovi se dave u repetitivnoj triaži incidenata. Off-the-shelf cloud LLM-ovi povlače compliance i data-residency probleme. Postojeća rešenja se ne integrišu čisto sa ServiceNow data modelima niti poštuju on-prem ograničenja.
Rešenje
Python middleware (Flask + LangChain) na Dell Precision RTX 6000 sa Ollama-served gemma2:27b. ChromaDB vector store za istoriju incidenata. PII sanitization layer pre konstrukcije prompt-a. REST API izložen ServiceNow-u za inline incident enrichment. Bez interneta.
Rezultat
Brža rezolucija incidenata, manje opterećenje analitičara na tier-1 triaži, i deployment model usaglašen sa regulisanim industrijama (banke, zdravstvo, država). Arhitektura je dokazala da production-grade AI augmentacija ne zahteva slanje podataka cloud LLM-u.