DS9.
Privátna AI

Znalostná báza, ktorá nepustí firemné dáta von

Zamestnanci sa pýtajú vlastnými slovami a odpoveď dostanú z interných dokumentov, aj s odkazom na zdroj. Celý systém beží na serveri zákazníka.

Klient
regionálny obchodný reťazec
Stav
Produkcia · 2026
Výsledok
  • Hľadanie v internej dokumentácii sa presunulo z prehľadávania priečinkov na otázku položenú vlastnými slovami.
  • Žiadny firemný dokument neopúšťa infraštruktúru zákazníka.
  • Nové dokumenty sa indexujú samé po vložení do sledovaného priečinka.
Technológie
FastAPIAnythingLLMWhisperLLaVASQLitePAM a JWTZFSsystemd
vlastný server dokumenty PDF a Office obrázky hlasové poznámky Ingestion prevod na text OCR a prepis rozdelenie Index embeddings metadáta Jazykový model lokálny alebo cez proxy Odpoveď text s odkazmi
Obrázok. Firemné dáta neprekročia hranicu vlastného servera. Von ide nanajvýš otázka, nikdy dokument.

Problém

Vo firme, ktorá funguje desiatky rokov, sa znalosť neukladá do jedného systému. Časť je v smerniciach, časť v zápisniciach z porád, časť v e-mailoch a najviac v hlavách ľudí, ktorí tam pracujú najdlhšie. Keď takýto človek odíde alebo je na dovolenke, odpoveď na bežnú prevádzkovú otázku sa hľadá pol dňa.

Zákazník mal aj druhú, tvrdšiu podmienku. Interné dokumenty sa nesmú posielať do cloudovej služby. Nie preto, že by nedôveroval konkrétnemu dodávateľovi, ale preto, že nedokáže zaručiť, kde skončia a kto ich uvidí. Tým padli všetky riešenia, ktoré fungujú ako nahranie priečinka do prehliadača.

Riešenie

Postavili sme znalostnú bázu, ktorá beží celá na hardvéri zákazníka. Prijíma textové súbory, dokumenty z Wordu a Excelu, PDF, obrázky a hlasové nahrávky. Každý typ prejde vlastnou cestou: dokumenty sa prevedú na čistý text, obrázky popíše vizuálny model, nahrávky prepíše rečový model. Výsledok sa rozdelí na zmysluplné časti a zaindexuje.

Používateľ potom položí otázku bežnou rečou. Systém nájde relevantné pasáže, pošle ich jazykovému modelu ako kontext a vráti odpoveď spolu s odkazom na dokument, z ktorého pochádza. Ten odkaz je dôležitejší, než sa zdá — bez neho je odpoveď tvrdenie, s ním je to overiteľné tvrdenie.

Súčasťou je správca dokumentov, editor na priamu úpravu obsahu, sledovaný priečinok, ktorý indexuje nové súbory sám, a mobilný klient pre prípady, keď sa človek pýta z predajne a nie od stola.

Snímka obrazovky znalostnej bázy: používateľ kladie otázku v slovenčine a agent vracia odpoveď aj s odkazom na zdrojový dokument.
Screenshot – RAG databáza

Ako je riešená bezpečnosť

Prihlásenie ide cez systémové účty, takže sa nespravuje druhá databáza hesiel. Prístup k dokumentom je viazaný na používateľa, nie na inštanciu. Úložisko beží na ZFS so snapshotmi, takže omylom zmazaný dokument je otázka minúty, nie obnovy zo zálohy.

Znalostná báza je taká dobrá, ako obsah, ktorý do nej vložíte. Ak je interná smernica zastaraná, model bude s istotou citovať zastaranú smernicu. Prvý mesiac prevádzky je preto vždy o čistení obsahu, nie o ladení modelu.

Výsledok

Systém je v produkčnej prevádzke. Najväčšia zmena nie je technická — ide o to, že otázka, ktorá sa predtým posielala e-mailom kolegovi a čakalo sa na odpoveď, sa dnes zodpovie hneď a bez toho, aby niekoho vyrušila.