Asistent AI local care răspunde din documentele firmei

Un asistent AI local pentru documente ajută angajații să găsească răspunsuri în proceduri, oferte aprobate, manuale și documentații interne. Sistemul caută pasajele relevante, le transmite unui model găzduit de firmă și construiește răspunsul în jurul lor. Valoarea practică apare când informația poate fi urmărită până la documentul și versiunea potrivite, cu accesul fiecărui utilizator respectat.

Alege o colecție pe care firma o poate administra

Începe cu un domeniu clar: procedurile echipei comerciale, documentația unui produs sau instrucțiunile de lucru ale unui departament. Selectează documente actuale și desemnează persoana care le aprobă. O colecție restrânsă, bine administrată, permite verificarea răspunsurilor și identificarea problemelor de extragere înainte de includerea întregii arhive.

Pentru fiecare fișier păstrează titlul, proprietarul, versiunea, data aplicării și drepturile de acces. Când există două ediții, stabilește care este activă și cum se tratează istoricul. Un răspuns bazat pe o procedură retrasă poate fi fluent și totuși nepotrivit pentru operațiunea curentă. Evidența versiunilor trebuie să existe în sistemul documentelor, înainte de generarea textului.

Configurează local toate etapele

Un traseu local include stocarea fișierelor, extragerea textului, crearea reprezentărilor pentru căutare, indexul și modelul conversațional. Interfața de chat se conectează la aceste componente. Descărcarea modelului conversațional rezolvă doar una dintre etape. Verifică și furnizorul pentru embeddings, serviciul de OCR și orice componentă opțională de reranking.

Un pilot poate combina un model instruct de 8B, un model de embeddings compact și un index stocat pe SSD. Qwen3-Embedding-0.6B este un candidat multilingv disponibil și în catalogul Ollama. Licența, artefactul și versiunea se păstrează în evidență. Calitatea căutării în română se măsoară pe documentele firmei, separat de calitatea răspunsului conversațional.

Transformă fișierele în fragmente utile

Documentele PDF cu text selectabil și scanările cer trasee diferite. Pentru un PDF text, verifică ordinea paragrafelor și tabelele extrase. Pentru o scanare adaugă OCR și controlează numerele, diacriticele și coloanele. Docling documentează procesarea locală și pregătirea prealabilă a modelelor pentru folosire fără internet. Selecția motorului OCR se validează pe tipurile de document folosite efectiv.

Împarte conținutul după titluri, secțiuni și unități de sens. Păstrează identificatorul documentului și pagina pentru fiecare fragment. Un paragraf despre o excepție trebuie să rămână legat de regula pe care o modifică. Dimensiunea fragmentelor și suprapunerea lor sunt parametri ai aplicației, verificați prin căutări reprezentative, nu valori universale copiate pentru orice arhivă.

Indexarea și întrebarea trebuie să folosească aceeași reprezentare

Modelul de embeddings transformă textele în vectori pentru comparare. Documentele și întrebările trebuie procesate prin aceeași configurație compatibilă: model, dimensiune și instrucțiuni relevante. În Ollama, ruta /api/embed oferă această operațiune. La schimbarea modelului sau a dimensiunii, indexul se reconstruiește controlat și se repetă testele de căutare.

Indexul păstrează și metadatele necesare filtrării: colecție, versiune, drepturi și stare. Pentru întrebări despre un produs, codul produsului poate fi un filtru suplimentar față de asemănarea semantică. Denumirile comerciale apropiate și seriile de documente se verifică prin probe dedicate. În acest mod, căutarea combină sensul întrebării cu regulile concrete ale arhivei.

Răspunsul trebuie să poată fi verificat

Aplicația selectează fragmentele permise și le introduce în context, împreună cu întrebarea și regulile răspunsului. Interfața poate afișa documentul, pagina și pasajul folosit. Pentru un angajat, aceasta permite deschiderea sursei interne și verificarea unei condiții înainte de utilizare. Referința se generează din metadatele sistemului, fără inventarea unor nume de fișiere de către model.

Când pasajele selectate nu acoperă întrebarea, traseul aplicației cere informații suplimentare sau trimite solicitarea către responsabil. De exemplu, o procedură poate descrie livrarea standard fără să definească excepția cerută de client. Sistemul trebuie să păstreze această diferență și să delimiteze condiția documentată de cazul care are nevoie de o decizie umană.

Într-o probă demonstrativă, întreabă ce condiții are livrarea unui produs și verifică dacă răspunsul păstrează atât regula, cât și excepția din procedură. Reformulează apoi întrebarea și schimbă produsul cu unul care nu apare în colecție. Păstrează pasajele selectate pentru fiecare cerere. Această comparație arată dacă problema ține de regăsire, de folosirea contextului sau de informația care lipsește din documente.

Aplică accesul înainte de căutare și generare

Utilizatorul autentificat primește numai documentele și fragmentele permise rolului său. Filtrarea se aplică în stratul de date și regăsire. Testează aceleași întrebări cu două conturi având drepturi diferite și verifică inclusiv pasajele, previzualizările și fișierele descărcabile. Un document ascuns în listă trebuie să fie exclus și din contextul transmis modelului.

La retragerea unui document se actualizează fișierul, indexul și eventualele copii cache gestionate de aplicație. Procedura de ștergere și perioada de păstrare sunt stabilite pentru fiecare componentă. Backupurile și restaurarea trebuie tratate astfel încât o versiune retrasă să nu redevină activă fără aprobarea proprietarului colecției.

Măsoară căutarea și răspunsul separat

Setul de recepție include întrebări cu răspuns cunoscut, formulări alternative, documente apropiate și cazuri fără informație suficientă. Mai întâi verificăm dacă pasajul corect se află între rezultatele căutării. Apoi verificăm dacă răspunsul păstrează condițiile, cifrele și excepțiile din pasaj. Cele două evaluări arată unde trebuie îmbunătățit sistemul.

WebHat folosește un sistem AI local personalizat și oferă consultanță pentru organizarea documentelor și integrarea unui asistent în activitatea firmei. Implementarea poate face parte dintr-o aplicație custom cu integrare AI. Regulile de acces și păstrare sunt proiectate împreună cu protecția datelor aplicației, iar documentația de predare păstrează modelele, indexurile și probele de acceptare.

Întrebări despre asistentul de documente

Trebuie antrenat modelul cu toate fișierele?

În traseul RAG, documentele sunt indexate și pasajele sunt furnizate la cerere. Actualizarea colecției urmează procesul de import și indexare, fără a transforma fiecare fișier într-o sesiune de antrenare.

Poate căuta în documente românești?

Se alege o configurație multilingvă și se testează pe documente în română. Verificarea include diacritice, termeni interni, coduri de produse și formulări alternative.

Ce se schimbă când modificăm modelul de embeddings?

Reprezentarea indexului trebuie păstrată compatibilă cu cea a întrebărilor. Schimbarea se face cu reindexare, teste și o versiune de referință pentru revenire.

Cum verificăm funcționarea fără internet?

Pregătim modelele și serviciile locale, restricționăm conexiunile externe și testăm importul, căutarea și răspunsul. O conversație simplă verifică numai o parte a fluxului.