Asystent AI do dokumentów firmowych ma sens, gdy pracownicy tracą czas na wyszukiwanie procedur, instrukcji lub specyfikacji. Dobry punkt wyjścia to jeden dział, wybrany zbiór aktualnych materiałów i odpowiedzi z odnośnikami do źródeł. Zanim dodasz kolejne funkcje, sprawdź, czy system znajduje właściwą informację i nie ujawnia dokumentów osobom bez dostępu.
Czym jest RAG i jak działa w firmowej bazie wiedzy?
RAG, czyli retrieval-augmented generation, łączy wyszukiwanie informacji z generowaniem odpowiedzi. Aplikacja pobiera pasujące fragmenty dokumentów i przekazuje je modelowi jako kontekst. Model nie musi mieć całej wiedzy firmy zapisanej w swoich parametrach. Aktualność odpowiedzi zależy między innymi od tego, jakie materiały są dostępne w wyszukiwaniu.
Źródło: Microsoft Learn — architektura RAG
W praktyce rozdziel trzy odpowiedzialności: właściciel dokumentu zatwierdza treść, system wyszukiwania wybiera materiały dostępne użytkownikowi, a model przygotowuje odpowiedź. Ten podział ułatwia diagnozę błędów. Nieaktualna instrukcja wymaga innej poprawki niż brak odpowiedniego fragmentu w wynikach albo błędna interpretacja prawidłowego tekstu.
Jaki proces wybrać do pierwszego pilotażu?
Wybierz powtarzalne pytania, na które dziś odpowiada wskazany zespół. Może to być wyszukiwanie instrukcji produktu przez wsparcie albo sprawdzanie zatwierdzonych zasad realizacji usługi przez handlowców. Pierwsza wersja powinna mieć jasno opisany zakres i osobę, która potrafi ocenić odpowiedzi. Ogólny cel „asystent wie wszystko o firmie” utrudnia odbiór.
Nie każdy problem wymaga generowania tekstu. Jeśli pracownik potrzebuje tylko numeru zamówienia lub aktualnego stanu magazynowego, prosty widok w systemie albo precyzyjne zapytanie do API może być lepszym rozwiązaniem. RAG warto oceniać tam, gdzie trzeba znaleźć i wyjaśnić informacje rozproszone w materiałach opisowych.
Jak przygotować dokumenty do asystenta AI?
- Nadaj każdemu dokumentowi właściciela, wersję, datę obowiązywania i zakres odbiorców. Oznacz materiały archiwalne przed rozpoczęciem indeksowania.
- Usuń robocze duplikaty z wybranego zbioru i ustal, który dokument rozstrzyga sprzeczności. Nie oczekuj, że model sam odgadnie decyzję firmy.
- Sprawdź ekstrakcję treści z PDF, tabel i skanów. Porównaj kilka odczytanych fragmentów z oryginałem, zwłaszcza liczby i warunki zapisane w przypisach.
- Zachowaj odnośnik do źródła oraz kontekst sekcji. Cytat bez nagłówka lub warunku zastosowania może prowadzić do błędnej odpowiedzi.
- Ustal, jak szybko zmiana, usunięcie dokumentu lub cofnięcie dostępu ma być widoczne w asystencie. Uwzględnij indeks i pamięć podręczną.
Jak zachować uprawnienia do dokumentów?
Zalecamy sprawdzanie dostępu przed przekazaniem fragmentów do modelu. Tożsamość użytkownika powinna wynikać z uwierzytelnionej sesji, a nie z treści pytania. Reguły muszą obejmować także tytuły dokumentów, wyniki wyszukiwania i zapisane rozmowy. Samo ukrycie przycisku w interfejsie nie zabezpiecza danych dostępnych przez API.
W testach użyj kont o różnych rolach. Osoba z obsługi klienta i osoba z finansów powinny otrzymać odpowiedzi wyłącznie z dozwolonego dla nich zakresu. Sprawdź również odebranie dostępu po rozpoczęciu rozmowy oraz zmianę zespołu pracownika. Uzgodnij osobno, kto może czytać historię pytań i jak długo jest ona przechowywana.
Dlaczego dokument nie może wydawać poleceń asystentowi?
Prompt injection polega na próbie wpłynięcia na model przez odpowiednio przygotowaną treść. Polecenie może znajdować się także w pobranym dokumencie. OWASP wskazuje, że sam RAG nie usuwa tego ryzyka. Treść źródłowa powinna być traktowana jako materiał do analizy; uprawnienia i zgody na operacje wymagają kontroli poza modelem.
Źródło: OWASP — ryzyko prompt injection
Dla pilotażu proponujemy tryb odczytu. Asystent znajduje odpowiedź i przygotowuje szkic, ale nie wysyła wiadomości ani nie zmienia danych klienta. Jeśli później potrzebne będą operacje w CRM, należy zaprojektować osobne uprawnienia i zatwierdzanie konkretnego działania. To rozszerzenie zakresu projektu, a nie kosmetyczny dodatek do okna czatu.
Jak sprawdzić jakość odpowiedzi RAG?
Przygotuj zestaw prawdziwych pytań wraz z oczekiwaną odpowiedzią i dokumentem źródłowym. Uwzględnij pytania niejednoznaczne, nieaktualne materiały, brak odpowiedzi oraz podobne nazwy produktów. Dla części pytań poprawnym zachowaniem będzie prośba o doprecyzowanie albo informacja, że nie udało się znaleźć podstawy do odpowiedzi.
- Trafność: czy wyszukiwarka znalazła właściwy dokument i czy odpowiedź rzeczywiście wynika z podanego fragmentu?
- Granice: czy system odmawia dostępu do obcych danych i potrafi nie odpowiadać, gdy brakuje podstaw?
- Użyteczność: ile czasu zajmuje użytkownikowi znalezienie i zweryfikowanie informacji w porównaniu z dotychczasową pracą?
- Koszt: ile kosztuje poprawnie zakończone zadanie z uwzględnieniem indeksowania, modelu, infrastruktury i kontroli człowieka?
Co powinno znaleźć się w briefie wdrożenia?
Opisz użytkowników, źródła dokumentów, języki, role dostępu i sposób aktualizacji. Dodaj przykładowe pytania, oczekiwany format odpowiedzi, dopuszczalny czas oczekiwania oraz kryteria akceptacji. Przed podłączeniem danych uzgodnij też warunki ich przetwarzania u wybranego dostawcy. Koszt wdrożenia zależy w dużej mierze od jakości źródeł i integracji, a nie od samego wyglądu czatu.
Najczęściej zadawane pytania
Czy RAG wymaga trenowania własnego modelu?
Nie. Można wykorzystać gotowy model, któremu aplikacja przekazuje wyszukane fragmenty dokumentów. Nadal trzeba przygotować źródła, wyszukiwanie, uprawnienia i ocenę odpowiedzi.
Czy asystent zawsze odpowie poprawnie, jeśli poda źródło?
Nie. Sam odnośnik nie dowodzi, że dokument potwierdza całą odpowiedź. Sprawdzaj zgodność z fragmentem, aktualność materiału i zachowanie przy braku informacji.
Czy ten sam asystent może korzystać z CRM?
Tak, jeśli zaprojektowano odpowiednią integrację. Aktualne dane transakcyjne najlepiej pobierać z systemu źródłowego z kontrolą dostępu. Zapis i wysyłka wymagają osobno ustalonych zasad.