Blog · Technologia
RAG – co to jest i jak działa baza wiedzy AI
Jeśli zapytasz ogólny model językowy o godziny otwarcia Twojego biura, warunki zwrotu w Twoim sklepie albo procedurę reklamacji w Twojej firmie, dostaniesz odpowiedź, która brzmi przekonująco — i najpewniej jest zmyślona. Model nie widział Waszych dokumentów, więc uzupełnia luki tym, co „zwykle” bywa prawdą. RAG to najpopularniejszy sposób, żeby to zmienić. Poniżej wyjaśniamy, czym jest, jak działa i kiedy ma sens w małej lub średniej firmie.
RAG – co to jest
RAG to skrót od retrieval augmented generation, czyli generowanie odpowiedzi wspomagane wyszukiwaniem. Zasada jest prosta: zanim model odpowie na pytanie, system wyszukuje w Twoich dokumentach fragmenty, które dotyczą tego pytania, i podaje je modelowi razem z poleceniem w rodzaju „odpowiedz wyłącznie na podstawie tych materiałów”.
Model nie musi więc „znać” Twojej firmy. Wystarczy, że w danej chwili dostanie właściwe kartki z segregatora. To trochę jak różnica między pracownikiem, który odpowiada z pamięci, a takim, który przed odpowiedzią zagląda do regulaminu i mówi, w którym punkcie to jest zapisane.
Jaki problem rozwiązuje
- Model nie zna Twoich dokumentów. Duże modele uczono na danych publicznych. Wewnętrzny cennik, umowy ramowe, instrukcje stanowiskowe czy historia ustaleń z klientem nigdy do nich nie trafiły.
- Halucynacje. Gdy model nie wie, często nie mówi „nie wiem”, tylko generuje wiarygodnie brzmiącą odpowiedź. W obsłudze klienta to najgorszy możliwy błąd, bo trudno go wychwycić.
- Nieaktualna wiedza. Wiedza modelu kończy się w dniu zakończenia treningu. Cennik zmienił się w zeszłym tygodniu — model o tym nie wie, ale RAG tak, jeśli dokument został podmieniony.
- Brak możliwości sprawdzenia. Odpowiedź bez źródła trzeba przyjąć na wiarę. Odpowiedź z odnośnikiem do konkretnego dokumentu da się zweryfikować w kilka sekund.
Jak działa RAG – krok po kroku
Dla właściciela firmy wystarczy wiedzieć, że system „szuka, a potem odpowiada”. Dla osoby technicznej rozpiszmy to dokładniej. Proces ma dwie fazy: przygotowanie bazy wiedzy (raz i przy każdej zmianie dokumentów) oraz obsługę pytania (przy każdym zapytaniu).
- Zebranie dokumentów. PDF-y, pliki Word, arkusze, strony internetowe, eksporty z systemów, baza pytań i odpowiedzi. Na tym etapie usuwa się duplikaty i wersje nieaktualne.
- Podział na fragmenty. Dokumenty dzieli się na mniejsze części — akapity, sekcje, punkty regulaminu. Model dostaje potem kilka trafnych fragmentów, a nie cały stustronicowy plik.
- Embeddings. Każdy fragment zamieniany jest na wektor liczb, który opisuje jego znaczenie. Fragmenty o podobnej treści mają podobne wektory, nawet jeśli używają innych słów — „zwrot towaru” i „oddanie zamówienia” leżą blisko siebie.
- Baza wektorowa. Wektory wraz z treścią fragmentu i informacją o źródle (nazwa dokumentu, strona, data) trafiają do bazy, która potrafi szybko znaleźć najbliższe znaczeniowo elementy.
- Wyszukiwanie. Gdy użytkownik zadaje pytanie, ono również zamieniane jest na wektor, a system wybiera kilka najbardziej pasujących fragmentów. Często łączy się to z klasycznym wyszukiwaniem po słowach kluczowych, bo numery umów, kody produktów czy nazwiska wyszukiwanie znaczeniowe łapie gorzej.
- Odpowiedź z cytatem źródła. Model dostaje pytanie i znalezione fragmenty, formułuje odpowiedź i wskazuje, z którego dokumentu pochodzi informacja. Jeśli w materiałach nie ma odpowiedzi, dobrze skonfigurowany system mówi to wprost i proponuje kontakt z człowiekiem.
RAG, fine-tuning czy wklejanie do ChatGPT
To trzy różne podejścia, które często się myli.
Wklejanie dokumentów do ChatGPT. Działa przy jednym pliku i jednym pytaniu. Nie skaluje się na setki dokumentów, każdy pracownik robi to po swojemu, nie ma kontroli nad tym, kto co wkleił, a dane firmy trafiają do narzędzia, nad którym firma nie ma umowy ani zasad przetwarzania. Z punktu widzenia RODO to często najsłabsze ogniwo.
Fine-tuning. Dotrenowanie modelu na własnych danych. Dobrze uczy stylu, formatu odpowiedzi czy specyficznego słownictwa branżowego, ale słabo nadaje się do przechowywania faktów. Każda zmiana cennika oznacza ponowny trening, a model nadal nie pokaże, skąd wziął informację. Jest też droższy i dłuższy we wdrożeniu.
RAG. Wiedza zostaje w dokumentach, a model tylko z niej korzysta. Aktualizacja polega na podmianie pliku, odpowiedzi mają źródło, a dostęp można ograniczać według uprawnień. Dla większości zastosowań w firmie to rozsądny punkt wyjścia; fine-tuning bywa uzupełnieniem, rzadko zamiennikiem.
Typowe zastosowania w małej i średniej firmie
- Baza wiedzy dla zespołu. Nowy pracownik pyta „jak wystawić korektę faktury dla klienta zagranicznego” i dostaje odpowiedź z wewnętrznej instrukcji zamiast odrywać od pracy starszego kolegę.
- Chatbot z cennika i regulaminu. Klient na stronie pyta o koszt dostawy, termin zwrotu albo warunki gwarancji, a bot odpowiada na podstawie aktualnych dokumentów. Więcej o takich wdrożeniach piszemy na stronie chatbotów dla firm.
- Obsługa klienta. Pierwsza linia wsparcia, która odpowiada na powtarzalne pytania, a sprawy nietypowe przekazuje człowiekowi razem z kontekstem rozmowy.
- Procedury i instrukcje. BHP, procedury jakościowe, instrukcje obsługi urządzeń — dokumenty, które istnieją, ale nikt ich nie czyta, bo trudno w nich cokolwiek znaleźć.
- Umowy. Wyszukiwanie zapisów w umowach z klientami i dostawcami: okresy wypowiedzenia, kary umowne, terminy płatności. Tu szczególnie ważne są cytaty źródła i uprawnienia.
RAG jest też często fundamentem bardziej złożonych systemów. Agent, który ma nie tylko odpowiadać, ale i działać — założyć zgłoszenie, sprawdzić status zamówienia — zwykle korzysta z bazy wiedzy zbudowanej właśnie w ten sposób. Opisujemy to na stronie agentów AI dla firm.
Od czego zależy jakość odpowiedzi
Sam model ma tu mniejsze znaczenie, niż się wydaje. O tym, czy system odpowiada trafnie, decyduje głównie to, co dzieje się przed nim.
- Jakość dokumentów. Jeśli w firmie krążą trzy wersje regulaminu, bot będzie cytował wszystkie trzy. Sprzeczne, nieaktualne i niekompletne materiały to najczęstsza przyczyna złych odpowiedzi — i najczęstszy powód, dla którego pierwsza część wdrożenia to porządkowanie wiedzy.
- Podział na fragmenty. Za duże fragmenty rozmywają trafność, za małe gubią kontekst. Tabela cennika pocięta w połowie wiersza da błędną cenę. Podział trzeba dopasować do struktury dokumentów, a nie ustawić raz dla wszystkich.
- Aktualizacja. Baza wiedzy musi nadążać za firmą. Najlepiej, gdy indeksowanie uruchamia się automatycznie po zmianie pliku w ustalonym folderze lub systemie, a nie zależy od tego, czy ktoś pamięta, żeby go wgrać.
- Uprawnienia. Asystent dla zespołu sprzedaży nie powinien odpowiadać na podstawie dokumentów kadrowych. Uprawnienia trzeba przenieść do warstwy wyszukiwania — system ma szukać tylko w tym, do czego pytający ma dostęp.
- Testy na prawdziwych pytaniach. Zestaw kilkudziesięciu realnych pytań od klientów lub pracowników, sprawdzany po każdej zmianie, mówi o jakości więcej niż jakakolwiek demonstracja.
Lokalny RAG na własnym sprzęcie
W wielu branżach dokumenty, które miałyby trafić do bazy wiedzy, są wrażliwe: dokumentacja medyczna, akta spraw w kancelarii, dane finansowe klientów, tajemnica przedsiębiorstwa. Wysyłanie ich do zewnętrznej chmury bywa wtedy nie do przyjęcia — z powodów prawnych, umownych albo po prostu ostrożności.
Rozwiązaniem jest lokalny RAG: baza wektorowa i model językowy działają na sprzęcie w Twojej firmie, w zamkniętej sieci. Dokumenty, pytania i odpowiedzi nie opuszczają budynku. W Axisway instalujemy takie systemy na komputerach Mac Mini lub serwerach GPU, z lokalnymi modelami LLM dobranymi do skali i rodzaju danych. Lokalne modele są nieco słabsze od największych modeli chmurowych, ale w zadaniu „odpowiedz na podstawie tych fragmentów” różnica jest zwykle niewielka — bo wiedzę dostarcza wyszukiwanie, a nie pamięć modelu.
Jeśli nie przetwarzasz danych wrażliwych, model w chmurze z odpowiednią umową powierzenia i ustawieniami zgodnymi z RODO jest zwykle tańszy i wystarczający. Decyzję warto podjąć na podstawie rodzaju dokumentów, a nie mody.
Jak zacząć
- Wybierz jeden obszar. Najlepiej taki, w którym pytania się powtarzają, a odpowiedzi już gdzieś są spisane: obsługa klienta, wdrażanie nowych pracowników, wsparcie handlowców. Jeśli nie wiesz, od czego zacząć, pomoże audyt AI, który porządkuje procesy według potencjalnego zysku.
- Zbierz dokumenty i pytania. Kilkadziesiąt dokumentów źródłowych i lista realnych pytań wystarczą, żeby sprawdzić, czy podejście działa.
- Zbuduj pierwszą wersję i testuj. Pierwsza działająca wersja powstaje u nas zwykle w 7–14 dni. Potem przychodzi strojenie: podział dokumentów, odpowiedzi na brakujące tematy, uprawnienia.
- Rozszerzaj stopniowo. Kolejne działy, kanały i integracje dopiero wtedy, gdy pierwszy obszar działa dobrze.
Szerzej o całym procesie piszemy w przewodniku po wdrożeniu AI w firmie, a o budżecie — w artykule ile kosztuje wdrożenie AI. Przy kwalifikujących się projektach część kosztów może pokryć dotacja PARP, nawet do 75%.
Podsumowanie
RAG to sposób, żeby model językowy odpowiadał na podstawie Twoich dokumentów, a nie własnych domysłów — i pokazywał, skąd wziął odpowiedź. Technicznie to indeksowanie, embeddings, baza wektorowa i wyszukiwanie przed każdą odpowiedzią. Praktycznie o sukcesie decyduje porządek w dokumentach, sensowny podział na fragmenty, aktualizacja i uprawnienia. Przy danych wrażliwych całość może działać lokalnie, bez wysyłania czegokolwiek na zewnątrz.
FAQ
Pytania o RAG
Czy RAG całkowicie eliminuje halucynacje?
Nie całkowicie, ale znacząco je ogranicza. Model nadal może źle zinterpretować fragment albo połączyć dwa niepasujące. Dlatego ważne są cytaty źródła, polecenie odpowiadania wyłącznie na podstawie materiałów i regularne testy na realnych pytaniach.
Jakie formaty dokumentów da się podłączyć?
Najczęściej PDF, Word, arkusze, strony internetowe i eksporty z systemów firmowych. Skany wymagają rozpoznawania tekstu, a złożone tabele i schematy — dodatkowej obróbki. Im bardziej uporządkowany dokument, tym lepsze odpowiedzi.
Czy moje dokumenty posłużą do trenowania modelu?
W RAG dokumenty nie są używane do trenowania — model tylko czyta wybrane fragmenty w momencie odpowiedzi. Przy modelach chmurowych warunki przetwarzania określa umowa z dostawcą, a przy lokalnym modelu dane w ogóle nie opuszczają Twojej sieci.
Ile dokumentów potrzeba, żeby to miało sens?
Nie ma dolnej granicy — sensowny chatbot może działać na kilku dokumentach, jeśli dobrze opisują ofertę i zasady. Ważniejsza od liczby jest kompletność i aktualność. Przy kilku plikach często wystarcza prostsze rozwiązanie, a pełny RAG pokazuje przewagę przy dziesiątkach i setkach dokumentów.
Baza wiedzy AI
Sprawdźmy, czy Twoje dokumenty są gotowe
Na bezpłatnym audycie przeglądamy Wasze dokumenty i pytania, które najczęściej się powtarzają, i mówimy wprost: czy RAG ma tu sens, w chmurze czy lokalnie, i od którego obszaru zacząć.
- info@axisway.com
- +48 516 068 354
- ul. Szewska 8, 50-122 Wrocław