LLM: co to jest duży model językowy i jak działa
Skrót LLM pojawia się dziś w każdej rozmowie o sztucznej inteligencji: w ofertach dostawców, w artykułach o ChatGPT, w przetargach i w dokumentach o dotacjach. Mało kto jednak tłumaczy, co dokładnie się za nim kryje i co z tego wynika dla firmy, która chce z AI po prostu skorzystać. Poniżej wyjaśniamy, czym jest duży model językowy, jak działa, jakie modele AI są dostępne i jak dobrać właściwy do zadania — bez wzorów i bez marketingowych obietnic.
LLM — co to jest? Definicja w jednym zdaniu
LLM (ang. Large Language Model, duży model językowy) to program wytrenowany na ogromnej ilości tekstu, który na podstawie otrzymanego polecenia przewiduje kolejne fragmenty odpowiedzi — i dzięki temu potrafi pisać, streszczać, tłumaczyć, odpowiadać na pytania i analizować dokumenty.
Słowo „duży” odnosi się do liczby parametrów, czyli wewnętrznych ustawień modelu, które dostraja się podczas treningu. W nowoczesnych modelach liczy się je w miliardach. „Językowy” oznacza, że podstawowym materiałem, na którym model pracuje, jest tekst — choć wiele współczesnych modeli rozumie też obrazy, dźwięk czy pliki PDF.
ChatGPT, Claude czy Gemini to aplikacje zbudowane na takich modelach. Kiedy więc mówimy „zapytałem ChatGPT”, w praktyce rozmawiamy z modelem językowym opakowanym w wygodny interfejs.
Jak działa duży model językowy
Nie trzeba znać matematyki, żeby rozumieć, skąd biorą się mocne i słabe strony LLM. Wystarczą trzy pojęcia.
Tokeny, czyli kawałki tekstu
Model nie czyta słów tak jak człowiek. Tekst jest dzielony na tokeny — krótkie fragmenty, często części wyrazów. Polskie słowo z końcówką fleksyjną bywa rozbite na dwa albo trzy tokeny. To ma znaczenie praktyczne: dostawcy modeli rozliczają się właśnie za tokeny, a limit tego, ile tekstu model może „mieć przed oczami” naraz, też jest podawany w tokenach.
Przewidywanie następnego fragmentu
Podstawowy mechanizm jest zaskakująco prosty: model patrzy na dotychczasowy tekst i oblicza, jaki token najprawdopodobniej powinien pojawić się dalej. Dopisuje go i powtarza ten krok setki razy, aż powstanie cała odpowiedź. Nowoczesne modele opierają się na architekturze transformer (opisanej przez badaczy Google w 2017 roku), która pozwala uwzględniać zależności między odległymi fragmentami tekstu — dlatego model „pamięta”, o czym była mowa trzy akapity wcześniej.
Okno kontekstu
Okno kontekstu to maksymalna ilość tekstu, którą model bierze pod uwagę w jednej rozmowie: Twoje polecenie, wklejone dokumenty, wcześniejsze wiadomości i jego własne odpowiedzi. Wszystko, co się w nim nie zmieści, dla modelu nie istnieje. Model nie uczy się też sam z rozmów z Tobą — po zamknięciu czatu wiedza z niego nie trafia do „mózgu” modelu, chyba że aplikacja ma osobny mechanizm pamięci.
Jak powstaje model: trening, dostrajanie i instrukcje
Budowa modelu językowego przebiega zwykle w kilku etapach:
- Trening wstępny. Model uczy się na bardzo dużym zbiorze tekstów — stron internetowych, książek, kodu — przewidywać kolejne tokeny. Po tym etapie zna język i mnóstwo faktów, ale nie jest jeszcze pomocnym asystentem.
- Dostrajanie do instrukcji. Na przykładach pytań i dobrych odpowiedzi model uczy się wykonywać polecenia, trzymać formatu i prowadzić rozmowę.
- Uczenie z ocen ludzi. Ludzie (lub inne modele) oceniają odpowiedzi, a model jest korygowany tak, by częściej dawał te lepiej oceniane: pomocne, bezpieczne i zgodne z faktami.
Z tego procesu wynika ważna cecha: wiedza modelu kończy się w momencie zebrania danych treningowych. Model nie zna Twojego cennika, regulaminu ani wczorajszych zamówień. Żeby odpowiadał na podstawie dokumentów firmy, stosuje się RAG — wyszukiwanie we własnej bazie wiedzy, którego wyniki trafiają do okna kontekstu razem z pytaniem.
Modele AI na rynku — przegląd
Modele językowe można podzielić na dwie grupy: dostępne wyłącznie w chmurze dostawcy i takie, których wagi (czyli sam wytrenowany model) są publicznie udostępnione i można je uruchomić na własnym serwerze.
Modele komercyjne w chmurze
- GPT od OpenAI — modele, na których działa ChatGPT.
- Claude od Anthropic — popularny przy pracy z długimi dokumentami i kodem.
- Gemini od Google — zintegrowany z usługami Google Workspace.
Korzystasz z nich przez aplikację albo przez API, płacąc za zużyte tokeny lub abonament. To najszybszy start i zwykle najwyższa jakość odpowiedzi, ale dane trafiają na serwery dostawcy — trzeba więc sprawdzić warunki przetwarzania i zawrzeć umowę powierzenia, jeśli w grę wchodzą dane osobowe.
Modele otwarte
- Llama od Meta, Mistral od francuskiej firmy Mistral AI, Qwen od Alibaby, gpt-oss od OpenAI — modele, które można pobrać i uruchomić samodzielnie (każdy na własnej licencji, którą trzeba sprawdzić przed użyciem komercyjnym).
- Bielik — polski model rozwijany przez społeczność SpeakLeash we współpracy z ACK Cyfronet AGH, trenowany z naciskiem na język polski.
- PLLuM — rodzina polskich modeli przygotowana przez konsorcjum instytucji naukowych na zlecenie Ministerstwa Cyfryzacji.
Modele otwarte są zwykle mniejsze od czołowych modeli chmurowych, ale do wielu zadań firmowych — klasyfikacji maili, wyciągania danych z faktur, odpowiedzi z bazy wiedzy — w zupełności wystarczają. Ich największa zaleta: dane nie muszą opuszczać firmy.
LLM w chmurze czy lokalny model?
To jedna z pierwszych decyzji przy każdym wdrożeniu. Najprościej rozstrzygnąć ją pytaniem: jakie dane model będzie widział?
- Chmura sprawdza się, gdy dane nie są wrażliwe albo dostawca daje wystarczające gwarancje (serwery w UE, brak trenowania na Twoich danych, umowa powierzenia). Zaleta: brak inwestycji w sprzęt, najlepsze modele od pierwszego dnia, płacisz za faktyczne użycie.
- Model lokalny ma sens tam, gdzie obowiązuje tajemnica zawodowa albo dane są szczególnie wrażliwe: kancelarie, gabinety, biura rachunkowe, firmy z know-how, którego nie chcą wysyłać poza biuro. Model działa na serwerze lub komputerze w sieci firmy, często bez dostępu do internetu. Koszt to sprzęt i konfiguracja, za to bez opłat za tokeny.
- Rozwiązanie mieszane — wrażliwe dokumenty przetwarza model lokalny, a zadania ogólne (np. szkice tekstów marketingowych) model w chmurze. W praktyce to częsty kompromis.
Do czego firma może użyć LLM — przykłady z MŚP
Sam model językowy to silnik. Wartość dla firmy pojawia się dopiero wtedy, gdy podłączy się go do konkretnego procesu. Przykłady, które w polskich firmach z sektora MŚP mają sens już dziś:
- Obsługa klienta. Chatbot na stronie lub w Messengerze odpowiada na pytania o ofertę, dostawę i zwroty na podstawie cennika i regulaminu, a trudniejsze sprawy przekazuje pracownikowi.
- Skrzynka mailowa. Model czyta przychodzące wiadomości, rozpoznaje, czy to zapytanie ofertowe, reklamacja czy faktura, i kieruje je do właściwej osoby z gotowym szkicem odpowiedzi.
- Dokumenty i faktury. Wyciąganie danych z faktur, umów i zamówień do arkusza albo systemu — człowiek zatwierdza, zamiast przepisywać.
- Wiedza wewnętrzna. Pracownik pyta własnymi słowami o procedurę czy wcześniejsze ustalenia, a model odpowiada na podstawie dokumentów firmy i wskazuje źródło.
- Treści w sklepie internetowym. Opisy produktów, tłumaczenia na inne języki, odpowiedzi na opinie klientów — przygotowane przez model, sprawdzone przez człowieka.
- Działania w systemach. Gdy model nie tylko odpowiada, ale też rezerwuje terminy, zapisuje dane w CRM czy wysyła wiadomości, mówimy już o agencie AI.
Ograniczenia, o których warto wiedzieć
Duże modele językowe są imponujące, ale mają cechy, które trzeba uwzględnić przy projektowaniu każdego wdrożenia:
- Halucynacje. Model przewiduje prawdopodobny tekst, a nie sprawdza faktów. Potrafi więc z pełnym przekonaniem podać nieistniejący przepis, cenę czy numer zamówienia. Ograniczamy to, każąc mu odpowiadać tylko na podstawie dostarczonych dokumentów i przyznawać się do niewiedzy.
- Nieaktualna wiedza. Bez dostępu do Twoich danych model nie wie, co zmieniło się po jego treningu.
- Zmienność odpowiedzi. To samo pytanie może dać dwie różne odpowiedzi. Tam, gdzie liczy się powtarzalność (np. dane do księgowania), wynik modelu powinien przechodzić przez reguły walidacji.
- Koszt przy dużej skali. Pojedyncze zapytanie kosztuje grosze, ale tysiące dziennie z długimi dokumentami potrafią złożyć się na zauważalny rachunek. Warto policzyć to przed startem — o tym piszemy w tekście ile kosztuje wdrożenie AI.
- Dane osobowe i przepisy. Przetwarzanie danych klientów przez model podlega RODO, a systemy oparte na LLM — obowiązkom z AI Act, choćby informowaniu, że klient rozmawia z AI.
Jak wybrać model językowy dla firmy
Nie istnieje „najlepszy LLM” w oderwaniu od zadania. Zamiast porównywać rankingi, lepiej odpowiedzieć na kilka pytań:
- Jakie dane zobaczy model? Od tego zależy wybór między chmurą, modelem lokalnym a rozwiązaniem mieszanym.
- W jakim języku pracuje? Jeśli klienci piszą po polsku, trzeba sprawdzić jakość odpowiedzi właśnie po polsku — na własnych przykładach, nie na deklaracjach dostawcy.
- Jak trudne jest zadanie? Do klasyfikacji maili wystarczy mały, tani model. Analiza długich umów czy planowanie wieloetapowych działań wymaga mocniejszego.
- Ile zapytań dziennie? Przy dużym wolumenie różnica w cenie za token między modelami ma większe znaczenie niż drobne różnice w jakości.
- Czy da się go wymienić? Modele zmieniają się co kilka miesięcy. Dobrze zaprojektowane wdrożenie pozwala podmienić model bez przebudowy całego systemu.
Najpewniejszy sposób to krótki test: kilkadziesiąt prawdziwych przykładów z Twojej firmy, dwa–trzy modele i porównanie wyników. Tak zaczynamy każde wdrożenie AI w firmie — dobór modelu jest wynikiem testu, a nie przyzwyczajeń.
Podsumowanie
LLM to duży model językowy, który na podstawie wytrenowanych wzorców przewiduje kolejne fragmenty tekstu — i dzięki temu pisze, streszcza, klasyfikuje i odpowiada na pytania. Sam w sobie nie zna Twojej firmy i bywa pewny siebie bez powodu, dlatego w praktyce łączy się go z bazą wiedzy (RAG), regułami i systemami firmy. Wybór między modelem w chmurze a lokalnym zależy przede wszystkim od danych, a wybór konkretnego modelu — od testu na Twoich przykładach. Jeśli chcesz sprawdzić, gdzie model językowy da w Twojej firmie najszybszy efekt, zacznij od jednego procesu albo od audytu AI.
LLM — krótkie odpowiedzi
Nie ma Twojego pytania? Napisz do nas – odpowiadamy w ciągu jednego dnia roboczego.
Co oznacza skrót LLM?
LLM to Large Language Model, po polsku duży model językowy. To model sztucznej inteligencji wytrenowany na dużych zbiorach tekstu, który rozumie polecenia i generuje odpowiedzi w języku naturalnym.
Czy ChatGPT to LLM?
ChatGPT to aplikacja zbudowana na modelach językowych GPT od OpenAI. Sam model to silnik, a ChatGPT — interfejs czatu z dodatkowymi funkcjami, takimi jak wyszukiwanie w internecie czy praca z plikami.
Czy LLM uczy się na moich rozmowach?
Model nie zmienia się w trakcie rozmowy. To, czy dostawca używa rozmów do trenowania kolejnych wersji, zależy od jego regulaminu i rodzaju konta — w usługach firmowych i przez API zwykle jest to wyłączone. Przy modelu lokalnym dane w ogóle nie trafiają do dostawcy.
Czy istnieje dobry polski model językowy?
Tak. Bielik i PLLuM to modele trenowane z naciskiem na język polski i dostępne do uruchomienia na własnym sprzęcie. Duże modele komercyjne również dobrze radzą sobie z polskim — o wyborze najlepiej zdecydować po teście na własnych przykładach.
Czym różni się model językowy od agenta AI?
Model językowy generuje tekst. Agent AI to model wyposażony w narzędzia, wiedzę i reguły, dzięki którym wykonuje działania w systemach firmy — na przykład rezerwuje termin albo zapisuje dane w CRM.
Sprawdźmy, który model językowy pasuje do Twojej firmy
Na konsultacji przejdziemy przez Twoje dane i procesy, wskażemy, czy lepszy będzie model w chmurze, czy lokalny, i od którego zadania warto zacząć. Bez zobowiązań.