RAG w sprzedaży B2B — jak wykorzystać wiedzę firmy w systemach AI
Model nie zna Twojej firmy, dopóki mu jej nie pokażesz. RAG to sposób, w jaki odpowiedzi opierają się na Twoich dokumentach — z uprawnieniami i źródłami.
Porównanie
To nie są dwa sposoby na to samo. Jedno zmienia to, co model wie w chwili odpowiedzi, drugie — jak model się zachowuje.
| RAG | Fine-tuning |
|---|---|
| Źródło wiedzy: dokumenty pobierane w chwili odpowiedzi | Źródło wiedzy: to, co model wyniósł z treningu |
| Aktualność: zmiana dokumentu działa od razu | Aktualność: nowa wiedza wymaga kolejnego treningu |
| Wiedza firmowa: naturalne miejsce na oferty, notatki, dokumentację | Wiedza firmowa: trudna do aktualizacji i do wycofania |
| Zachowanie modelu: sterowane promptem i formatem | Zachowanie modelu: uczone na przykładach, stabilniejsze w wąskim zadaniu |
| Źródła w odpowiedzi: da się cytować fragment | Źródła w odpowiedzi: brak — model nie wskaże, skąd to ma |
| Uprawnienia: filtr przy wyszukiwaniu, per użytkownik | Uprawnienia: wiedza wtopiona w model, bez rozróżnienia dostępu |
W praktyce te podejścia się nie wykluczają. Typowy układ to fine-tuning odpowiadający za formę i sposób rozumowania w wąskim zadaniu oraz RAG dostarczający aktualnych faktów — bo to fakty starzeją się najszybciej.
Kolejność też bywa praktyczna: najpierw prompt i RAG, bo są najtańsze do zmiany i najłatwiejsze do oceny; fine-tuning dopiero wtedy, gdy zestaw przykładów pokazuje powtarzalny problem, którego prompt nie rozwiązuje.
| RAG | Fine-tuning |
|---|---|
| Koszt startu: głównie przygotowanie i indeksowanie dokumentów | Koszt startu: zebranie i oczyszczenie zestawu przykładów |
| Koszt zapytania rośnie z ilością dołączanego kontekstu | Koszt zapytania bywa niższy, bo prompt jest krótszy |
| Utrzymanie: aktualność źródeł, uprawnienia, jakość wyszukiwania | Utrzymanie: powtórny trening przy zmianie zadania lub modelu |
| Ryzyko: odpowiedź bez pokrycia, gdy brakuje fragmentu w bazie | Ryzyko: wiedza wtopiona w model, trudna do wycofania |
Przy RAG uprawnienia sprawdza się przy wyszukiwaniu, zanim cokolwiek trafi do modelu — dzięki temu system może odpowiadać różnym osobom na podstawie różnych fragmentów. Przy fine-tuningu tego rozróżnienia nie ma: to, co weszło do treningu, jest w modelu dla wszystkich, którzy mają do niego dostęp.
Warunki przetwarzania danych po stronie dostawcy modelu — retencja, wykorzystanie do trenowania, lokalizacja — są opisane w jego dokumentacji i trzeba je przeczytać przed wdrożeniem. Nie doradzamy w zakresie prawnym.
Projektujemy i wdrażamy systemy oparte na modelach językowych i agentach AI — do pracy z danymi, sprzedażą i procesami operacyjnymi.
Budujemy system prospectingu oparty na danych i AI: od zdefiniowania ICP, przez wzbogacanie danych i scoring, po outbound i CRM.
Model nie zna Twojej firmy, dopóki mu jej nie pokażesz. RAG to sposób, w jaki odpowiedzi opierają się na Twoich dokumentach — z uprawnieniami i źródłami.
Agent AI to model z dostępem do narzędzi, który sam wybiera kolejne kroki. Największym pytaniem nie jest „czy potrafi", tylko „co wolno mu zrobić bez pytania".
Większość nieudanych wdrożeń AI w sprzedaży zaczyna się od pytania „co by tu zautomatyzować". Kolejność, która działa, zaczyna się od procesu i od danych.
Projekt, w którym rdzeniem jest analiza i automatyzacja oparta na modelach.
Wydawnictwo i e-commerce — marka własna zespołu
Zwykle jest naturalniejszym wyborem, bo wiedza firmowa się zmienia, a RAG pozwala ją aktualizować bez dotykania modelu i pokazać źródło. Nie jest jednak odpowiedzią na wszystko: gdy problemem jest forma odpowiedzi albo powtarzalność w wąskim zadaniu, sama wiedza tego nie naprawi.
Częściowo i ryzykownie. Model może zacząć odtwarzać treść z przykładów, ale nie wskaże źródła, nie rozróżni uprawnień i nie zaktualizuje się, gdy oferta się zmieni. Do faktów lepiej nadaje się RAG.
Od nazwania problemu: „model nie zna naszych danych” prowadzi do RAG, „model odpowiada nie tak, jak chcemy” prowadzi do promptu, formatu i dopiero potem fine-tuningu. W obu przypadkach potrzebny jest zestaw przykładów, na którym da się ocenić, czy zrobiło się lepiej.
Trenowanie modelu od zera jest jawnie poza zakresem naszych usług. Pracujemy na modelach dostępnych przez API, dokładając warstwę danych, kontroli jakości i uprawnień — a dostrajanie stosujemy tam, gdzie problem jest wąski i powtarzalny.
Zaczynamy od pytania, co ma się poprawić i po czym to poznacie — dopiero potem od architektury.