Czatbot RAG w czasie rzeczywistym dla konkretnej domeny

Przegląd

Ten przepływ pracy wdraża prostego czatbota RAG (Retrieval-Augmented Generation), który korzysta z wyszukiwarki Google w czasie rzeczywistym, aby pobierać najnowsze informacje z internetu — można go skonfigurować tak, by ograniczał wszystkie wyszukiwania do konkretnej domeny. Głównym celem jest stworzenie czatbota, który może odpowiadać na zapytania użytkowników, wykorzystując najbardziej aktualne i trafne treści znalezione online, co jest niezwykle wartościowe tam, gdzie statyczne bazy wiedzy nie wystarczają.

Kluczowe komponenty i przepływ

Przepływ składa się z kilku modułowych bloków, z których każdy odpowiada za określoną funkcjonalność. Poniżej znajduje się podział struktury i działania przepływu:

Jak działa przepływ pracy

Gdy użytkownik otwiera czat, aktywuje się Chat Opened Trigger. Inicjuje on interfejs czatu i prezentuje kilka Button Widgets z przykładowymi pytaniami (np. “jaki dinozaur ma 500 zębów?”). Po kliknięciu przycisku lub wpisaniu własnej wiadomości przez Chat Input, przepływ pracy przebiega następująco:

1. Rozszerzanie zapytania: Wejście użytkownika jest parafrazowane na kilka wersji, aby zmaksymalizować szanse na uzyskanie trafnych wyników wyszukiwania.

2. Wyszukiwanie Google: Rozszerzone zapytania wysyłane są do wyszukiwarki Google. Domyślnie wyszukiwanie jest ograniczone do konkretnej domeny (ustawionej przez pole query_prefix, np. site: www.TWÓJADRES.com), co pozwala skoncentrować wiedzę czatbota na Twojej stronie lub wybranym źródle.

3. Pobieranie treści z URL: Przepływ pobiera treści z najważniejszych wyników wyszukiwania (adresów URL) jako pełne dokumenty.

4. Budowanie promptu: Pobraną treść, wejście użytkownika i historię rozmowy łączy się za pomocą komponentu Prompt Template, aby zapewnić bogaty kontekst odpowiedzi.

5. Generowanie odpowiedzi przez model językowy: Prompt trafia do OpenAI LLM, który generuje spójną i kontekstowo trafną odpowiedź.

6. Wyświetlanie odpowiedzi: Wygenerowana odpowiedź prezentowana jest użytkownikowi przez Chat Output.

Przykładowy przebieg użycia

• Użytkownik otwiera czat: pojawia się wiadomość powitalna i trzy przykładowe przyciski z pytaniami.
• Użytkownik klika “kiedy jest dzień matki 2024?”: Pytanie natychmiast pojawia się w czacie (dla szybkiej informacji zwrotnej).
• Przepływ przechodzi przez rozszerzanie zapytania, wyszukiwanie, pobieranie, budowanie promptu i generowanie odpowiedzi przez LLM, po czym wyświetla odpowiedź.

Dlaczego ten przepływ pracy jest przydatny

• Wiedza w czasie rzeczywistym: Czatbot odpowiada na pytania, korzystając z najnowszych informacji dostępnych w sieci lub wybranej domenie.
• Ograniczenie do domeny: Modyfikując query_prefix, zapewniasz, że czatbot korzysta wyłącznie z informacji zaufanych (np. z Twojej strony lub bazy wiedzy), co podnosi wiarygodność odpowiedzi.
• Świadomość kontekstu: Uwzględnianie historii czatu i pobranych treści w promptcie pozwala na precyzyjnie dostosowane odpowiedzi w wieloetapowych rozmowach.
• Skalowalność i automatyzacja: Modułowa budowa pozwala łatwo rozbudowywać lub dostosowywać przepływ pracy do różnych domen i wdrażać go na szeroką skalę.
• Doświadczenie użytkownika: Przyciski szybkiego startu i natychmiastowa informacja zwrotna sprawiają, że czatbot jest łatwy w obsłudze.

Podsumowanie przepływu pracy – tabela

Dostosowanie

• Aby skoncentrować czatbota na własnej domenie, zmodyfikuj pole query_prefix w komponencie Google Search (np. site: www.TWÓJADRES.com).
• Dodawaj lub zmieniaj przykładowe zapytania za pomocą komponentów Button Widget, aby lepiej dopasować doświadczenie użytkownika.

Idealne zastosowania

• Boty wsparcia klienta, które zawsze odpowiadają na podstawie aktualnej dokumentacji lub treści z Twojej strony.
• Wewnętrzni asystenci wiedzy ograniczeni do intranetu lub portalu wsparcia Twojej firmy.
• Każdy czatbot, który zawsze musi cytować lub opierać się na zewnętrznych, autorytatywnych źródłach (np. dla zgodności lub dokładności).

Automatyzując proces wyszukiwania, pobierania i generowania odpowiedzi, ten przepływ pracy oszczędza czas ręcznego researchu i zapewnia użytkownikom zawsze najbardziej aktualne i trafne informacje.