Prompt
Utwórz szablon promptu z dynamicznymi zmiennymi dla LLM, obsługujący pola takie jak {input}, {human_input}, {context}, {chat_history}, {system_message}.
Przegląd
Ten przepływ pracy wdraża prostego czatbota RAG (Retrieval-Augmented Generation), który korzysta z wyszukiwarki Google w czasie rzeczywistym, aby pobierać najnowsze informacje z internetu — można go skonfigurować tak, by ograniczał wszystkie wyszukiwania do konkretnej domeny. Głównym celem jest stworzenie czatbota, który może odpowiadać na zapytania użytkowników, wykorzystując najbardziej aktualne i trafne treści znalezione online, co jest niezwykle wartościowe tam, gdzie statyczne bazy wiedzy nie wystarczają.
Kluczowe komponenty i przepływ
Przepływ składa się z kilku modułowych bloków, z których każdy odpowiada za określoną funkcjonalność. Poniżej znajduje się podział struktury i działania przepływu:
| Komponent | Rola |
|---|---|
| Chat Input | Odbiera zapytania i wiadomości użytkownika. |
| Chat History | Przechowuje historię rozmowy dla odpowiedzi uwzględniających kontekst. |
| Query Expansion | Parafrazuje wejście użytkownika na wiele alternatywnych zapytań, by zwiększyć zakres wyszukiwania. |
| Google Search | Przeprowadza wyszukiwania w Google, ograniczone przez konfigurowalny prefiks domeny. |
| URL Retriever | Pobiera treści z adresów URL zwróconych przez wyszukiwanie Google. |
| Prompt Template | Strukturyzuje kontekst, wejście użytkownika i historię dla modelu językowego. |
| OpenAI LLM | Generuje odpowiedzi za pomocą modelu językowego (np. GPT-3/4). |
| Generator | Wywołuje LLM z promptem i kontekstem, aby uzyskać odpowiedź. |
| Chat Output | Wyświetla odpowiedzi czatbota użytkownikowi. |
| Button Widgets | Udostępnia szybkie przykładowe zapytania do wypróbowania jednym kliknięciem. |
| Chat Opened Trigger | Inicjuje rozmowę i wyświetla przyciski szybkiego startu. |
Jak działa przepływ pracy
Gdy użytkownik otwiera czat, aktywuje się Chat Opened Trigger. Inicjuje on interfejs czatu i prezentuje kilka Button Widgets z przykładowymi pytaniami (np. “jaki dinozaur ma 500 zębów?”). Po kliknięciu przycisku lub wpisaniu własnej wiadomości przez Chat Input, przepływ pracy przebiega następująco:
Rozszerzanie zapytania: Wejście użytkownika jest parafrazowane na kilka wersji, aby zmaksymalizować szanse na uzyskanie trafnych wyników wyszukiwania.
Wyszukiwanie Google: Rozszerzone zapytania wysyłane są do wyszukiwarki Google. Domyślnie wyszukiwanie jest ograniczone do konkretnej domeny (ustawionej przez pole
query_prefix, np.site: www.TWÓJADRES.com), co pozwala skoncentrować wiedzę czatbota na Twojej stronie lub wybranym źródle.Pobieranie treści z URL: Przepływ pobiera treści z najważniejszych wyników wyszukiwania (adresów URL) jako pełne dokumenty.
Budowanie promptu: Pobraną treść, wejście użytkownika i historię rozmowy łączy się za pomocą komponentu Prompt Template, aby zapewnić bogaty kontekst odpowiedzi.
Generowanie odpowiedzi przez model językowy: Prompt trafia do OpenAI LLM, który generuje spójną i kontekstowo trafną odpowiedź.
Wyświetlanie odpowiedzi: Wygenerowana odpowiedź prezentowana jest użytkownikowi przez Chat Output.
Przykładowy przebieg użycia
- Użytkownik otwiera czat: pojawia się wiadomość powitalna i trzy przykładowe przyciski z pytaniami.
- Użytkownik klika “kiedy jest dzień matki 2024?”: Pytanie natychmiast pojawia się w czacie (dla szybkiej informacji zwrotnej).
- Przepływ przechodzi przez rozszerzanie zapytania, wyszukiwanie, pobieranie, budowanie promptu i generowanie odpowiedzi przez LLM, po czym wyświetla odpowiedź.
Dlaczego ten przepływ pracy jest przydatny
- Wiedza w czasie rzeczywistym: Czatbot odpowiada na pytania, korzystając z najnowszych informacji dostępnych w sieci lub wybranej domenie.
- Ograniczenie do domeny: Modyfikując
query_prefix, zapewniasz, że czatbot korzysta wyłącznie z informacji zaufanych (np. z Twojej strony lub bazy wiedzy), co podnosi wiarygodność odpowiedzi. - Świadomość kontekstu: Uwzględnianie historii czatu i pobranych treści w promptcie pozwala na precyzyjnie dostosowane odpowiedzi w wieloetapowych rozmowach.
- Skalowalność i automatyzacja: Modułowa budowa pozwala łatwo rozbudowywać lub dostosowywać przepływ pracy do różnych domen i wdrażać go na szeroką skalę.
- Doświadczenie użytkownika: Przyciski szybkiego startu i natychmiastowa informacja zwrotna sprawiają, że czatbot jest łatwy w obsłudze.
Podsumowanie przepływu pracy – tabela
| Krok | Opis |
|---|---|
| Wejście użytkownika | Użytkownik wpisuje pytanie lub klika przycisk szybkiego startu |
| Rozszerzanie zapytania | Wejście jest parafrazowane w celu szerszego zakresu wyszukiwania |
| Wyszukiwanie Google | Wyszukiwania wykonywane są w Google, ograniczone do wybranej domeny |
| Pobieranie treści z URL | Pobierane są treści z najlepszych wyników wyszukiwania |
| Budowanie promptu | Wejście użytkownika, wyniki wyszukiwania i historia czatu są łączone w prompt |
| Generowanie przez LLM | OpenAI LLM generuje odpowiedź z pełnym kontekstem |
| Wyjście | Odpowiedź jest wyświetlana użytkownikowi |
Dostosowanie
- Aby skoncentrować czatbota na własnej domenie, zmodyfikuj pole
query_prefixw komponencie Google Search (np.site: www.TWÓJADRES.com). - Dodawaj lub zmieniaj przykładowe zapytania za pomocą komponentów Button Widget, aby lepiej dopasować doświadczenie użytkownika.
Idealne zastosowania
- Boty wsparcia klienta, które zawsze odpowiadają na podstawie aktualnej dokumentacji lub treści z Twojej strony.
- Wewnętrzni asystenci wiedzy ograniczeni do intranetu lub portalu wsparcia Twojej firmy.
- Każdy czatbot, który zawsze musi cytować lub opierać się na zewnętrznych, autorytatywnych źródłach (np. dla zgodności lub dokładności).
Automatyzując proces wyszukiwania, pobierania i generowania odpowiedzi, ten przepływ pracy oszczędza czas ręcznego researchu i zapewnia użytkownikom zawsze najbardziej aktualne i trafne informacje.
