Chatbot RAG v reálném čase pro konkrétní doménu

Přehled

Tento pracovní postup implementuje jednoduchý chatbot s Retrieval-Augmented Generation (RAG), který využívá Google Search v reálném čase pro získávání aktuálních informací z internetu—konkrétně jej lze upravit tak, aby všechna vyhledávání byla omezena na určitou doménu. Hlavním cílem je vytvořit chatbot, který bude odpovídat na dotazy uživatelů pomocí nejrelevantnějšího a nejnovějšího obsahu nalezeného online, což je velmi cenné v situacích, kdy statické znalostní báze nestačí.

Klíčové komponenty a tok

Pracovní postup je složen z několika modulárních bloků, z nichž každý představuje určitou schopnost. Níže je rozpis struktury a funkcionality workflow:

Jak workflow funguje

Když uživatel otevře chat, aktivuje se Chat Opened Trigger. Ten inicializuje chatovací rozhraní a zobrazí několik Button Widgets s příkladovými dotazy (například “jaký dinosaurus má 500 zubů?”). Když uživatel klikne na tlačítko nebo zadá vlastní zprávu přes Chat Input, workflow pokračuje následovně:

1. Rozšíření dotazu: Uživatelský vstup je parafrázován do několika verzí, aby se maximalizovala šance na získání relevantních výsledků vyhledávání.

2. Google Search: Rozšířené dotazy jsou odeslány do Google Search. Ve výchozím nastavení je vyhledávání omezeno na specifickou doménu (nastaveno polem query_prefix, např. site: www.VASEDOMENA.cz), což vám umožní zaměřit znalosti chatbota na váš vlastní web nebo důvěryhodný zdroj.

3. URL Retriever: Workflow načte obsah nejlepších výsledků vyhledávání (URL) jako plné dokumenty.

4. Sestavení promptu: Získaný obsah, uživatelský vstup a historie chatu jsou zkombinovány pomocí komponenty Prompt Template pro vytvoření bohatého kontextu pro odpověď.

5. Generování pomocí jazykového modelu: Prompt je zaslán do OpenAI LLM, který vygeneruje srozumitelnou a kontextově relevantní odpověď.

6. Výstup odpovědi: Vygenerovaná odpověď je zobrazena uživateli prostřednictvím Chat Output.

Ukázkový scénář použití

• Uživatel otevře chat: Objeví se uvítací zpráva a tři tlačítka s příkladovými dotazy.
• Uživatel klikne na “kdy je den matek 2024?”: Otázka se ihned zobrazí ve výstupu chatu (pro okamžitou zpětnou vazbu).
• Workflow projde rozšířením dotazu, vyhledáváním, získáním obsahu, sestavením promptu a generováním odpovědi pomocí LLM, poté zobrazí odpověď.

Proč je tento workflow užitečný

• Aktuální znalosti: Chatbot dokáže odpovídat na otázky s využitím nejnovějších informací z internetu nebo vaší preferované domény.
• Omezení na doménu: Úpravou query_prefix zajistíte, že chatbot čerpá informace pouze z vašeho důvěryhodného webu nebo znalostní báze, což zvyšuje spolehlivost odpovědí.
• Kontextová povědomost: Zahrnutím historie chatu a získaného obsahu do promptu lze odpovědi personalizovat a udržet relevantní kontext během vícekrokových konverzací.
• Škálovatelnost a automatizace: Modulární design umožňuje workflow snadno rozšiřovat či přizpůsobovat pro různé domény, což podporuje nasazení ve velkém měřítku napříč různými tématy nebo weby.
• Uživatelský zážitek: Rychlá tlačítka a okamžitá zpětná vazba činí chatbota přívětivým pro koncové uživatele.

Shrnutí workflow v tabulce

Přizpůsobení

• Pro zaměření chatbota na vaši doménu upravte pole query_prefix v komponentě Google Search (např. site: www.VASEDOMENA.cz).
• Přidejte či změňte příkladové dotazy pomocí komponent Button Widget pro personalizovanější uživatelský zážitek.

Ideální scénáře použití

• Chatboti zákaznické podpory, kteří vždy odpovídají na základě aktuální dokumentace nebo webového obsahu.
• Interní znalostní asistenti omezení na intranet či portál vaší společnosti.
• Jakýkoli chatbot, který musí vždy citovat nebo se spoléhat na externí, autoritativní zdroje (např. z důvodu souladu či přesnosti).

Automatizací procesu vyhledávání, získávání a generování odpovědí tento workflow šetří čas potřebný na ruční rešerši a zajišťuje, že uživatelé vždy dostanou co nejaktuálnější a nejrelevantnější informace.