Chatbot RAG v reálnom čase špecializovaný na doménu

Prehľad

Tento workflow implementuje jednoduchý chatbot typu Retrieval-Augmented Generation (RAG), ktorý využíva vyhľadávanie Google v reálnom čase na získavanie aktuálnych informácií z internetu – konkrétne ho možno prispôsobiť tak, aby boli všetky vyhľadávania obmedzené na konkrétnu doménu. Hlavným cieľom je vytvoriť chatbot, ktorý dokáže odpovedať na otázky používateľov pomocou najrelevantnejšieho a najnovšieho obsahu dostupného online, čo je veľmi užitočné v situáciách, kde statické databázy znalostí nestačia.

Kľúčové komponenty a priebeh

Workflow je zložený z viacerých modulárnych blokov, z ktorých každý predstavuje špecifickú funkcionalitu. Nižšie je rozpis štruktúry a funkčnosti workflowu:

Ako workflow funguje

Keď používateľ otvorí chat, aktivuje sa Chat Opened Trigger. Ten inicializuje chatovacie rozhranie a zobrazí niekoľko Button Widgets s príkladovými otázkami (napr. “what dinosaur has 500 teeth?”). Keď používateľ klikne na tlačidlo alebo zadá vlastnú správu cez Chat Input, workflow pokračuje nasledovne:

1. Query Expansion: Zadanie používateľa je parafrázované do viacerých verzií, aby sa maximalizovala šanca na získanie relevantných výsledkov vyhľadávania.

2. Google Search: Rozšírené dopyty sú odoslané do Google vyhľadávača. Štandardne je vyhľadávanie obmedzené na konkrétnu doménu (nastavuje sa cez pole query_prefix, napr. site: www.VASADOMENA.com), čo umožňuje sústrediť znalosti chatbota na váš web alebo iný dôveryhodný zdroj.

3. URL Retriever: Workflow získa obsah najlepších výsledkov vyhľadávania (URL) ako plné dokumenty.

4. Prompt Assembly: Získaný obsah, zadanie používateľa a história chatu sa skombinujú pomocou komponentu Prompt Template na zabezpečenie bohatého kontextu pre odpoveď.

5. Language Model Generation: Prompt je odoslaný do OpenAI LLM, ktorý vygeneruje koherentnú a kontextuálne relevantnú odpoveď.

6. Response Output: Vygenerovaná odpoveď sa zobrazí používateľovi cez Chat Output.

Ukážkový priebeh použitia

• Používateľ otvorí chat: Zobrazí sa uvítacia správa a tri príkladové tlačidlá s otázkami.
• Používateľ klikne na “when is mother’s day 2024?”: Otázka sa okamžite zobrazí v chat výstupe (pre rýchlu spätnú väzbu).
• Workflow následne prejde rozšírením dopytu, vyhľadávaním, získaním obsahu, vytvorením promptu a generovaním odpovede cez LLM, ktorá sa potom zobrazí.

Prečo je tento workflow užitočný

• Aktuálne znalosti v reálnom čase: Chatbot dokáže odpovedať na otázky na základe najnovších informácií dostupných na internete alebo v zvolenej doméne.
• Obmedzenie na doménu: Úpravou query_prefix môžete zabezpečiť, že chatbot čerpá informácie iba z vášho dôveryhodného webu alebo databázy, čím zvyšujete spoľahlivosť odpovedí.
• Kontextová inteligencia: Pridaním histórie chatu a získaného obsahu do promptu môžu byť odpovede prispôsobené a relevantné aj pri viacotáčkových konverzáciách.
• Škálovateľnosť a automatizácia: Modulárny dizajn umožňuje workflow jednoducho rozširovať alebo prispôsobovať pre rôzne domény, čo podporuje veľké nasadenie naprieč témami alebo webmi.
• Používateľský zážitok: Rýchle tlačidlá a okamžitá spätná väzba robia chatbota prístupným pre koncových používateľov.

Súhrnná tabuľka workflowu

Prispôsobenie

• Ak chcete zamerať chatbota na svoju doménu, upravte pole query_prefix v komponente Google Search (napr. site: www.VASADOMENA.com).
• Pridajte alebo zmeňte príkladové otázky pomocou komponentov Button Widget pre lepší používateľský zážitok.

Ideálne prípady použitia

• Zákaznícke podporné chatboty, ktoré vždy odpovedajú na základe vašej aktuálnej dokumentácie alebo webového obsahu.
• Interní asistenti znalostí obmedzení na intranet alebo podporný portál vašej spoločnosti.
• Akýkoľvek chatbot, ktorý musí vždy citovať alebo sa spoliehať na externé, autoritatívne zdroje (napr. kvôli súladu alebo presnosti).

Automatizáciou procesu vyhľadávania, získavania a generovania odpovedí tento workflow šetrí čas manuálneho vyhľadávania a zabezpečuje, že používatelia vždy dostanú najaktuálnejšie a najrelevantnejšie informácie.