Chatbot RAG v reálnom čase špecializovaný na doménu
Chatbot v reálnom čase, ktorý využíva Google Search obmedzený na vašu vlastnú doménu, získava relevantný webový obsah a využíva OpenAI LLM na zodpovedanie otázok používateľov s aktuálnymi informáciami. Ideálny na poskytovanie presných, špecializovaných odpovedí v zákazníckej podpore alebo informačných portáloch.
Ako funguje AI Flow
Zadanie otázky používateľom
Zachytáva otázky používateľov cez chat alebo preddefinované tlačidlá.Rozšírenie otázky
Parafrázuje a rozširuje otázku používateľa na zlepšenie presnosti vyhľadávania.Google vyhľadávanie pre špecifickú doménu
Vykonáva Google vyhľadávanie obmedzené na určenú doménu pomocou rozšírených dopytov.Získavanie webového obsahu
Načíta obsah z najrelevantnejších URL vrátených vyhľadávačom.Generovanie odpovede LLM
Používa OpenAI LLM na vygenerovanie finálnej odpovede obohatenej o kontext, ktorá sa zobrazí používateľovi.Prompty použité v tomto flow
Nižšie je kompletný zoznam všetkých promptov použitých v tomto flow na dosiahnutie jeho funkcionality. Prompty sú inštrukcie dané AI modelu na generovanie odpovedí alebo vykonávanie akcií. Vedú AI v porozumení zámeru používateľa a generovaní relevantných výstupov.
Komponenty použité v tomto flow
Nižšie je kompletný zoznam všetkých komponentov použitých v tomto flow na dosiahnutie jeho funkcionality. Komponenty sú stavebnými prvkami každého AI Flow. Umožňujú vytvárať komplexné interakcie a automatizovať úlohy prepájaním rôznych funkcionalít. Každý komponent slúži na špecifický účel, ako napríklad spracovanie vstupu používateľa, spracovanie dát alebo integrácia s externými službami.
Opis flow
Účel a výhody
Prehľad
Tento workflow implementuje jednoduchý chatbot typu Retrieval-Augmented Generation (RAG), ktorý využíva vyhľadávanie Google v reálnom čase na získavanie aktuálnych informácií z internetu – konkrétne ho možno prispôsobiť tak, aby boli všetky vyhľadávania obmedzené na konkrétnu doménu. Hlavným cieľom je vytvoriť chatbot, ktorý dokáže odpovedať na otázky používateľov pomocou najrelevantnejšieho a najnovšieho obsahu dostupného online, čo je veľmi užitočné v situáciách, kde statické databázy znalostí nestačia.
Kľúčové komponenty a priebeh
Workflow je zložený z viacerých modulárnych blokov, z ktorých každý predstavuje špecifickú funkcionalitu. Nižšie je rozpis štruktúry a funkčnosti workflowu:
| Komponent | Úloha |
|---|---|
| Chat Input | Prijíma otázky používateľov a chat správy. |
| Chat History | Uchováva históriu konverzácie pre kontextové odpovede. |
| Query Expansion | Parafrázuje zadanie používateľa do viacerých alternatívnych otázok na zlepšenie pokrytia vyhľadávania. |
| Google Search | Vykonáva vyhľadávanie na Google, obmedzené nastaviteľným prefixom domény. |
| URL Retriever | Extrahuje obsah z URL vrátených Google vyhľadávačom. |
| Prompt Template | Štruktúruje kontext, zadanie používateľa a históriu pre jazykový model. |
| OpenAI LLM | Generuje odpovede pomocou jazykového modelu (napr. GPT-3/4). |
| Generator | Vyzýva LLM s promptom a kontextom na vytvorenie odpovede. |
| Chat Output | Zobrazuje odpovede chatbota používateľovi. |
| Button Widgets | Poskytuje rýchle príkladové otázky, ktoré používateľ môže vyskúšať jedným kliknutím. |
| Chat Opened Trigger | Inicializuje konverzáciu a pripravuje rýchle tlačidlá na začatie chatu. |
Ako workflow funguje
Keď používateľ otvorí chat, aktivuje sa Chat Opened Trigger. Ten inicializuje chatovacie rozhranie a zobrazí niekoľko Button Widgets s príkladovými otázkami (napr. “what dinosaur has 500 teeth?”). Keď používateľ klikne na tlačidlo alebo zadá vlastnú správu cez Chat Input, workflow pokračuje nasledovne:
Query Expansion: Zadanie používateľa je parafrázované do viacerých verzií, aby sa maximalizovala šanca na získanie relevantných výsledkov vyhľadávania.
Google Search: Rozšírené dopyty sú odoslané do Google vyhľadávača. Štandardne je vyhľadávanie obmedzené na konkrétnu doménu (nastavuje sa cez pole
query_prefix, napr.site: www.VASADOMENA.com), čo umožňuje sústrediť znalosti chatbota na váš web alebo iný dôveryhodný zdroj.URL Retriever: Workflow získa obsah najlepších výsledkov vyhľadávania (URL) ako plné dokumenty.
Prompt Assembly: Získaný obsah, zadanie používateľa a história chatu sa skombinujú pomocou komponentu Prompt Template na zabezpečenie bohatého kontextu pre odpoveď.
Language Model Generation: Prompt je odoslaný do OpenAI LLM, ktorý vygeneruje koherentnú a kontextuálne relevantnú odpoveď.
Response Output: Vygenerovaná odpoveď sa zobrazí používateľovi cez Chat Output.
Ukážkový priebeh použitia
- Používateľ otvorí chat: Zobrazí sa uvítacia správa a tri príkladové tlačidlá s otázkami.
- Používateľ klikne na “when is mother’s day 2024?”: Otázka sa okamžite zobrazí v chat výstupe (pre rýchlu spätnú väzbu).
- Workflow následne prejde rozšírením dopytu, vyhľadávaním, získaním obsahu, vytvorením promptu a generovaním odpovede cez LLM, ktorá sa potom zobrazí.
Prečo je tento workflow užitočný
- Aktuálne znalosti v reálnom čase: Chatbot dokáže odpovedať na otázky na základe najnovších informácií dostupných na internete alebo v zvolenej doméne.
- Obmedzenie na doménu: Úpravou
query_prefixmôžete zabezpečiť, že chatbot čerpá informácie iba z vášho dôveryhodného webu alebo databázy, čím zvyšujete spoľahlivosť odpovedí. - Kontextová inteligencia: Pridaním histórie chatu a získaného obsahu do promptu môžu byť odpovede prispôsobené a relevantné aj pri viacotáčkových konverzáciách.
- Škálovateľnosť a automatizácia: Modulárny dizajn umožňuje workflow jednoducho rozširovať alebo prispôsobovať pre rôzne domény, čo podporuje veľké nasadenie naprieč témami alebo webmi.
- Používateľský zážitok: Rýchle tlačidlá a okamžitá spätná väzba robia chatbota prístupným pre koncových používateľov.
Súhrnná tabuľka workflowu
| Krok | Popis |
|---|---|
| Zadanie používateľa | Používateľ napíše otázku alebo klikne na rýchle tlačidlo |
| Query Expansion | Zadanie je parafrázované pre širšie pokrytie vyhľadávania |
| Google Search | Vyhľadávanie sa vykonáva na Google, obmedzené na danú doménu |
| URL Content Retrieval | Získava sa obsah najlepších výsledkov vyhľadávania |
| Prompt Construction | Zadanie používateľa, výsledky vyhľadávania a história chatu sa skompilujú do promptu |
| LLM Generation | OpenAI LLM vygeneruje odpoveď s použitím plného kontextu |
| Output | Odpoveď sa zobrazí používateľovi |
Prispôsobenie
- Ak chcete zamerať chatbota na svoju doménu, upravte pole
query_prefixv komponente Google Search (napr.site: www.VASADOMENA.com). - Pridajte alebo zmeňte príkladové otázky pomocou komponentov Button Widget pre lepší používateľský zážitok.
Ideálne prípady použitia
- Zákaznícke podporné chatboty, ktoré vždy odpovedajú na základe vašej aktuálnej dokumentácie alebo webového obsahu.
- Interní asistenti znalostí obmedzení na intranet alebo podporný portál vašej spoločnosti.
- Akýkoľvek chatbot, ktorý musí vždy citovať alebo sa spoliehať na externé, autoritatívne zdroje (napr. kvôli súladu alebo presnosti).
Automatizáciou procesu vyhľadávania, získavania a generovania odpovedí tento workflow šetrí čas manuálneho vyhľadávania a zabezpečuje, že používatelia vždy dostanú najaktuálnejšie a najrelevantnejšie informácie.
Vytvorme si vlastný AI tím
Pomáhame firmám, ako je tá vaša, vyvíjať inteligentné chatbota, servery MCP, AI nástroje alebo iné typy AI automatizácie na nahradenie ľudí pri opakujúcich sa úlohách vo vašej organizácii.
Zistiť viac
