Chatbot RAG v reálném čase pro konkrétní doménu
Chatbot v reálném čase, který využívá Google Search omezený na vaši vlastní doménu, získává relevantní webový obsah a pomocí OpenAI LLM odpovídá na dotazy uživa...
4 min čtení
Bez dobrého promptu by všichni boti jednali stejně a často by jejich odpovědi nebyly přesné. Prompt poskytuje jazykovému modelu instrukce a kontext, díky čemuž lépe chápe, jaký typ textu má generovat.
Přehled komponenty Prompt
Komponenta Prompt je navržena pro generování flexibilních šablon promptů pro použití v AI workflow, umožňuje dynamické vkládání proměnných a kontextu. Tato komponenta je obzvlášť užitečná v konverzačních AI scénářích, jako jsou chatboti nebo virtuální asistenti, kde je tvorba adaptivních a kontextově citlivých promptů zásadní.
Co komponenta dělá?
Komponenta Prompt vytváří šablonu promptu, která může zahrnovat různé dynamické proměnné, jako je vstup uživatele, historie chatu, systémové instrukce a kontextové zprávy. Využitím těchto proměnných vám komponenta pomáhá strukturovat bohaté a kontextově relevantní prompty, které zlepšují výkon a relevanci navazujících AI modelů či agentů.
Klíčové vlastnosti
- Dynamické šablony: Sestavujte prompty, které automaticky zahrnují dostupné informace jako historii chatu, vstup uživatele a kontext.
- Vlastní proměnné: Podporuje vkládání proměnných jako
{input},{human_input},{context},{chat_history},{system_message}a{all_input_variables}přímo do šablony promptu. - Podpora systémových zpráv: Umožňuje přidání systémových instrukcí k ovlivnění chování AI.
- Znovupoužití ve workflow: Výstup této komponenty lze použít jako vstup pro další komponenty, například LLM (Large Language Models) nebo další zpracování.
Vstupy
Do komponenty Prompt lze zadat následující vstupy:
| Název vstupu | Typ | Povinné | Popis |
|---|---|---|---|
| Historie chatu | InMemoryChatMessageHistory | Ne | Předchozí zprávy v konverzaci. Užitečné pro zachování kontextu nebo generování alternativních dotazů. |
| Kontext | Zpráva | Ne | Dodatečné kontextové informace, které budou součástí promptu. |
| Vstup | Zpráva | Ne | Hlavní vstup nebo zpráva uživatele. |
| Systémová zpráva | Řetězec (víceřádkový) | Ne | Systémové instrukce pro vedení chování AI. |
| Šablona | Prompt (víceřádkový) | Ne | Vlastní šablona promptu, podporuje dynamické proměnné pro přizpůsobení. |
Výstupy
- Zpráva:
Komponenta vrací jeden objekt zprávy, který obsahuje sestavený prompt s nahrazenými dynamickými proměnnými jejich hodnotami.
| Název výstupu | Typ | Popis |
|---|---|---|
| Zpráva | Zpráva | Vygenerovaný prompt, připravený pro použití v navazujících AI komponentách. |
Příklady použití
- Konverzační AI: Automaticky generujte prompty pro chatboty na základě vstupu uživatele, historie konverzace a dalšího kontextu.
- Retrieval-Augmented Generation: Přizpůsobte prompty pro úlohy vyhledávání zahrnutím relevantních minulých interakcí a systémových instrukcí.
- Tuning instrukcí: Snadno upravujte prompty pro různé úkoly nebo uživatelské persony změnou šablony a systémové zprávy.
Proč použít tuto komponentu?
- Vylepšuje prompt engineering: Snadná správa a aktualizace šablon promptů bez nutnosti pevného zakódování.
- Zvyšuje relevanci AI: Prompt se stává informativnějším a přesnějším díky vkládání kontextu, systémových zpráv a historie.
- Zvyšuje flexibilitu: Podporuje širokou škálu využití od jednoduchých otázek a odpovědí po komplexní, víceotáčkové konverzace.
Souhrnná tabulka
| Funkce | Přínos |
|---|---|
| Vkládání dynamických proměnných | Kontextově citlivé, adaptivní prompty |
| Podpora historie chatu | Zachování návaznosti ve víceotáčkových interakcích |
| Integrace systémové zprávy | Doladění osobnosti nebo instrukcí AI |
| Snadná integrace do workflow | Zjednodušuje tvorbu promptu pro navazující AI |
Tato komponenta je základním nástrojem pro každého, kdo staví sofistikované a kontextově citlivé AI workflow, kde je tvorba kvalitního promptu klíčem k dosažení špičkových výsledků.
Šablona
Toto je pokročilé volitelné nastavení. Můžete vytvářet šablony promptů se specifikovanými proměnnými a plně tak řídit výstup chatu. Například:
Jako zkušený SEO analyzuj obsah URL a navrhni titulek do 65 znaků.— Obsah URL —{input}Úkol: Vygeneruj titulek podobný ostatním s využitím dotazu {human_input}. Neměň {human_input} v novém titulku. NOVÝ TITULEK:
Výchozí šablona promptu vypadá takto:
Jsi AI jazykový model asistent.
Tvým úkolem je vygenerovat odpověď na základě zadaného dotazu.
Pokud je k dispozici kontext, použij jej k vytvoření odpovědi na dotaz INPUT a HUMAN_INPUT.
Formátuj odpověď pomocí markdownu.
ODPOVĚĎ V JAZYCE: {lang}
PROMĚNNÉ:
{"session_start_time": "2025-06-03 07:35:22", "current_page_url": "https://app.flowhunt.io/aistudio/flows/de6c2e2c-d817-4b2f-af2c-12dba3f46870?ws=74be5f74-d7c5-4076-839d-8ac1771a3b75"}
VSTUP: {input}
ODPOVĚĎ:
Výchozí prompt kopíruje stejnou strukturu jako nastavení komponenty. Nastavení můžete přepsat úpravou a použitím proměnných v poli šablony. Vytvoření vlastních šablon vám dává větší kontrolu nad výstupem.
Jak propojit komponentu Prompt do vašeho flow
Prompt je volitelná komponenta, která dále upravuje a specifikuje finální výstup. Potřebuje propojit několik komponent:
- Historie chatu: Propojení historie chatu není povinné, ale často přínosné. Zapamatování předchozích zpráv činí budoucí odpovědi relevantnějšími.
- Kontext: Jakýkoliv smysluplný textový výstup může sloužit jako kontext. Nejčastěji se propojuje znalost získaná z retrieverů.
- Vstup: Zde lze připojit pouze komponentu Chat Input.
Výstup této komponenty je text, který lze propojit s různými komponentami. Nejčastěji následuje okamžité propojení s komponentou Generator, čímž prompt předáváte LLM.
Příklad
Vytvořme velmi jednoduchého bota. Navážeme na příklad bota středověkého rytíře z dřívějška. I když jeho řeč působí legračně, jeho hlavním posláním je být nápomocným zákaznickým botem a chceme, aby poskytoval relevantní informace.
Položme našemu botovi typickou otázku zákaznické podpory. Zeptáme se na cenu URLsLab. Pro úspěšnou odpověď musíme:
- Dát mu kontext: Pro účely tohoto příkladu použijeme komponentu URL retriever, která mu poskytne stránku se všemi potřebnými informacemi.
- Připojit vstup: Vstupem je vždy lidská zpráva z komponenty Chat Input.
- Historie chatu: Je volitelná, ale v tomto případě ji připojíme.
- Šablona: Prompt ponecháme jako „Jsi nápomocný zákaznický bot, který mluví jako středověký rytíř.“. Prompty mohou být mnohem propracovanější. Inspiraci najdete v naší knihovně promptů.
- Přidat Generator: Chceme, aby bot měl konverzační schopnosti. K tomu propojte Generator. Prompt slouží jako vstup pro generátor.
Výsledný flow bude vypadat přibližně takto:
Je čas otestovat znalosti našeho rytířského bota. URL, kterou jsme mu dali, je stránka s ceníkem URLsLab. Zeptejme se tedy na ni:
Náš bot nyní používá pompézní starodávný jazyk při odpovědích na základní dotazy. Důležitější však je, že bot důsledně plní svou hlavní roli nápomocného zákaznického bota. A v neposlední řadě úspěšně využívá informace ze zadané URL.
