Realtids domänspecifik RAG-chattbot
En chattbot i realtid som använder Google Sök begränsat till din egen domän, hämtar relevant webbinnehåll och utnyttjar OpenAI LLM för att besvara användarfrågo...
4 min läsning
Utan en bra prompt skulle alla bottar agera på samma sätt och ofta missa målet med sina svar. Prompter ger instruktioner och kontext till språkmodellen, vilket hjälper den att förstå vilken typ av text den ska producera.
Översikt av Prompt-komponenten
Prompt-komponenten är utformad för att generera flexibla promptmallar för användning i AI-arbetsflöden, där dynamisk insättning av variabler och kontext är möjlig. Denna komponent är särskilt användbar i konverserande AI-sammanhang, såsom chattbottar eller virtuella assistenter, där det är avgörande att skapa anpassningsbara och kontextmedvetna prompts.
Vad gör komponenten?
Prompt-komponenten skapar en promptmall som kan inkludera olika dynamiska variabler, såsom användarens inmatning, chatt-historik, systeminstruktioner och kontextmeddelanden. Genom att använda dessa variabler hjälper komponenten dig att strukturera rika och kontextkänsliga prompts som förbättrar prestandan och relevansen hos nedströms AI-modeller eller agenter.
Viktiga funktioner
- Dynamiska mallar: Bygg prompts som automatiskt inkluderar tillgänglig information som chatt-historik, användarinmatning och kontext.
- Anpassade variabler: Stöd för insättning av variabler som
{input},{human_input},{context},{chat_history},{system_message}och{all_input_variables}direkt i promptmallen. - Stöd för systemmeddelanden: Möjliggör tillägg av systeminstruktioner för att påverka AI:s beteende.
- Återanvändbar i arbetsflöden: Utdata från denna komponent kan användas som indata till andra komponenter, som LLM:er (Large Language Models) eller ytterligare bearbetningssteg.
Indata
Följande indata kan ges till Prompt-komponenten:
| Indatanamn | Typ | Obligatorisk | Beskrivning |
|---|---|---|---|
| Chatt-historik | InMemoryChatMessageHistory | Nej | Tidigare konversationsmeddelanden. Användbart för att behålla kontext eller generera alternativa frågor. |
| Kontext | Message | Nej | Ytterligare kontextinformation som ska inkluderas i prompten. |
| Inmatning | Message | Nej | Huvudsaklig användarinmatning eller meddelande. |
| Systemmeddelande | String (multirad) | Nej | Systeminstruktioner för att styra AI:s beteende. |
| Mall | Prompt (multirad) | Nej | Den faktiska mallen för prompten, med stöd för dynamiska variabler för anpassning. |
Utdata
- Meddelande:
Komponenten ger ut ett enda meddelandeobjekt som innehåller den konstruerade prompten, där alla dynamiska variabler bytts ut mot sina motsvarande värden.
| Utdatans namn | Typ | Beskrivning |
|---|---|---|
| Meddelande | Message | Den genererade prompten, redo att användas i nedströms AI-komponenter. |
Exempel på användningsområden
- Konverserande AI: Generera automatiskt prompts till chattbottar baserat på användarinmatning, konversationshistorik och ytterligare kontext.
- Retrieval-Augmented Generation: Anpassa prompts för hämtningsuppgifter genom att inkludera relevanta tidigare interaktioner och systeminstruktioner.
- Instruction Tuning: Anpassa enkelt prompts för olika uppgifter eller användarpersonas genom att justera mallen och systemmeddelandet.
Varför använda denna komponent?
- Förbättrar prompt engineering: Hantera och uppdatera promptmallar enkelt utan hårdkodning.
- Förbättrar AI-relevans: Genom att injicera kontext, systemmeddelanden och historik blir prompts mer informativa och precisa.
- Ökar flexibiliteten: Stödjer ett brett urval av användningsfall, från enkla frågor och svar till komplexa, flerstegskonversationer.
Sammanfattande tabell
| Funktion | Fördel |
|---|---|
| Dynamisk variabelinsättning | Kontextmedvetna, anpassningsbara prompts |
| Stöd för chatt-historik | Bibehåller kontinuitet i flerstegskonversationer |
| Systemmeddelande-integration | Finjusterar AI:s personlighet eller instruktioner |
| Enkel integration i arbetsflöden | Effektiviserar promptskapande för nedströms AI |
Denna komponent är ett grundläggande verktyg för alla som bygger avancerade, kontextkänsliga AI-arbetsflöden där promptkonstruktion är nyckeln till högkvalitativa resultat.
Mall
Detta är en avancerad, valfri inställning. Du kan skapa promptmallar med angivna variabler för att helt styra chatutdata. Till exempel:
Som skicklig SEO, analysera innehållet på URL:en och hitta på en titel på upp till 65 tecken.— Innehåll på URL —{input}Uppgift: Generera en titel liknande andra med frågan {human_input}. Ändra inte {human_input} i den nya titeln. NY TITEL:
Standardpromptmallen ser ut så här:
Du är en AI-språkmodellassistent.
Din uppgift är att generera svar baserat på inmatningsfrågan.
Om kontext tillhandahålls, använd den för att generera svaret på INPUT och HUMAN_INPUT-frågan.
Formatera svaret med markdown.
SVARA PÅ SPRÅK: {lang}
VARIABLER:
{"session_start_time": "2025-06-03 07:35:22", "current_page_url": "https://app.flowhunt.io/aistudio/flows/de6c2e2c-d817-4b2f-af2c-12dba3f46870?ws=74be5f74-d7c5-4076-839d-8ac1771a3b75"}
INMATNING: {input}
SVAR:
Standardprompten kopierar samma struktur som komponentens inställningar. Du kan åsidosätta inställningarna genom att ändra och använda variablerna i mallfältet. Genom att skapa egna mallar får du större kontroll över utdata.
Hur du kopplar Prompt-komponenten till ditt flöde
Prompt är en valfri komponent som ytterligare modifierar och specificerar slutresultatet. Den behöver flera komponenter kopplade:
- Chatt-historik: Att koppla chatt-historik är inte ett krav men är ofta fördelaktigt. Att minnas tidigare meddelanden gör framtida svar mer relevanta.
- Kontext: Allt meningsfullt textutdata kan fungera som kontext. Det vanligaste är att koppla kunskap från hämtare.
- Inmatning: Endast Chat Input-komponenten kan kopplas här.
Denna komponents utdata är text som kan kopplas till olika komponenter. Oftast följer du direkt upp med Generator-komponenten för att koppla prompten till en LLM.
Exempel
Låt oss skapa en mycket enkel bot. Vi bygger vidare på exemplet med medeltida riddarboten från tidigare. Även om den pratar roligt är dess huvudsakliga uppdrag att vara en hjälpsam kundtjänstbot, och vi vill att den ska ge relevant information.
Låt oss ställa en typisk kundtjänstfråga till vår bot. Vi frågar om priserna för URLsLab. För att få ett lyckat svar behöver vi:
- Ge den kontext: I det här exemplet använder vi URL-hämtaren för att ge den en sida med all nödvändig information.
- Koppla inmatning: Inmatning är alltid människans meddelande från Chat Input-komponenten.
- Chatt-historik: Det är valfritt, men vi kopplar det för just detta fall.
- Mall: Vi behåller prompten, “Du är en hjälpsam kundtjänstbot som pratar som en medeltida riddare.”. Prompter kan vara mycket mer utförliga än så här. Se vårt promptbibliotek för inspiration.
- Lägg till Generator: Vi vill att boten ska ha konversationsegenskaper. För att göra detta, koppla Generatorn. Prompten fungerar som indata till generatorn.
Det resulterande flödet ser ut ungefär så här:
Nu är det dags att testa vår medeltida riddarbots kunskaper. Den URL vi gav den är prislistan för URLsLab. Så vi frågar om det:
Vår bot använder nu högtidligt gammaldags språk för att svara på enkla frågor. Men ännu viktigare är att boten håller sig till sin centrala roll som hjälpsam kundtjänstbot. Slutligen använder den framgångsrikt informationen från den angivna URL:en.
