Prompt-komponent i FlowHunt

Uden en god prompt ville alle bots opføre sig ens og ofte ramme ved siden af med deres svar. Prompts giver sprogsmodellen instruktioner og kontekst og hjælper den med at forstå, hvilken type tekst den skal producere.

Oversigt over Prompt-komponenten

Prompt-komponenten er designet til at generere fleksible prompt-skabeloner til brug i AI-workflows, hvor dynamisk indsættelse af variabler og kontekst er mulig. Denne komponent er særligt nyttig i konversationelle AI-scenarier, såsom chatbots eller virtuelle assistenter, hvor det er essentielt at skabe tilpasningsdygtige og kontekstbevidste prompts.

Hvad gør komponenten?

Prompt-komponenten opretter en prompt-skabelon, der kan indeholde forskellige dynamiske variabler, såsom brugerinput, chat-historik, systeminstruktioner og kontekstbeskeder. Ved at udnytte disse variabler hjælper komponenten dig med at strukturere fyldige og kontekstfølsomme prompts, der forbedrer ydeevnen og relevansen af efterfølgende AI-modeller eller agenter.

Nøglefunktioner

• Dynamiske skabeloner: Byg prompts, der automatisk inkluderer tilgængelig information som chat-historik, brugerinput og kontekst.
• Brugerdefinerede variabler: Understøtter indsættelse af variabler såsom {input}, {human_input}, {context}, {chat_history}, {system_message} og {all_input_variables} direkte i prompt-skabelonen.
• Systembesked-understøttelse: Giver mulighed for at tilføje systemniveau-instruktioner, der påvirker AI-adfærden.
• Kan genbruges i workflows: Outputtet fra denne komponent kan bruges som input til andre komponenter, såsom LLM’er (Large Language Models) eller viderebehandlingstrin.

Inputs

Følgende inputs kan gives til Prompt-komponenten:

Outputs

• Besked:
  Komponenten outputter et enkelt beskedobjekt, der indeholder den konstruerede prompt, hvor alle dynamiske variabler er erstattet med deres tilsvarende værdier.

Eksempler på brugsscenarier

• Konversationel AI: Generér automatisk prompts til chatbots baseret på brugerinput, samtalehistorik og yderligere kontekst.
• Retrieval-Augmented Generation: Tilpas prompts til søgeopgaver ved at inkludere relevante tidligere interaktioner og systeminstruktioner.
• Instruction Tuning: Tilpas let prompts til forskellige opgaver eller brugerpersonas ved at justere skabelonen og systembeskeden.

Hvorfor bruge denne komponent?

• Forbedrer prompt engineering: Håndtér og opdatér prompt-skabeloner uden at skulle skrive kode.
• Øger AI-relevans: Ved at indsætte kontekst, systembeskeder og historik bliver prompts mere informative og præcise.
• Øget fleksibilitet: Understøtter en bred vifte af brugsscenarier, fra simple spørgsmål og svar til komplekse, flerledede samtaler.

Oversigtstabel

Denne komponent er et grundlæggende værktøj for alle, der bygger avancerede, kontekstfølsomme AI-workflows, hvor prompt-konstruktion er nøglen til at opnå resultater af høj kvalitet.

Skabelon

Dette er en avanceret, valgfri indstilling. Du kan oprette prompt-skabeloner med angivne variabler for fuldt ud at kontrollere chat-outputtet. For eksempel:

Som en dygtig SEO, analyser indholdet af URL’en og find på en titel på op til 65 tegn.— Indhold af URL —{input}Opgave: Generér en titel, der ligner andre, ved at bruge {human_input}-forespørgslen. Ændr ikke {human_input} i den nye titel. NY TITEL:

Standard prompt-skabelonen ser således ud:

Du er en AI sprogsmodel-assistent.
Din opgave er at generere et svar baseret på input-forespørgslen.
Hvis der gives kontekst, brug den til at generere svaret på INPUT og HUMAN_INPUT forespørgslen.
Formater svaret med markdown.

SVAR PÅ SPROG: {lang}
VARIABLER:
{"session_start_time": "2025-06-03 07:35:22", "current_page_url": "https://app.flowhunt.io/aistudio/flows/de6c2e2c-d817-4b2f-af2c-12dba3f46870?ws=74be5f74-d7c5-4076-839d-8ac1771a3b75"}
INPUT: {input}

SVAR:

Standard prompten kopierer samme struktur som komponentens indstillinger. Du kan tilsidesætte indstillingerne ved at ændre og bruge variablerne i skabelon-feltet. Ved at skabe dine egne skabeloner får du større kontrol over output.

Sådan forbinder du Prompt-komponenten til dit flow

Prompten er en valgfri komponent, der yderligere modificerer og specificerer det endelige output. Den kræver, at flere komponenter forbindes:

• Chat-historik: Det er ikke nødvendigt at forbinde chat-historik, men det er ofte nyttigt. At huske tidligere beskeder gør fremtidige svar mere relevante.
• Kontekst: Enhver meningsfuld tekst kan bruges som kontekst. Den mest almindelige løsning er at forbinde viden fra retrievers.
• Input: Kun Chat Input-komponenten kan forbindes her.

Denne komponents output er tekst, der kan forbindes til forskellige komponenter. Oftest følger du straks op med Generator-komponenten for at forbinde prompten til en LLM.

Eksempel

Lad os lave en meget simpel bot. Vi bygger videre på eksemplet med middelalderridder-botten fra tidligere. Selvom den taler sjovt, er dens hovedopgave at være en hjælpsom kundeservicebot, og vi ønsker, at den leverer relevante oplysninger.

Lad os stille vores bot et typisk spørgsmål til kundeservice. Vi spørger om priserne på URLsLab. For at få et succesfuldt svar skal vi:

• Give den kontekst: I dette eksempel bruger vi URL-retriever-komponenten til at give den en side med alle nødvendige oplysninger.
• Forbind input: Inputtet er altid den menneskelige besked fra Chat Input-komponenten.
• Chat-historik: Det er valgfrit, men lad os forbinde det i dette tilfælde.
• Skabelon: Vi holder prompten, “Du er en hjælpsom kundeservicebot, der taler som en middelalderridder.”. Prompter kan være meget mere udførlige end dette. Se vores prompt-bibliotek for inspiration.
• Tilføj Generator: Vi ønsker, at botten har konversationsevner. For at gøre dette, forbind Generatoren. Prompten fungerer som input til generatoren.

Det resulterende flow vil se nogenlunde sådan ud:

Nu er det tid til at teste viden hos vores middelalderridder-bot. Den URL, vi gav den, er prisoversigten for URLsLab. Så lad os spørge om det:

Vores bot bruger nu højtravende gammeldags sprog for at besvare enkle spørgsmål. Men endnu vigtigere, læg mærke til, hvordan botten holder sig til sin centrale rolle som hjælpsom kundeservicebot. Til sidst bruger den med succes informationen fra den angivne URL.