Prompt-komponent i FlowHunt

Uten en god prompt ville alle botene oppført seg likt og ofte bommet med svarene sine. Prompter gir instruksjoner og kontekst til språkmodellen, og hjelper den å forstå hva slags tekst den skal produsere.

Oversikt over Prompt-komponenten

Prompt-komponenten er designet for å generere fleksible prompt-maler til bruk i AI-arbeidsflyter, og tillater dynamisk innsetting av variabler og kontekst. Denne komponenten er spesielt nyttig i samtaleorienterte AI-scenarier, som chatboter eller virtuelle assistenter, der det er viktig å lage tilpasningsdyktige og kontekstsensitive prompter.

Hva gjør komponenten?

Prompt-komponenten lager en prompt-mal som kan integrere ulike dynamiske variabler, slik som brukerinput, samtalehistorikk, systeminstruksjoner og kontekstmeldinger. Ved å utnytte disse variablene hjelper komponenten deg å strukturere rike og kontekstsensitive prompter som forbedrer ytelsen og relevansen til nedstrøms AI-modeller eller agenter.

Viktige funksjoner

• Dynamiske maler: Bygg prompter som automatisk inkluderer tilgjengelig informasjon som samtalehistorikk, brukerinput og kontekst.
• Egendefinerte variabler: Støtter innsetting av variabler som {input}, {human_input}, {context}, {chat_history}, {system_message} og {all_input_variables} direkte i prompt-malen.
• Systemmeldingsstøtte: Lar deg legge til systemnivå-instruksjoner for å påvirke AI-oppførsel.
• Gjenbruk i arbeidsflyter: Utdata fra denne komponenten kan brukes som input til andre komponenter, som LLM-er (store språkmodeller) eller videre prosesseringssteg.

Inndata

Følgende inndata kan gis til Prompt-komponenten:

Utdata

• Melding:
  Komponentens utdata er et enkelt meldingsobjekt som inneholder den konstruerte prompten, med alle dynamiske variabler erstattet med sine respektive verdier.

Eksempler på brukstilfeller

• Samtale-AI: Generer automatisk prompter for chatboter basert på brukerinput, samtalehistorikk og tilleggs­kontekst.
• Retrieval-Augmented Generation: Tilpass prompter for gjenfinningsoppgaver ved å inkludere relevante tidligere interaksjoner og systeminstruksjoner.
• Instruction Tuning: Tilpass enkelt prompter for ulike oppgaver eller brukerprofiler ved å justere malen og systemmeldingen.

Hvorfor bruke denne komponenten?

• Forbedrer prompt engineering: Håndter og oppdater prompt-maler enkelt uten hardkoding.
• Bedrer AI-relevans: Ved å injisere kontekst, systemmeldinger og historikk blir prompter mer informative og presise.
• Øker fleksibilitet: Støtter et bredt spekter av brukstilfeller, fra enkel Q&A til komplekse, flerledds samtaler.

Oppsummeringstabell

Denne komponenten er et grunnleggende verktøy for alle som bygger avanserte, kontekstsensitive AI-arbeidsflyter der promptkonstruksjon er nøkkelen til å oppnå resultater av høy kvalitet.

Mal

Dette er en avansert valgfri innstilling. Du kan lage prompt-maler med spesifiserte variabler for å kontrollere chat-utdataene fullt ut. For eksempel:

Som en dyktig SEO, analyser innholdet til URL-en og kom opp med en tittel på opptil 65 tegn.— Innhold på URL —{input}Oppgave: Generer en tittel lik andre ved å bruke {human_input}-spørringen. Ikke endre {human_input} i den nye tittelen. NY TITTEL:

Standard prompt-mal ser slik ut:

Du er en AI-språkmodellassistent.
Din oppgave er å generere svar basert på innspørringen.
Hvis kontekst er gitt, bruk den for å generere svaret til INPUT og HUMAN_INPUT-spørring.
Formater svaret med markdown.

SVAR PÅ SPRÅK: {lang}
VARIABLER:
{"session_start_time": "2025-06-03 07:35:22", "current_page_url": "https://app.flowhunt.io/aistudio/flows/de6c2e2c-d817-4b2f-af2c-12dba3f46870?ws=74be5f74-d7c5-4076-839d-8ac1771a3b75"}
INPUT: {input}

SVAR:

Standardprompten kopierer samme struktur som komponentens innstillinger. Du kan overstyre innstillingene ved å endre og bruke variablene i malfeltet. Å lage egne maler gir deg større kontroll over utdataene.

Slik kobler du Prompt-komponenten til flyten din

Prompten er en valgfri komponent som ytterligere modifiserer og spesifiserer sluttresultatet. Den trenger flere komponenter koblet til seg:

• Chat History: Å koble til samtalehistorikk er ikke påkrevd, men ofte gunstig. Å huske tidligere meldinger gjør fremtidige svar mer relevante.
• Kontekst: All meningsfull tekstutdata kan fungere som kontekst. Det vanligste er å koble til kunnskap fra retrievere.
• Input: Kun Chat Input-komponenten kan kobles her.

Denne komponentens utdata er tekst som kan kobles til ulike komponenter. Som oftest følger du opp direkte med Generator-komponenten for å koble prompten til en LLM.

Eksempel

La oss lage en veldig enkel bot. Vi bygger videre på eksempelet med ridderboten fra tidligere. Selv om den snakker morsomt, er hovedoppdraget å være en hjelpsom kundeservice-bot, og vi ønsker at den skal gi relevant informasjon.

La oss stille boten et typisk kundeservicespørsmål. Vi spør om prisingen til URLsLab. For å få et vellykket svar, må vi:

• Gi den kontekst: I dette eksempelet bruker vi URL-retriever-komponenten for å gi den en side med nødvendig informasjon.
• Koble til input: Input er alltid menneskets melding fra Chat Input-komponenten.
• Chat History: Dette er valgfritt, men vi kobler det til i dette tilfellet.
• Mal: Vi beholder prompten, “Du er en hjelpsom kundeservice-bot som snakker som en middelaldersk ridder.”. Prompter kan være langt mer avanserte. Se vårt prompt-bibliotek for inspirasjon.
• Legg til Generator: Vi vil at boten skal ha samtaleferdigheter. For å gjøre dette kobler vi til Generator. Prompten fungerer som input til generatoren.

Den resulterende flyten vil se omtrent slik ut:

Det er på tide å teste kunnskapen til ridderboten vår. URL-en vi ga er prissiden til URLsLab. Så vi spør om det:

Boten vår bruker nå et høytidelig, gammeldags språk for å svare på enkle spørsmål. Men viktigst av alt, legg merke til hvordan boten holder seg til sin sentrale rolle som en hjelpsom kundeservice-bot. Til slutt bruker den også informasjonen fra den angitte URL-en med hell.