Brugerdefineret Værn-komponenten fungerer som et intelligent filter i et AI-workflow og sikrer, at brugerinput stemmer overens med specifikke kriterier fastsat af workflow-designeren. Denne komponent udnytter en sprogmodel (LLM) i kombination med en tilpasselig prompt til at validere og styre flowet af samtale eller data.
Hvad komponenten gør
Kernen i Brugerdefineret Værn er at fungere som portvagt for brugerinput. Den bruger en prompt (“Værnprompten”) til at instruere LLM’en om, hvad der anses for acceptabelt indhold. For eksempel begrænser standardprompten samtalerne strengt til sportsemner og blokerer alt uvedkommende eller meningsløst (volapyk) input. Denne mekanisme sikrer, at AI-workflowet forbliver fokuseret og ikke afviger fra sit tiltænkte formål.
Sådan fungerer det
- Komponenten modtager en inputtekst (typisk en brugermeddelelse).
- Den sender dette input sammen med værnprompten til den valgte LLM.
- LLM’en vurderer inputtet ud fra prompten og afgør, om det opfylder kriterierne.
- Afhængigt af resultatet sender komponenten beskeden ud ad én af to ruter: accepteret (true) eller afvist (false).
Inputs
| Navn | Type | Beskrivelse |
|---|---|---|
| LLM | HandleInput | Sprogmodellen, der bruges til at vurdere og håndhæve værnet. |
| Værnprompt | PromptInput | Instruktionen til LLM’en om, hvilket indhold der er tilladt. |
| Inputtekst | Meddelelse | Brugerens besked eller indhold, der skal valideres. |
- LLM: Vælg den model, du ønsker som værn. Dette giver fleksibilitet til at bruge forskellige LLM’er, der passer til dine behov.
- Værnprompt: Tilpas hvor streng eller lempelig værnet skal være ved at redigere prompten.
- Inputtekst: Den faktiske tekst, der skal valideres.
Outputs
| Navn | Type | Beskrivelse |
|---|---|---|
| True Route | Meddelelse | Output, hvis inputteksten består værntjekket (dvs. opfylder kriterierne). |
| False Route | Meddelelse | Output, hvis inputteksten ikke opfylder kriterierne og bliver filtreret fra/afvist. |
- True Route: Når inputtet overholder værnet, sendes det videre gennem denne output til videre behandling.
- False Route: Hvis inputtet er uden for emnet eller ikke består tjekket, sendes det gennem denne output, så du kan håndtere det anderledes (f.eks. sende en advarsel eller bede om præcisering).
Hvorfor bruge denne komponent?
- Kvalitetskontrol: Håndhæv strenge emnegrænser eller indholdsregler i dine AI-applikationer.
- Sikkerhed og relevans: Forhindr AI i at svare på uvedkommende, irrelevante eller upassende indhold.
- Tilpasningsbar håndhævelse: Ændr nemt værnprompten, så den afspejler ændrede krav eller politikker.
- Sømløs integration: Fungerer med forskellige LLM’er og accepterer fleksibel input/output-routing i dit workflow.
Anvendelsesmuligheder
- Moderering af chatbots, så de holder sig til emnet (f.eks. kundesupport, undervisningsbots).
- Filtrering af brugerindhold, før det behandles eller lagres.
- Håndhævelse af overholdelse eller juridiske krav i automatiserede AI-interaktioner.
- Forebyggelse af spam eller volapyk-input, der kan forstyrre workflows.
Ved at integrere Brugerdefineret Værn-komponenten i dit AI-workflow får du detaljeret kontrol over, hvilket indhold der accepteres, hvilket hjælper med at sikre, at dit AI-system opfører sig som ønsket og leverer pålidelige, relevante resultater.