Den største udfordring ved store sprogmodeller er deres tendens til at præsentere vage, forældede eller direkte forkerte informationer. For at sikre, at svarene altid er opdaterede og relevante for din brugssituation, skal generative modeller rettes mod de rigtige videnskilder.

Denne tilgang, kaldet Retrieval-Augmented Generation (RAG), forsyner generative modeller med dine egne videnskilder. Retriever-komponenterne, inklusive Dokumenthenteren, gør det muligt at bruge denne metode.

Hvad er Dokumenthenter-komponenten?

Denne komponent gør det muligt for chatbotten at hente viden fra dine egne kilder, hvilket sikrer, at informationen er relevant, pålidelig og opdateret. Disse informationer kommer direkte fra de kilder, du har angivet i Dokumenter og Skemaer. Komponentens rolle er at styre hentningen.

Inputforespørgsel

Angiver den forespørgsel, der bruges til at slå relevant information op. Den kan enten forbindes fra en komponent eller indtastes manuelt. I de fleste tilfælde vil din inputforespørgsel være Chat Input.

Dokumentantal

Denne indstilling begrænser mængden af dokumenter, flowet skal hente fra, så resultaterne forbliver relevante og ikke tager for lang tid at generere.

Dokumentkategorier

Denne valgfrie indstilling lader dig begrænse hentningen til en af de kategorier, du har oprettet på Dokumenter-siden i Videnskilder.

Skemaer

Lader dig begrænse hentningen til et af de Skemaer, du har angivet på Skemaer-siden i Videnskilder.

Tærskelværdi

Kilderne i din vidensdatabase vil matche forespørgslen i varierende grad. AI vurderer disse efter relevans fra 0 til 1. Denne indstilling lader dig styre, hvor godt outputtet skal matche forespørgslen.

Den præcise tærskel afhænger af din brugssituation, men generelt anbefales 0,7-0,8 for meget relevante svar fra et rimeligt antal kilder.

Forestil dig, at du sætter tærsklen til 0,6 og har følgende artikler:

• Artikel A: 0,8
• Artikel B: 0,65
• Artikel C: 0,5
• Artikel D: 0,9

Kun artikler med en relevansscore over 0,6 vil komme med i outputtet, altså kun A, B og D.

• En høj tærskel, såsom 0,9, vil returnere meget relevante resultater, der matcher forespørgslen tæt, men det kan være svært at finde nok dokumenter og nogle relevante kan blive overset.
• En lav tærskel, for eksempel under 0,5, vil give information fra flere dokumenter, men risikerer at returnere irrelevante informationer.

Sådan forbinder du Dokumenthenter-komponenten til dit flow

Komponenten har kun ét input og ét output-håndtag:

• Inputforespørgsel: Forespørgslen kan være ethvert tekstoutput. Almindelige brugssituationer vil være at forbinde Chat Input fra mennesker eller en Generator.
• Output: Outputtet fra enhver retriever-type komponent er altid et Dokument.

Dokument-outputtet indeholder strukturerede data, som ikke egner sig til det endelige chatoutput. Alle komponenter, der tager Dokumenter som input, omdanner dem til et brugervenligt format. Dette er enten Widget-komponenter eller Dokument til Tekst-transformeren.

Hvorfor bruge Dokumenthenter?

• Forankring af AI-modeller: Forbedrer AI-outputtets faktuelle nøjagtighed og relevans ved at levere reel, kontekstuel information fra din organisations vidensbase.
• Kontekstuel udvidelse: Forsyner LLM’er eller chatbots med understøttende dokumenter eller referencemateriale for mere informerede svar.
• Fleksibel filtrering: Søgningen kan finjusteres efter kategori, skema, URL, dokumentstruktur eller metadata, så du kun får vist de mest relevante informationer.
• Tilpasset output: Vælg hvor meget indhold, der skal hentes, hvordan det skal opdeles, og hvilke metadata der skal inkluderes, så det nemt kan tilpasses efterfølgende AI-processer eller UI-behov.
• Agentintegration: Med værktøjsbeskrivelser og navngivning kan komponenten refereres til som et værktøj i agentbaserede arkitekturer.

Eksempler på brugssituationer

• Retrieval-Augmented Generation (RAG): Giver LLM’er understøttende dokumenter til at generere nøjagtige, videnunderbyggede svar.
• Chatbots og virtuelle assistenter: Får hurtigt vist FAQ’er eller politikdokumenter som svar på medarbejder-/kundespørgsmål.
• Data-berigelse: Henter produkt-, forfatter- eller anden metadata til yderligere AI-drevet analyse eller workflow-automatisering.

Eksempel

Lad os prøve det nu! Før vi bygger flowet, skal vi sikre, at vi har oprettet relevante Dokumenter eller Skemaer. Hvis der ikke er nogen god kilde, vil chatbotten enten undskylde for ikke at kunne svare.

Trin:

1. Start med Chat Input.
2. Tilføj Dokumenthenter og forbind Chat Input som Inputforespørgsel.
3. Outputtet er et Dokument, der skal omdannes; i dette eksempel bruger vi Dokument til Tekst.
4. Tilslut derefter en AI Generator.
5. Du er klar til at chatte.

Nu kan vores Flow søge i vores kilder baseret på en menneskelig forespørgsel, omdanne de strukturerede data til læsbar tekst og sende det til AI for at generere et brugervenligt svar.

Vores videnskilder indeholder et Skema, der er sat til at crawle FlowHunt’s prisside for opdateret information. Lad os spørge botten om det: