Den største svakheten med store språkmodeller er deres tendens til å presentere vag, utdatert eller direkte feilaktig informasjon. For å sikre at svarene alltid er oppdaterte og relevante for ditt brukstilfelle, må de generative modellene kobles til riktige kunnskapskilder.

Denne tilnærmingen, kalt Retrieval-Augmented Generation (RAG), forsyner generative modeller med dine egne kunnskapskilder. Innhenter-komponentene, inkludert Dokumentinnhenter, lar deg bruke denne metoden.

Hva er Dokumentinnhenter-komponenten?

Denne komponenten lar chatboten hente kunnskap fra dine egne kilder, og sikrer at informasjonen er relevant, pålitelig og oppdatert. Denne informasjonen hentes direkte fra kildene du har spesifisert i Dokumenter og Tidsplaner. Komponentens rolle er å styre innhentingen.

Inndataforespørsel

Angir forespørselen som brukes til å slå opp relevant informasjon. Den kan enten kobles fra en komponent eller legges inn manuelt. I de fleste tilfeller vil din inndataforespørsel være Chat Input.

Antall dokumenter

Denne innstillingen begrenser hvor mange dokumenter flowen skal hente fra, slik at resultatene forblir relevante og ikke tar for lang tid å generere.

Dokumentkategorier

Denne valgfrie innstillingen lar deg begrense innhentingen til én av kategoriene du har opprettet i Dokumenter-skjermen under Kildekunnskap.

Tidsplaner

Lar deg begrense innhentingen til én av tidsplanene du har spesifisert i Tidsplaner-skjermen under Kildekunnskap.

Terskel

Kildene i kunnskapsdatabasen din vil matche forespørselen i ulik grad. AI rangerer disse etter relevans fra 0 til 1. Denne innstillingen lar deg styre hvor godt utdata må matche forespørselen.

Den eksakte terskelen avhenger av ditt brukstilfelle, men generelt anbefales 0,7–0,8 for svært relevante svar fra et rimelig antall kilder.

Tenk deg at du setter terskelen til 0,6 og har følgende artikler:

• Artikkel A: 0,8
• Artikkel B: 0,65
• Artikkel C: 0,5
• Artikkel D: 0,9

Bare artiklene med en relevansscore over 0,6 blir med i utdataene, altså kun A, B og D.

• En høy terskel, som 0,9, gir svært relevante resultater som matcher forespørselen tett, men det kan bli vanskelig å finne nok dokumenter og noen relevante kan bli utelatt.
• En lav terskel, for eksempel under 0,5, gir informasjon fra flere dokumenter, men øker risikoen for å få med irrelevante data.

Hvordan koble Dokumentinnhenter-komponenten til flowen din

Komponenten har kun ett inndata- og ett utdatahåndtak:

• Inndataforespørsel: Forespørselen kan være en hvilken som helst tekstutdata. Vanlige brukstilfeller er å koble til menneskelig Chat Input eller en Generator.
• Utdata: Utdata fra enhver innhenter-komponent er alltid et Dokument.

Dokument-utdataet inneholder strukturerte data som ikke egner seg for sluttbrukerens chat-utdata. Alle komponenter som tar Dokumenter som inndata, omformer dem til et brukervennlig format. Dette er enten Widget-komponenter eller Dokument til Tekst-omformer.

Hvorfor bruke Dokumentinnhenter?

• Forankring av AI-modeller: Forbedre den faktiske nøyaktigheten og relevansen i AI-svar ved å gi ekte, kontekstuell informasjon fra organisasjonens kunnskapsbase.
• Kontekstuell forsterkning: Forsyn LLM-er eller chatboter med støttedokumenter eller referansemateriell for mer informerte svar.
• Fleksibelt filter: Søket kan finjusteres etter kategori, tidsplan, nettadresse, dokumentstruktur eller metadata, slik at du kun får frem den mest relevante informasjonen.
• Tilpasset utdata: Velg hvor mye innhold som skal hentes, hvordan det skal deles opp, og hvilke metadata som skal inkluderes, noe som gjør det enkelt å tilpasse for videre AI-prosesser eller UI-behov.
• Agentintegrasjon: Med verktøybeskrivelser og navngivning kan komponenten refereres til som et verktøy i agentbaserte arkitekturer.

Eksempler på brukstilfeller

• Retrieval-Augmented Generation (RAG): Gi LLM-er støttedokumenter for å generere nøyaktige, kunnskapsbaserte svar.
• Chatboter og virtuelle assistenter: Hent raskt frem FAQ-er eller policy-dokumenter som svar på spørsmål fra ansatte/kunder.
• Dataforbedring: Hent inn produkt-, forfatter- eller annen metadata for videre AI-basert analyse eller automatisering av arbeidsprosesser.

Eksempel

La oss prøve det nå! Før vi bygger flowen, må vi sørge for at vi har laget relevante Dokumenter eller Tidsplaner. Hvis det ikke finnes noen god kilde, vil chatboten enten beklage at den ikke kan svare.

Steg:

1. Start med Chat Input.
2. Legg til Dokumentinnhenter og koble Chat Input som Inndataforespørsel.
3. Utdataene er et Dokument som må omformes; i dette eksemplet bruker vi Dokument til Tekst.
4. Deretter kobler du til en AI-generator.
5. Nå er du klar til å chatte.

Nå kan flowen vår søke i kildene våre basert på et menneskelig spørsmål, omforme de strukturerte dataene til lesbar tekst og gi det videre til AI for å generere et brukervennlig svar.

Våre kunnskapskilder inneholder en tidsplan satt opp til å hente oppdatert informasjon fra FlowHunts prisside. La oss spørre boten om dette: