Den största nackdelen med stora språkmodeller är deras tendens att presentera vag, föråldrad eller rent av felaktig information. För att säkerställa att svaren alltid är aktuella och relevanta för ditt användningsområde, måste generativa modeller riktas mot rätt kunskapskällor.

Denna metod, kallad Retrieval-Augmented Generation (RAG), förser generativa modeller med dina egna kunskapskällor. Hämtarkomponenterna, inklusive Dokumenthämtaren, gör det möjligt att använda denna metod.

Vad är komponenten Dokumenthämtare?

Den här komponenten gör det möjligt för chatboten att hämta kunskap från dina egna källor och säkerställa att informationen är relevant, tillförlitlig och uppdaterad. Denna information hämtas direkt från de källor du har angett i Dokument och Scheman. Komponentens roll är att styra hämtningen.

Indatofråga

Anger frågan som används för att slå upp relevant information. Den kan antingen länkas från en komponent eller matas in manuellt. I de flesta fall är din indatofråga Chat Input.

Antal dokument

Denna inställning begränsar hur många dokument flödet ska hämta från, så att resultaten förblir relevanta och inte tar för lång tid att generera.

Dokumentkategorier

Denna valfria inställning låter dig begränsa hämtningen till en av de kategorier du har skapat på Dokument-sidan i Kunskapskällor.

Scheman

Låter dig begränsa hämtningen till ett av de scheman du har specificerat på sidan Scheman i Kunskapskällor.

Tröskelvärde

Källorna i din kunskapsdatabas matchar frågan i varierande grad. AI rangordnar dessa efter relevans från 0 till 1. Med denna inställning kan du styra hur väl resultatet måste matcha frågan.

Det exakta tröskelvärdet beror på ditt användningsområde, men generellt rekommenderas 0,7-0,8 för mycket relevanta svar från ett rimligt antal källor.

Tänk dig att du sätter tröskelvärdet till 0,6 och har följande artiklar:

• Artikel A: 0,8
• Artikel B: 0,65
• Artikel C: 0,5
• Artikel D: 0,9

Endast artiklar med en relevanspoäng över 0,6 kommer med i resultatet, det vill säga endast A, B och D.

• Ett högt tröskelvärde, till exempel 0,9, ger mycket relevanta resultat som ligger nära frågan, men det kan bli svårt att hitta tillräckligt många dokument och vissa relevanta kan missas.
• Ett lågt tröskelvärde, till exempel under 0,5, ger information från fler dokument, men risken är att irrelevant information också kommer med.

Hur kopplar man komponenten Dokumenthämtare till ditt flöde

Komponenten har endast ett indata- och ett utdatahandtag:

• Indatofråga: Frågan kan vara vilken textutgång som helst. Vanliga användningsområden är att koppla mänsklig Chat Input eller en Generator.
• Utdata: Utdata från en hämtarkomponent är alltid ett Dokument.

Dokument-utdata innehåller strukturerad data som inte lämpar sig för slutlig chatutmatning. Alla komponenter som tar Dokument som indata omvandlar dem till ett användarvänligt format. Dessa är antingen Widget-komponenter eller Dokument till Text-transformatorn.

Varför använda Dokumenthämtaren?

• Grundar AI-modeller: Förbättra den faktabaserade noggrannheten och relevansen i AI-utdata genom att tillhandahålla verklig, kontextuell information från din organisations kunskapsbas.
• Kontextuell förstärkning: Förse LLM:er eller chatbottar med stödjande dokument eller referensmaterial för mer informerade svar.
• Flexibel filtrering: Sökningen kan finjusteras efter kategori, schema, webbadress, dokumentstruktur eller metadata, så att endast den mest relevanta informationen visas.
• Anpassad utdata: Välj hur mycket innehåll som ska hämtas, hur det ska delas upp och vilken metadata som ska inkluderas, vilket gör det enkelt att anpassa för vidare AI-processer eller gränssnitt.
• Agentintegration: Med verktygsbeskrivningar och namn kan komponenten refereras till som ett verktyg i agentbaserade arkitekturer.

Exempel på användningsområden

• Retrieval-Augmented Generation (RAG): Ge LLM:er stödjande dokument för att generera korrekta, kunskapsbaserade svar.
• Chatbottar och virtuella assistenter: Snabbt visa vanliga frågor eller policydokument som svar på medarbetares/kunders frågor.
• Databerikning: Hämta in produkt-, författar- eller annan metadata för vidare AI-styrd analys eller arbetsflödesautomation.

Exempel

Låt oss prova nu! Innan vi bygger flödet måste vi säkerställa att vi har skapat relevanta Dokument eller Scheman. Om ingen bra källa finns kommer chatboten att be om ursäkt för att den inte kan svara.

Steg:

1. Börja med Chat Input.
2. Lägg till Dokumenthämtare och koppla Chat Input som Indatofråga.
3. Utdata är ett Dokument som behöver omvandlas; i detta exempel använder vi Dokument till Text.
4. Koppla därefter en AI-generator.
5. Nu är du redo att chatta.

Nu kan vårt Flöde söka bland våra källor baserat på en mänsklig fråga, omvandla den strukturerade datan till läsbar text och skicka den till AI:n för att generera ett användarvänligt svar.

Våra kunskapskällor innehåller ett schema som är inställt på att skanna FlowHunts prissättningssida för uppdaterad information. Låt oss fråga boten om detta: