Největší slabinou velkých jazykových modelů je jejich tendence poskytovat vágní, zastaralé nebo dokonce nepravdivé informace. Aby byly odpovědi vždy aktuální a relevantní pro váš konkrétní případ použití, je třeba generativní modely nasměrovat na správné zdroje znalostí.

Tento přístup, nazývaný Retrieval-Augmented Generation (RAG), dodává generativním modelům vaše vlastní znalostní zdroje. Komponenty typu retriever, včetně Vyhledávače dokumentů, vám umožňují tuto metodu využívat.

Co je komponenta Vyhledávač dokumentů?

Tato komponenta umožňuje chatbotovi získávat znalosti z vašich vlastních zdrojů, takže informace jsou relevantní, spolehlivé a aktuální. Tyto informace pocházejí přímo ze zdrojů, které jste zadali v sekci Dokumenty a Plány. Úkolem této komponenty je řídit samotné získávání informací.

Vstupní dotaz

Určuje dotaz, který se použije k vyhledání relevantních informací. Může být napojen z jiné komponenty nebo zadán ručně. Ve většině případů bude vstupním dotazem Chat Input.

Počet dokumentů

Toto nastavení omezuje množství dokumentů, ze kterých má flow získávat informace, aby výsledky zůstaly relevantní a jejich generování netrvalo příliš dlouho.

Kategorie dokumentů

Toto volitelné nastavení umožňuje omezit vyhledávání pouze na jednu z kategorií, které jste vytvořili v sekci Dokumenty ve Zdroje znalostí.

Plány

Umožňuje omezit vyhledávání pouze na jeden z plánů, které jste zadali v sekci Plány ve Zdroje znalostí.

Prahová hodnota

Zdroje ve vaší znalostní databázi budou odpovídat dotazu v různé míře. AI je seřadí podle relevance v rozmezí 0 až 1. Toto nastavení vám umožňuje určit, jak přesně musí výstup odpovídat dotazu.

Přesná prahová hodnota závisí na vašem použití, ale obecně je pro vysoce relevantní odpovědi z rozumného množství zdrojů doporučeno 0,7–0,8.

Představte si, že nastavíte prahovou hodnotu na 0,6 a máte následující články:

• Článek A: 0,8
• Článek B: 0,65
• Článek C: 0,5
• Článek D: 0,9

Do výstupu se dostanou pouze články s hodnotou relevance nad 0,6, tedy pouze A, B a D.

• Vysoká prahová hodnota, například 0,9, vrátí velmi relevantní výsledky, které úzce odpovídají dotazu, ale může mít problém najít dostatek dokumentů a některé relevantní vynechat.
• Nízká prahová hodnota, například pod 0,5, poskytne informace z více dokumentů, ale hrozí vracení irelevantních údajů.

Jak propojit komponentu Vyhledávač dokumentů do vašeho flow

Komponenta obsahuje pouze jeden vstupní a jeden výstupní konektor:

• Vstupní dotaz: Dotaz může být jakýkoli textový výstup. Nejčastější případy použití jsou propojení s lidským Chat Input nebo Generátorem.
• Výstup: Výstup každé komponenty typu retriever je vždy Dokument.

Výstup Dokument obsahuje strukturovaná data, která nejsou vhodná pro finální chat výstup. Všechny komponenty, které přijímají Dokumenty jako vstup, je převádějí do uživatelsky přívětivé podoby. Jsou to buď Widget komponenty, nebo převodník Dokument na Text.

Proč využívat Vyhledávač dokumentů?

• Ukotvení AI modelů: Zvyšte faktickou přesnost a relevanci výstupů AI tím, že poskytnete reálné, kontextuální informace z vaší firemní znalostní báze.
• Kontextová augmentace: Poskytněte LLM nebo chatbotům podpůrné dokumenty či referenční materiály pro fundovanější odpovědi.
• Flexibilní filtrování: Vyhledávání lze jemně ladit podle kategorie, plánu, URL, struktury dokumentu nebo metadat, takže zobrazíte pouze nejrelevantnější informace.
• Vlastní výstup: Zvolte, kolik obsahu získat, jak jej rozdělit a která metadata přidat, což usnadňuje adaptaci pro následné AI procesy nebo potřeby UI.
• Integrace s agenty: Díky popisům nástrojů a pojmenování lze komponentu použít jako nástroj v agentních architekturách.

Příklady použití

• Retrieval-Augmented Generation (RAG): Poskytněte LLM podpůrné dokumenty pro generování přesných, znalostně podložených odpovědí.
• Chatboti a virtuální asistenti: Rychle zobrazujte často kladené dotazy nebo firemní dokumenty v reakci na otázky zaměstnanců/zákazníků.
• Obohacení dat: Připojte produktová, autorská či další metadata pro další AI analýzu nebo automatizaci workflowu.

Příklad

Vyzkoušejte to nyní! Než začnete stavět flow, ujistěte se, že jste vytvořili relevantní Dokumenty nebo Plány. Pokud není k dispozici žádný vhodný zdroj, chatbot se omluví, že nemůže odpovědět.

Postup:

1. Začněte s Chat Input.
2. Přidejte Vyhledávač dokumentů a propojte Chat Input jako Vstupní dotaz.
3. Výstupem je Dokument, který je třeba převést; v tomto příkladu použijeme převodník Dokument na Text.
4. Dále připojte AI Generátor.
5. Můžete začít chatovat.

Nyní může naše Flow vyhledávat v našich zdrojích na základě lidského dotazu, převést strukturovaná data na čitelný text a předat je AI pro vygenerování uživatelsky přívětivé odpovědi.

Naše Zdroje znalostí obsahují Plán, který pravidelně stahuje stránku s ceníkem FlowHunt pro aktuální informace. Zkusme se na to zeptat bota: