Vyhľadávač dokumentov

Najväčším nedostatkom veľkých jazykových modelov je ich tendencia prezentovať nejasné, zastarané alebo dokonca nepravdivé informácie. Aby boli odpovede vždy aktuálne a relevantné pre váš prípad použitia, je potrebné generatívne modely nasmerovať na správne zdroje poznatkov.

Tento prístup, nazývaný Retrieval-Augmented Generation (RAG), poskytuje generatívnym modelom vaše vlastné zdroje poznatkov. Komponenty vyhľadávača, vrátane Vyhľadávača dokumentov, vám umožňujú tento spôsob využívať.

Čo je komponent Vyhľadávač dokumentov?

Tento komponent umožňuje chatbotu vyhľadávať poznatky z vašich vlastných zdrojov, čím zaručuje, že informácie sú relevantné, spoľahlivé a aktuálne. Tieto informácie pochádzajú priamo zo zdrojov, ktoré ste zadali v sekciách Dokumenty a Rozvrhy. Úlohou tohto komponentu je riadiť vyhľadávanie.

Vstupný dotaz

Určuje dotaz, ktorý sa použije na vyhľadanie relevantných informácií. Môže byť prepojený z iného komponentu alebo zadaný manuálne. Vo väčšine prípadov bude vaším vstupným dotazom Vstup chatu.

Počet dokumentov

Toto nastavenie obmedzuje počet dokumentov, z ktorých má flow vyhľadávať, aby výsledky zostali relevantné a ich generovanie netrvalo príliš dlho.

Kategórie dokumentov

Toto voliteľné nastavenie umožňuje obmedziť vyhľadávanie len na jednu z kategórií, ktoré ste vytvorili v obrazovke Dokumenty v sekcii Zdroje poznatkov.

Rozvrhy

Umožňuje obmedziť vyhľadávanie len na jeden z rozvrhov, ktoré ste zadali v sekcii Rozvrhy v Zdrojoch poznatkov.

Prahová hodnota

Zdroje vo vašej databáze poznatkov budú s dotazom zhodné v rôznej miere. AI ich zoradí podľa relevantnosti od 0 do 1. Toto nastavenie vám umožní kontrolovať, nakoľko presne musí výstup zodpovedať dotazu.

Presná prahová hodnota závisí od vášho prípadu použitia, všeobecne sa však odporúča 0,7-0,8 pre vysoko relevantné odpovede z rozumného počtu zdrojov.

Predstavte si, že nastavíte prah na 0,6 a máte tieto články:

• Článok A: 0,8
• Článok B: 0,65
• Článok C: 0,5
• Článok D: 0,9

Do výstupu sa dostanú len články s relevantnosťou vyššou ako 0,6, teda A, B a D.

• Vysoký prah, napríklad 0,9, vráti veľmi relevantné výsledky, ktoré presne zodpovedajú dotazu, no môže mať problém nájsť dostatok dokumentov a vynechať niektoré podstatné.
• Nízky prah, napríklad pod 0,5, poskytne informácie z väčšieho počtu dokumentov, no hrozí riziko, že vráti aj irelevantné informácie.

Ako pripojiť komponent Vyhľadávač dokumentov do vášho flow

Komponent obsahuje len jeden vstup a jeden výstup:

• Vstupný dotaz: Dotaz môže byť akýkoľvek textový výstup. Bežné použitie je prepojenie s ľudským Vstupom chatu alebo Generátorom.
• Výstup: Výstup akéhokoľvek komponentu typu vyhľadávač je vždy Dokument.

Výstup Dokument obsahuje štruktúrované dáta nevhodné pre finálny výstup v chate. Všetky komponenty, ktoré prijímajú Dokumenty ako vstup, ich transformujú do používateľsky prívetivého formátu. Sú to buď Widget komponenty alebo transformátor Dokument na Text.

Prečo používať Vyhľadávač dokumentov?

• Ukotvenie AI modelov: Zvýšte faktickú presnosť a relevantnosť AI výstupov poskytovaním skutočných, kontextových informácií z vašej databázy poznatkov.
• Kontextová augmentácia: Poskytnite LLM alebo chatbotom podporné dokumenty či referenčné materiály na informovanejšie odpovede.
• Flexibilné filtrovanie: Vyhľadávanie možno doladiť podľa kategórie, rozvrhu, URL, štruktúry dokumentu alebo metadát, čím zabezpečíte, že sa zobrazia len najrelevantnejšie informácie.
• Vlastný výstup: Vyberte, koľko obsahu sa má načítať, ako ho rozdeliť a ktoré metadáta zahrnúť, čím uľahčíte ďalšie AI spracovanie alebo potreby UI.
• Integrácia s agentmi: Vďaka popisom nástrojov a pomenovaniu môže byť komponent referencovaný ako nástroj v architektúrach založených na agentoch.

Príklady použitia

• Retrieval-Augmented Generation (RAG): Poskytnite LLM podporné dokumenty na generovanie presných, znalosťami podložených odpovedí.
• Chatboty a virtuálni asistenti: Rýchle vyhľadávanie FAQ alebo interných smerníc v reakcii na otázky zamestnancov/zákazníkov.
• Obohatenie dát: Načítajte produktové, autorské alebo iné metadáta na ďalšiu AI analýzu alebo automatizáciu workflowov.

Príklad

Vyskúšajme si to! Pred vytvorením flow je potrebné zabezpečiť, že máme vytvorené relevantné Dokumenty alebo Rozvrhy. Ak nie je k dispozícii vhodný zdroj, chatbot sa ospravedlní, že na otázku nedokáže odpovedať.

Postup:

1. Začnite komponentom Vstup chatu.
2. Pridajte Vyhľadávač dokumentov a prepojte Vstup chatu ako Vstupný dotaz.
3. Výstupom je Dokument, ktorý je potrebné transformovať; v tomto príklade použijeme prevodník Dokument na Text.
4. Ďalej pripojte AI Generátor.
5. Môžete začať chatovať.

Teraz náš Flow dokáže hľadať v našich zdrojoch na základe ľudského dotazu, transformovať štruktúrované dáta do čitateľného textu a odovzdať ich AI na vygenerovanie používateľsky prívetivej odpovede.

Naše Zdroje poznatkov obsahujú rozvrh nastavený na pravidelné prehľadávanie cenovej stránky FlowHunt pre aktuálne informácie. Opýtajme sa bota na túto tému: