Rozšírenie dopytu

Rozšírenie dopytu vylepšuje používateľské dopyty pridaním pojmov alebo kontextu, čím zlepšuje vyhľadávanie dokumentov pre presné odpovede. V systémoch RAG zvyšuje recall a relevanciu, pomáha chatbotom a AI poskytovať presné odpovede efektívnym spracovaním nejasných alebo synonymických dopytov.

Rozšírenie dopytu označuje proces vylepšenia pôvodného dopytu používateľa pridaním ďalších pojmov alebo kontextu pred jeho odoslaním vyhľadávaciemu mechanizmu. Toto rozšírenie pomáha vyhľadať relevantnejšie dokumenty alebo informácie, ktoré sa následne použijú na generovanie presnejšej a kontextovo vhodnejšej odpovede. Ak sú dokumenty vyhľadávané pomocou alternatívnych dopytov a následne preusporiadané, proces RAG poskytne oveľa presnejšie výsledky dokumentov v kontextovom okne promptu.

Čo je Retrieval-Augmented Generation (RAG)?

Retrieval-Augmented Generation (RAG) je AI architektúra, ktorá kombinuje vyhľadávacie mechanizmy s generatívnymi modelmi na produkovanie presnejších a kontextovo relevantných odpovedí. V systémoch RAG vyhľadávacia komponenta získava relevantné dokumenty alebo dátové časti z bázy znalostí na základe dopytu používateľa. Generatívny model (často veľký jazykový model alebo LLM) potom využíva tieto získané informácie na vytvorenie zmysluplnej a informatívnej odpovede.

Úloha rozšírenia dopytu v systémoch RAG

Zlepšenie výkonu vyhľadávania

V systémoch RAG kvalita vygenerovanej odpovede silne závisí od relevancie získaných dokumentov. Ak vyhľadávacia komponenta nezíska najpodstatnejšie informácie, generatívny model môže vytvoriť suboptimálne alebo nerelevantné odpovede. Rozšírenie dopytu rieši túto výzvu zlepšením počiatočného dopytu, čím zvyšuje šancu na získanie všetkých relevantných dokumentov.

Zvyšovanie recall

Rozšírením pôvodného dopytu o súvisiace pojmy, synonymá alebo parafrázy rozšírenie dopytu rozširuje priestor vyhľadávania. Tým sa zvyšuje recall vyhľadávacieho systému, čo znamená, že zachytí väčší podiel relevantných dokumentov z bázy znalostí. Vyšší recall vedie k komplexnejšiemu kontextu pre generatívny model a zvyšuje celkovú kvalitu výstupu systému RAG.

Ako sa používa rozšírenie dopytu v systémoch RAG?

Kroky v procese rozšírenia dopytu

1. Prijatie dopytu používateľa: Proces začína pôvodným dopytom používateľa, ktorý môže byť neúplný, nejasný alebo používať špecifickú terminológiu, ktorá sa nezhoduje s dokumentmi v báze znalostí.
2. Generovanie rozšírených dopytov: Systém generuje ďalšie dopyty, ktoré sú významovo podobné pôvodnému. Toto možno dosiahnuť rôznymi technikami vrátane využitia veľkých jazykových modelov (LLM).
3. Vyhľadanie dokumentov: Každý rozšírený dopyt sa použije na vyhľadanie dokumentov v báze znalostí. Výsledkom je väčšia a rôznorodejšia množina potenciálne relevantných dokumentov.
4. Agregácia výsledkov: Získané dokumenty sa agregujú, odstránia sa duplicity a zoradia sa podľa relevancie.
5. Generovanie odpovede: Generatívny model použije agregované dokumenty na vytvorenie konečnej odpovede na dopyt používateľa.

Techniky rozšírenia dopytu

1. Využitie veľkých jazykových modelov (LLM)

LLM ako GPT-4 dokážu generovať významovo podobné dopyty alebo parafrázy pôvodného dopytu. Vďaka porozumeniu kontextu a nuanciám jazyka môžu LLM vytvárať kvalitné rozšírenia, ktoré vystihujú rôzne spôsoby položenia tej istej otázky.

Príklad:

• Pôvodný dopyt: „Dopady klimatických zmien“
• Rozšírené dopyty generované LLM:
  • „Vplyv globálneho otepľovania“
  • „Dôsledky environmentálnych zmien“
  • „Klimatická variabilita a jej účinky“

2. Generovanie hypotetických odpovedí

V tomto prístupe systém vygeneruje hypotetickú odpoveď na dopyt používateľa pomocou LLM. Hypotetická odpoveď sa následne pridá k pôvodnému dopytu a poskytne tak viac kontextu pri vyhľadávaní.

Postup:

• Vygenerovať hypotetickú odpoveď na dopyt.
• Skombinovať pôvodný dopyt a hypotetickú odpoveď.
• Použiť kombinovaný text ako dopyt na vyhľadávanie.

Príklad:

• Pôvodný dopyt: „Aké faktory prispeli k zvýšeniu tržieb?“
• Vygenerovaná hypotetická odpoveď:
  • „Tržby spoločnosti vzrástli vďaka úspešným marketingovým kampaniam, diverzifikácii produktov a expanzii na nové trhy.“
• Kombinovaný dopyt:
  • „Aké faktory prispeli k zvýšeniu tržieb? Tržby spoločnosti vzrástli vďaka úspešným marketingovým kampaniam, diverzifikácii produktov a expanzii na nové trhy.“

3. Prístup s viacerými dopytmi

Táto metóda zahŕňa generovanie viacerých alternatívnych dopytov, ktoré vystihujú rôzne formulácie alebo aspekty pôvodného dopytu. Každý dopyt sa používa samostatne na vyhľadanie dokumentov.

Postup:

• Pomocou LLM vygenerovať viacero podobných dopytov.
• Pre každý dopyt samostatne vyhľadať dokumenty.
• Skombinovať a zoradiť získané dokumenty.

Príklad:

• Pôvodný dopyt: „Hlavné faktory rastu spoločnosti“
• Rozšírené dopyty:
  • „Hlavné dôvody expanzie podniku“
  • „Čo viedlo k zlepšeniu výkonnosti spoločnosti?“
  • „Významní prispievatelia rastu organizácie“

Príklady a použitie

Prípadová štúdia: Zlepšenie RAG pre analýzu výročných správ

Scenár:
AI systém je navrhnutý na zodpovedanie otázok na základe výročnej správy spoločnosti. Používateľ sa pýta: „Bol v manažmente výrazný odchod?“

Implementácia:

1. Generovanie hypotetickej odpovede:
   • Systém vygeneruje hypotetickú odpoveď: „V manažmente bol minimálny odchod, čo zabezpečilo stabilitu a kontinuitu strategických iniciatív.“
2. Rozšírenie dopytu:
   • Hypotetická odpoveď sa skombinuje s pôvodným dopytom do rozšíreného dopytu.
3. Vyhľadanie:
   • Rozšírený dopyt sa použije na vyhľadanie relevantnejších častí výročnej správy týkajúcich sa zmien v manažmente.
4. Generovanie:
   • AI vytvorí presnú odpoveď na základe získaných informácií.

Prínos:
Pridaním kontextu cez hypotetickú odpoveď systém vyhľadá informácie, ktoré by pri pôvodnom dopyte mohli byť prehliadnuté.

Prípadová štúdia: Vylepšenie vyhľadávania v zákazníckych chatbotov

Scenár:
Chatbot zákazníckej podpory pomáha používateľom s riešením problémov. Používateľ napíše: „Internet je pomalý.“

Implementácia:

1. Rozšírenie dopytu pomocou LLM:
   • Generovať rozšírené dopyty:
     • „Zažívam zníženú rýchlosť internetu“
     • „Pomalé pripojenie na internet“
     • „Problémy s latenciou internetu“
2. Vyhľadanie:
   • Každý dopyt vyhľadá články a postupy na riešenie problémov s pomalým internetom.
3. Generovanie odpovede:
   • Chatbot zosumarizuje získané informácie a prevedie používateľa možnými riešeniami.

Prínos:
Chatbot zachytí širší rozsah potenciálnych problémov a riešení, čím zvyšuje šancu na rýchle vyriešenie problému používateľa.

Prípadová štúdia: Asistent pre akademický výskum

Scenár:
Študent používa AI asistenta na vyhľadanie zdrojov k téme: „Vplyv spánkovej deprivácie na kognitívne funkcie.“

Implementácia:

1. Generovanie viacerých dopytov:
   • Vytvoriť podobné dopyty:
     • „Ako ovplyvňuje nedostatok spánku myslenie?“
     • „Kognitívne poruchy spôsobené stratou spánku“
     • „Spánková deprivácia a mentálny výkon“
2. Vyhľadanie:
   • Vyhľadať vedecké práce a články pre každý dopyt.
3. Agregácia a zoradenie:
   • Skombinovať výsledky, uprednostniť najrelevantnejšie a najnovšie štúdie.
4. Generovanie odpovede:
   • AI poskytne zhrnutie zistení a odporučí kľúčové štúdie na preštudovanie.

Prínos:
Študent získa komplexné informácie pokrývajúce rôzne aspekty témy, čo napomáha dôkladnejšiemu výskumu.

Výhody rozšírenia dopytu v systémoch RAG

• Zlepšený recall: Vyhľadávaním väčšieho množstva relevantných dokumentov systém poskytuje lepší kontext na generovanie presných odpovedí.
• Riešenie nejasných dopytov: Rieši problém krátkych alebo nejednoznačných dopytov pridaním kontextu.
• Rozpoznávanie synoným: Zachytáva dokumenty obsahujúce synonymá alebo súvisiace pojmy, ktoré nie sú v pôvodnom dopyte.
• Vylepšený používateľský zážitok: Používatelia dostávajú presnejšie a informatívnejšie odpovede bez potreby manuálneho spresňovania dopytov.

Výzvy a aspekty na zváženie

Nadmerné rozšírenie

Pridanie príliš veľkého počtu rozšírených dopytov môže viesť k zahrnutiu nerelevantných dokumentov a zníženiu presnosti vyhľadávania.

Riešenie:

• Kontrolovaná generácia: Obmedziť počet rozšírených dopytov.
• Filtrovanie relevancie: Použiť skórovacie mechanizmy na uprednostnenie najrelevantnejších rozšírení.

Nejednoznačnosť a polysémia

Slová s viacerými významami môžu viesť k nerelevantným rozšíreniam.

Riešenie:

• Kontextovo závislé rozšírenie: Použiť LLM, ktoré zohľadňujú kontext dopytu.
• Techniky disambiguácie: Implementovať algoritmy na rozlišovanie významov na základe kontextu dopytu.

Výpočtové zdroje

Generovanie a spracovanie viacerých rozšírených dopytov môže byť náročné na zdroje.

Riešenie:

• Efektívne modely: Používať optimalizované LLM a vyhľadávacie systémy.
• Mechanizmy cacheovania: Ukladať často používané dopyty a rozšírenia do cache pre zníženie výpočtovej záťaže.

Integrácia s vyhľadávacími systémami

Zabezpečiť, aby rozšírené dopyty efektívne fungovali s existujúcimi vyhľadávacími algoritmami.

Riešenie:

• Úpravy skórovania: Modifikovať skórovacie mechanizmy vyhľadávania tak, aby zohľadňovali rozšírené dopyty.
• Hybridné prístupy: Kombinovať vyhľadávanie na základe kľúčových slov so sémantickým vyhľadávaním.

Techniky efektívneho rozšírenia dopytu

Váženie pojmov

Priraďovanie váh pojmom v rozšírených dopytoch podľa ich dôležitosti.

• TF-IDF (Term Frequency-Inverse Document Frequency): Meria dôležitosť pojmu v dokumente v porovnaní s celým korpusom.
• BM25 skórovanie: Funkcia používaná vyhľadávačmi na odhad relevancie dokumentov.
• Vlastné váhy: Úprava váh na základe relevantnosti rozšírených pojmov.

Preusporiadanie získaných dokumentov

Po vyhľadaní dokumentov ich preusporiadať podľa relevancie.

• Cross-Encodery: Modely, ktoré hodnotia relevanciu párov dopyt-dokument.
• Modely na preusporiadanie (napr. ColBERT, FlashRank): Špecializované modely na efektívne a presné preusporiadanie.

Príklad:

Použitie Cross-Encodera po vyhľadaní na skórovanie a preusporiadanie dokumentov podľa ich relevantnosti k pôvodnému dopytu.

Zapojenie spätnej väzby používateľov

Zahrnutie interakcií používateľov na zlepšenie rozšírenia dopytu.

• Implicítna spätná väzba: Analýza správania používateľa, napríklad kliknutí a času stráveného na dokumentoch.
• Explicitná spätná väzba: Umožniť používateľom vylepšiť dopyty alebo vybrať preferované výsledky.

Prepojenie s AI, automatizáciou AI a chatbotmi

Rozšírenie dopytu poháňané AI

Použitie AI a LLM na rozšírenie dopytu využíva pokročilé porozumenie jazyka na zlepšenie vyhľadávania. To umožňuje AI systémom, vrátane chatbotov a virtuálnych asistentov, poskytovať presnejšie a kontextovo vhodné odpovede.

Automatizácia vyhľadávania informácií

Automatizácia procesu rozšírenia dopytu odbremeňuje používateľov od nutnosti formulovať presné dopyty. AI automatizácia zvláda zložitosť na pozadí a zvyšuje efektivitu vyhľadávacích systémov.

Vylepšenie interakcie chatbotov

Chatboty profitujú z rozšírenia dopytu lepším pochopením zámerov používateľov, najmä pri používaní hovorového jazyka alebo neúplných fráz. To vedie k uspokojivejším interakciám a efektívnejšiemu riešeniu problémov.

Príklad:

Chatbot poskytujúci technickú podporu rozpozná nejasný dopyt používateľa ako „Moja aplikácia nefunguje“ rozšírením na „aplikácia padá“, „softvér nereaguje“ a „chybové hlásenia aplikácie“, čo vedie k rýchlejšiemu vyriešeniu problému.

Výskum o rozšírení dopytu pre RAG

1. Improving Retrieval for RAG based Question Answering in question answering, enhancing accuracy with real-time data. Discover more!") Models on Financial Documents
   Tento článok skúma efektívnosť veľkých jazykových modelov (LLM) obohatených o Retrieval-Augmented Generation (RAG), najmä v kontexte finančných dokumentov. Identifikuje, že nepresnosti vo výstupoch LLM často vznikajú kvôli suboptimálnemu získavaniu textových častí, nie samotným LLM. Štúdia navrhuje vylepšenia procesov RAG, vrátane sofistikovaných techník chunkovania a rozšírenia dopytu, spolu s anotáciami metadát a algoritmami preusporiadania. Tieto metodiky majú za cieľ zdokonaliť vyhľadávanie textu a tým vylepšiť výkon LLM pri generovaní presných odpovedí. Prečítajte si viac

2. Enhancing Retrieval and Managing Retrieval: A Four-Module Synergy for Improved Quality and Efficiency in RAG Systems
   Článok predstavuje modulárny prístup k vylepšeniu systému RAG, pričom sa zameriava na modul Query Rewriter, ktorý vytvára vyhľadávaniu priateľské dopyty pre lepšie získavanie znalostí. Rieši problém Information Plateaus a nejednoznačnosti v dopytoch generovaním viacerých dopytov. Ďalej navrhuje Knowledge Filter a Memory Knowledge Reservoir pre správu nerelevantných znalostí a optimalizáciu vyhľadávacích zdrojov. Tieto inovácie majú zvýšiť kvalitu a efektivitu odpovedí v systémoch RAG, čo potvrdzujú experimenty naprieč QA datasetmi. Prístup ku kódu a ďalšie informácie.

3. MultiHop-RAG: Benchmarking Retrieval-Augmented Generation for Multi-Hop Queries
   Tento výskum poukazuje na výzvy súčasných systémov RAG pri spracovaní multi-hop dopytov, ktoré vyžadujú uvažovanie nad viacerými indíciami. Predstavuje nový dataset špeciálne navrhnutý na porovnávanie systémov RAG pri multi-hop dopytoch, s cieľom posunúť hranice súčasných schopností RAG. Článok rozoberá potrebné vylepšenia, aby metódy RAG efektívne zvládali komplexné štruktúry dopytov a zlepšili použitie LLM v praxi.