Viacnásobné (multi-hop) uvažovanie

Čo je viacnásobné (multi-hop) uvažovanie?

Viacnásobné (multi-hop) uvažovanie je proces v umelej inteligencii, najmä v oblasti spracovania prirodzeného jazyka (NLP) a znalostných grafov, v ktorom AI systém vytvára logické prepojenia medzi viacerými informáciami, aby dospel k odpovedi alebo prijal rozhodnutie. Namiesto spoliehania sa na jeden zdroj alebo priamu informáciu, viacnásobné uvažovanie vyžaduje, aby AI prešla reťazcom prepojených dátových bodov alebo „skokov” a syntetizovala komplexnú odpoveď.

V podstate viacnásobné uvažovanie napodobňuje ľudskú schopnosť kombinovať útržky poznatkov z rôznych kontextov na riešenie zložitých problémov alebo odpovedanie na zložité otázky. Tento prístup ide nad rámec jednoduchého vyhľadávania faktov, vyžaduje od AI systému porozumenie vzťahom, odvodenie súvislostí a integráciu rozmanitých informácií roztrúsených v dokumentoch, databázach alebo znalostných grafoch.

Kľúčové prvky

• Viaceré zdroje informácií: Proces uvažovania zahŕňa dáta z rôznych dokumentov, znalostných báz alebo systémov.
• Logické prepojenia: Vytváranie vzťahov medzi rôznymi informáciami.
• Odvodzovanie a integrácia: Vyvodzovanie záverov syntézou prepojených dátových bodov.
• Postupné kroky uvažovania (skoky): Každý skok predstavuje krok v reťazci uvažovania smerom k finálnej odpovedi.

Ako sa viacnásobné uvažovanie využíva?

Viacnásobné uvažovanie sa využíva v rôznych AI aplikáciách na zvýšenie hĺbky a presnosti vyhľadávania informácií a rozhodovacích procesov.

Spracovanie prirodzeného jazyka (NLP) a odpovedanie na otázky

V NLP je viacnásobné uvažovanie kľúčové pre pokročilé systémy odpovedania na otázky. Tieto systémy musia chápať a spracovávať zložité otázky, ktoré nie je možné zodpovedať pohľadom na jednu vetu alebo odsek.

Príklad:

Otázka:
„Ktorý autor, narodený vo Francúzsku, získal Nobelovu cenu za literatúru v roku 1957 a napísal ‘Cudzinca’?”

Na zodpovedanie tejto otázky musí AI:

1. Identifikovať autorov narodených vo Francúzsku.
2. Zistiť, ktorý z nich získal Nobelovu cenu za literatúru v roku 1957.
3. Overiť, ktorý z nich napísal ‘Cudzinca’.

Prepojením týchto informácií z rôznych zdrojov AI dospeje k odpovedi Albert Camus.

Uvažovanie v znalostných grafoch

Znalostné grafy reprezentujú entity (uzly) a vzťahy (hrany) v štruktúrovanej forme. Viacnásobné uvažovanie umožňuje AI agentom prechádzať tieto grafy, robiť postupné odvodenia a nachádzať nové vzťahy alebo odpovede, ktoré nie sú explicitne uvedené.

Použitie: Dopĺňanie znalostného grafu

AI systémy dokážu predikovať chýbajúce väzby alebo fakty v znalostnom grafe uvažovaním nad existujúcimi spojeniami. Napríklad, ak v znalostnom grafe platí:

• Osoba A je rodičom Osoby B.
• Osoba B je rodičom Osoby C.

AI vie odvodiť, že Osoba A je starým rodičom Osoby C prostredníctvom viacnásobného uvažovania.

Posilňovacie učenie v neúplných prostrediach

V prostrediach s neúplnými informáciami, ako sú čiastočné znalostné grafy, agenti využívajú viacnásobné uvažovanie na orientáciu v neistote. Algoritmy posilňovacieho učenia umožňujú agentom robiť postupné rozhodnutia a získavať odmeny za kroky, ktoré ich približujú k cieľu.

Príklad:

AI agent začne na koncepte v znalostnom grafe a postupne vyberá hrany (vzťahy), aby sa dostal k cieľovému konceptu. Agent je odmeňovaný za úspešnú navigáciu, aj keď priama cesta nie je dostupná kvôli neúplným údajom.

AI automatizácia a chatboti

Pre AI chatboty viacnásobné uvažovanie zvyšuje schopnosti konverzácie tým, že umožňuje botovi poskytovať detailné a kontextovo presné odpovede.

Použitie: Chatbot pre zákaznícku podporu

Chatbot pomáhajúci používateľom s technickými problémami môže potrebovať:

1. Identifikovať typ zariadenia používateľa z predchádzajúcich interakcií.
2. Vyhľadať známe problémy tohto zariadenia v znalostnej báze.
3. Poskytnúť kroky na riešenie podľa konkrétneho nahláseného problému.

Uvažovaním nad viacerými informáciami chatbot poskytne presnú a užitočnú odpoveď.

Príklady a použitia

Systémy viacnásobného odpovedania na otázky

Oblasť zdravotníctva:

Otázka:
„Aký liek možno predpísať pacientovi alergickému na penicilín, ktorý však potrebuje liečbu bakteriálnej infekcie?”

Postup uvažovania:

1. Identifikovať lieky na liečbu bakteriálnych infekcií.
2. Vylúčiť lieky obsahujúce penicilín alebo príbuzné zlúčeniny.
3. Navrhnúť alternatívne antibiotiká bezpečné pre pacientov s alergiou na penicilín.

AI systém syntetizuje medicínske poznatky na odporúčanie bezpečnej liečby.

Uvažovanie v znalostných grafoch s tvarovaním odmien

Pri posilňovacom učení tvarovanie odmien upravuje funkciu odmien tak, aby efektívnejšie viedla učiaceho sa agenta, najmä v prostrediach s riedkymi alebo zavádzajúcimi odmenami.

Použitie:

AI agent, ktorého úlohou je nájsť spojenie medzi dvoma entitami v znalostnom grafe, môže dostávať čiastkové odmeny za každý správny skok, čo podporuje objavovanie viacnásobných ciest aj v neúplných grafoch.

Viacnásobné uvažovanie v chatbotoch

Chatbot osobného asistenta:

Scenár:
Používateľ sa opýta: „Pripomeň mi kúpiť ingrediencie na recept z včerajšej kuchárskej relácie.”

AI uvažovanie:

1. Zistiť, ktorú kuchársku reláciu používateľ sledoval včera.
2. Získať recept z tejto relácie.
3. Vytiahnuť zoznam ingrediencií.
4. Nastaviť pripomienku s týmto zoznamom.

Chatbot prepája dáta z kalendára, externý obsah a preferencie používateľa, aby splnil požiadavku.

Riešenie neúplných znalostných grafov

AI agenti často pracujú so znalostnými grafmi, ktoré nemajú všetky fakty (neúplné prostredia). Viacnásobné uvažovanie umožňuje agentovi odvodiť chýbajúce informácie objavovaním nepriamych ciest.

Príklad:

Ak chýba priamy vzťah medzi dvoma konceptmi, agent môže nájsť cestu cez medziľahlé koncepty a efektívne tak doplniť znalostné medzery.

Formulácia pomocou posilňovacieho učenia

Úlohy viacnásobného uvažovania možno formulovať ako problémy posilňovacieho učenia, kde agent vykonáva akcie v prostredí, aby maximalizoval celkovú odmenu.

Prvky:

• Stav: Aktuálna pozícia v znalostnom grafe alebo kontexte.
• Akcia: Možné skoky na ďalší uzol alebo informáciu.
• Odměna: Spätná väzba za úspešné kroky uvažovania.
• Politika: Stratégia, ktorá riadi akcie agenta.

Príklad:

Agent sa snaží zodpovedať dotaz postupným výberom vzťahov v znalostnom grafe, pričom za každý správny skok smerom k odpovedi získava odmenu.

Viacnásobné uvažovanie v spracovaní prirodzeného jazyka

V NLP viacnásobné uvažovanie zlepšuje porozumenie čítanému textu tým, že modelom umožňuje chápať a spracovávať texty vyžadujúce prepojenie viacerých informácií.

Aplikácie:

• Testy porozumenia čítanému textu: Modely odpovedajú na otázky vyžadujúce informácie z rôznych častí pasáže.
• Sumarizácia: Tvorba zhrnutí vystihujúcich podstatu textov s viacerými témami alebo argumentmi.
• Riešenie koreferencií: Určenie, kedy rôzne výrazy odkazujú na tú istú entitu v rôznych vetách.

Kombinovanie LLM a znalostných grafov

Veľké jazykové modely (LLM), ako GPT-4, možno integrovať so znalostnými grafmi na zvýšenie schopností viacnásobného uvažovania.

Výhody:

• Lepšie kontextové porozumenie: LLM spracujú neštruktúrovaný text, zatiaľ čo znalostné grafy poskytujú štruktúrované dáta.
• Presnejšie odpovede: Kombinácia umožňuje presné a kontextovo bohaté odpovede.
• Škálovateľnosť: LLM zvládnu obrovské množstvo dát, čo je kľúčové pre komplexné viacnásobné uvažovanie.

Použitie:

V biomedicínskom výskume AI systém odpovedá na zložité dotazy integráciou jazykového porozumenia LLM so štruktúrovanými medicínskymi dátami zo znalostných grafov.

Použitia v AI automatizácii

AI zákaznícka podpora

Viacnásobné uvažovanie umožňuje AI agentom zvládať komplexné zákaznícke dotazy:

• Prístup k histórii zákazníka.
• Porozumenie pravidlám a smerniciam.
• Poskytovanie riešení zohľadňujúcich viaceré faktory.

Optimalizácia dodávateľského reťazca

AI systémy analyzujú predajné dáta, úroveň zásob a logistické obmedzenia, aby:

• Predpovedali výkyvy dopytu.
• Identifikovali potenciálne narušenia reťazca.
• Odporúčali úpravy v nákupe a distribúcii.

Detekcia podvodov

Uvažovaním nad históriou transakcií, správaním používateľov a sieťovými vzťahmi AI deteguje podvodné aktivity, ktoré by pri jednofaktorovej analýze mohli uniknúť.

Zlepšovanie interakcií chatbotov

Viacnásobné uvažovanie umožňuje chatbotom viesť prirodzenejšiu a zmysluplnejšiu konverzáciu.

Schopnosti:

• Vedomie kontextu: Pripomínanie si predchádzajúcich interakcií pre aktuálne odpovede.
• Riešenie zložitých dotazov: Odpovedanie na otázky vyžadujúce syntézu informácií.
• Personalizácia: Prispôsobenie odpovedí podľa preferencií a histórie používateľa.

Príklad:

Chatbot ponúkajúci cestovné odporúčania zohľadní minulé cesty používateľa, aktuálnu polohu a blížiace sa udalosti pri výbere destinácií.

Výskum v oblasti viacnásobného uvažovania

1. Improving LLM Reasoning with Multi-Agent Tree-of-Thought Validator Agent
   Tento článok skúma zlepšenie schopnosti uvažovania veľkých jazykových modelov (LLM) pomocou multi-agentného prístupu, ktorý priraďuje špecializované úlohy pri riešení problémov. Predstavuje Reasonera založeného na Tree of Thoughts (ToT) v kombinácii s agentom na overenie myšlienok, ktorý preveruje postupy uvažovania. Metóda zvyšuje robustnosť vyraďovaním chybných ciest a umožňuje efektívnejšie hlasovanie. Prístup prekonal štandardné ToT stratégie v teste GSM8K priemerne o 5,6 %. Čítať viac
2. Graph-constrained Reasoning: Faithful Reasoning on Knowledge Graphs with Large Language Models
   Táto štúdia rieši problémy uvažovania v LLM, ako sú halucinácie, integráciou znalostných grafov (KG). Zavádza graph-constrained reasoning (GCR), ktorý integruje štruktúru KG do LLM pomocou KG-Trie indexu. Táto metóda obmedzuje dekódovanie LLM, aby uvažovanie zostalo verné, čím eliminuje halucinácie. GCR dosiahlo najlepšie výsledky na KGQA benchmarkoch a preukázalo silnú generalizáciu v zero-shot nastavení. Čítať viac
3. Hypothesis Testing Prompting Improves Deductive Reasoning in Large Language Models
   Článok popisuje zlepšenie deduktívneho uvažovania kombinovaním rôznych promptovacích techník s LLM. Predstavuje Hypothesis Testing Prompting, ktoré zahŕňa predpoklady záverov, spätné uvažovanie a overovanie faktov. Tento prístup rieši problémy ako neplatné a vymyslené cesty uvažovania, čím zvyšuje spoľahlivosť úloh vyžadujúcich uvažovanie. Čítať viac