Fă ca LLM-urile să își verifice faptele și să includă surse

Fă ca LLM-urile să își verifice faptele și să includă surse

AI Chatbot Fact-Checking RIG

Ce este RIG (Generare Intercalată prin Regăsire)?

Generarea Intercalată prin Regăsire, sau pe scurt RIG, este o metodă AI de ultimă generație care combină fără probleme găsirea informațiilor și crearea de răspunsuri. În trecut, modelele AI foloseau RAG (Generare Augmentată prin Regăsire) sau doar generare, însă RIG unește aceste procese pentru a crește acuratețea AI. Prin împletirea regăsirii cu generarea, sistemele AI pot accesa o bază de cunoștințe mai largă, oferind răspunsuri mai precise și relevante. Scopul principal al RIG este să reducă greșelile și să îmbunătățească încrederea în rezultatele AI, făcând din aceasta un instrument esențial pentru dezvoltatorii care doresc să optimizeze acuratețea AI. Astfel, Generarea Intercalată prin Regăsire apare ca o alternativă la RAG (Generare Augmentată prin Regăsire) pentru generarea de răspunsuri AI bazate pe context.

RIG vs RAG illustration

Cum funcționează RIG (Generare Intercalată prin Regăsire)?

Așa funcționează RIG. Următoarele etape sunt inspirate din blogul original](https://research.google/blog/grounding-ai-in-reality-with-a-little-help-from-data-commons/ “Explorează modelele DataGemma de la Google, conectând AI-ul la date din lumea reală pentru răspunsuri factuale și de încredere. Alătură-te în modelarea unui AI de încredere!”), care se concentrează mai mult pe cazuri de utilizare generală folosind API-ul Data Commons. Totuși, în majoritatea cazurilor de utilizare, este posibil să vrei să folosești atât o [bază de cunoștințe generală (de ex. Wikipedia sau Data Commons), cât și propriile tale date. Iată cum poți folosi puterea fluxurilor din FlowHunt pentru a crea un chatbot RIG din propria bază de cunoștințe și o bază de cunoștințe generală, cum ar fi Wikipedia.

  1. O interogare a utilizatorului este introdusă într-un generator, care generează un răspuns de probă cu citarea secțiunilor corespunzătoare. În această etapă, generatorul poate chiar să producă un răspuns bun, dar cu date și statistici eronate (halucinate).

    RIG Stage 1: Sample answer generation
  2. În faza următoare, folosim un Agent AI care primește acest output și rafinează datele din fiecare secțiune conectându-se la Wikipedia și, suplimentar, adaugă surse pentru fiecare secțiune corespunzătoare.

    RIG Stage 2: Fact-checking and source attribution

După cum poți vedea, această metodă crește semnificativ acuratețea chatbotului și asigură că fiecare secțiune generată are o sursă și este ancorată în adevăr.

Cum creezi un chatbot RIG în FlowHunt?

Adaugă prima etapă (Generator simplu de răspunsuri de probă):

Prima parte a fluxului constă în Input chat, un șablon de prompt și un generator. Pur și simplu conectează-le. Cea mai importantă parte este șablonul de prompt. Am folosit următorul șablon:

Gived is user’s query. Based on the User’s query generate best possible answer with fake data or percentage. After each of different sections of your answer, include data which source to use in order to fetch the correct data and refine that section with correct data. You can either specify to choose Internal knowledge source to fetch data from in case there is custom data to user’s product or service or use Wikipedia to use as general knowledge source.

Example Input: Which countries are top in terms of renewable energy and what is the best metric for measuring this and what is that measure for top country?
Example output: The top countries in renewable energy are Norway, Sweden, Portugal, USA [Search in Wikipedia with query “Top Countries in renewable Energy”], the usual metric for renewable energy is Capacity factor [Search in Wikipedia with query “metric for renewable energy”], and number one country has 20% capacity factor [search in Wikipedia “biggest capacity factor”]

Let’s begin now!
User Input: {input}

Aici folosim prompting Few Shot pentru ca generatorul să producă exact formatul dorit.

Sample prompt template in FlowHunt

Adaugă partea de verificare a faptelor:

Acum, adaugă a doua parte, care verifică răspunsul de probă și îl rafinează pe baza surselor reale. Aici folosim Wikipedia și Agenți AI, deoarece este mai ușor și mai flexibil să conectezi Wikipedia la Agenți AI decât la Generatoare simple. Conectează outputul generatorului la Agentul AI și conectează instrumentul Wikipedia la Agent. Iată obiectivul pe care îl folosesc pentru Agentul AI:

You are given a sample answer to user’s question. The sample answer might include wrong data. Use Wikipedia tool in the given sections with the specified query to use Wikipedia’s information to refine the answer. Include the link of Wikipedia in each of the sections specified. FETCH DATA FROM YOUR TOOLS AND REFINE THE ANSWER IN THAT SECTION. ADD THE LINK TO THE SOURCE IN THAT PARTICULAR SECTION AND NOT IN THE END.

În mod similar, poți adăuga Document Retriever la Agentul AI, care se poate conecta la propria ta bază personalizată de cunoștințe pentru a regăsi documente.

Connecting Wikipedia to AI Agent

Poți încerca acest flux exact aici.

Înțelegerea Generării Augmentate prin Regăsire (RAG)

Pentru a aprecia cu adevărat RIG, ajută să privim mai întâi la predecesorul său, Generarea Augmentată prin Regăsire (RAG). RAG combină punctele forte ale sistemelor care găsesc date relevante cu modelele care generează conținut coerent și potrivit. Trecerea de la RAG la RIG este un pas mare înainte. RIG nu doar regăsește și generează, ci și îmbină aceste procese pentru o acuratețe și eficiență mai mare. Acest lucru permite sistemelor AI să își îmbunătățească înțelegerea și rezultatele pas cu pas, oferind rezultate nu doar corecte, ci și relevante și perspicace. Prin combinarea regăsirii cu generarea, sistemele AI pot accesa cantități vaste de informații păstrând răspunsurile coerente și relevante.

Viitorul Generării Intercalate prin Regăsire

Viitorul Generării Intercalate prin Regăsire este promițător, cu numeroase progrese și direcții de cercetare la orizont. Pe măsură ce AI-ul continuă să evolueze, RIG va juca un rol-cheie în modelarea lumii învățării automate și a aplicațiilor AI. Impactul său potențial depășește capacitățile actuale, promițând să transforme modul în care sistemele AI procesează și generează informații. Cu cercetări în derulare, ne așteptăm la inovații suplimentare care vor îmbunătăți integrarea RIG în diverse cadre AI, conducând la sisteme AI mai eficiente, mai precise și mai de încredere. Pe măsură ce aceste dezvoltări avansează, importanța RIG va crește, consolidându-i rolul de piatră de temelie pentru acuratețea și performanța AI.

În concluzie, Generarea Intercalată prin Regăsire marchează un pas major înainte în căutarea acurateței și eficienței AI. Prin combinarea abilă a proceselor de regăsire și generare, RIG îmbunătățește performanța modelelor lingvistice mari, optimizează raționamentul în mai mulți pași și deschide posibilități interesante în educație și verificarea faptelor. Privind înainte, evoluția continuă a RIG va stimula cu siguranță noi inovații în AI, consolidându-i rolul ca instrument esențial în dezvoltarea unor sisteme de inteligență artificială mai inteligente și mai de încredere.

Întrebări frecvente

Ce este Generarea Intercalată prin Regăsire (RIG)?

RIG este o metodă AI care combină regăsirea informației și generarea de răspunsuri, permițând chatboților să își verifice singuri răspunsurile și să ofere rezultate corecte, susținute de surse.

Cum îmbunătățește RIG acuratețea chatbotului?

RIG împletește pașii de regăsire și generare, folosind instrumente precum Wikipedia sau datele tale personalizate, astfel încât fiecare secțiune a răspunsului să fie bazată pe surse de încredere și verificată pentru acuratețe.

Cum pot construi un chatbot RIG cu FlowHunt?

Cu FlowHunt, poți proiecta un chatbot RIG conectând șabloane de prompturi, generatoare și Agenți AI atât la surse interne, cât și externe de cunoștințe, permițând verificarea automată a faptelor și citarea surselor.

Care este diferența dintre RAG și RIG?

În timp ce RAG (Generare Augmentată prin Regăsire) regăsește informația și apoi generează răspunsuri, RIG intercalează acești pași pentru fiecare secțiune, rezultând o acuratețe mai mare și răspunsuri mai fiabile, cu surse.

Yasha este un dezvoltator software talentat, specializat în Python, Java și învățare automată. Yasha scrie articole tehnice despre inteligența artificială, ingineria prompturilor și dezvoltarea chatboturilor.

Yasha Boroumand
Yasha Boroumand
CTO, FlowHunt

Ești gata să construiești propriul AI?

Începe să construiești chatboți inteligenți și instrumente AI cu platforma intuitivă, fără cod, FlowHunt. Conectează blocuri și automatizează-ți ideile cu ușurință.

Află mai multe

Întrebări și răspunsuri
Întrebări și răspunsuri

Întrebări și răspunsuri

Întrebările și răspunsurile cu Generare Augmentată prin Regăsire (RAG) combină regăsirea informațiilor și generarea de limbaj natural pentru a îmbunătăți modele...

6 min citire
AI Question Answering +4
Agentic RAG
Agentic RAG

Agentic RAG

Agentic RAG (Generarea Augmentată prin Recuperare Agentică) este un cadru AI avansat care integrează agenți inteligenți în sistemele RAG tradiționale, permițând...

6 min citire
AI Agentic RAG +3