Laat LLM's hun antwoorden factchecken en bronnen opnemen

Wat is RIG (Retrieval Interleaved Generation)?

Retrieval Interleaved Generation, of kortweg RIG, is een geavanceerde AI-methode die het vinden van informatie en het genereren van antwoorden naadloos combineert. Voorheen gebruikten AI-modellen RAG (Retrieval Augmented Generation) of alleen generatie, maar RIG voegt deze processen samen om de nauwkeurigheid van AI te verbeteren. Door opvraging en generatie te verweven, kunnen AI-systemen uit een bredere kennisbasis putten en zo preciezere en relevantere antwoorden geven. Het belangrijkste doel van RIG is het verminderen van fouten en het verhogen van de betrouwbaarheid van AI-uitvoer, waardoor het een essentieel hulpmiddel is voor ontwikkelaars die de nauwkeurigheid van AI willen verfijnen. Retrieval Interleaved Generation is daarmee een alternatief voor RAG (Retrieval Augmented Generation) om AI-gedreven antwoorden te genereren op basis van context.

Hoe werkt RIG (Retrieval Interleaved Generation)?

Dit is hoe RIG werkt. De volgende stappen zijn geïnspireerd op de oorspronkelijke blog, die meer focust op algemene toepassingen met de Data Commons API. In de meeste gevallen wil je echter zowel een algemene [kennisbron (zoals Wikipedia of Data Commons) als je eigen data gebruiken. Hier lees je hoe je de kracht van flows in FlowHunt inzet om een RIG-chatbot te maken op basis van je eigen kennisbron én een algemene kennisbron zoals Wikipedia.

1. Een gebruikersvraag wordt aan een generator gevoerd, die een voorbeeldantwoord genereert met verwijzing naar de bijbehorende secties. In deze fase kan de generator al een goed antwoord geven, maar met verzonnen (gefantaseerde) data en statistieken.

2. In de volgende fase gebruiken we een AI Agent die deze output ontvangt en de data in elke sectie verfijnt door verbinding te maken met Wikipedia. Daarnaast voegt de agent bronnen toe bij elke relevante sectie.

Zoals je ziet, verhoogt deze methode de nauwkeurigheid van chatbots aanzienlijk en zorgt ervoor dat elke gegenereerde sectie een bron heeft en op waarheid is gebaseerd.

Hoe maak je een RIG-chatbot in FlowHunt?

Voeg de eerste stap toe (eenvoudige voorbeeldantwoord-generator):

Het eerste deel van de flow bestaat uit Chat input, een prompttemplate en een generator. Verbind deze simpelweg met elkaar. Het belangrijkste onderdeel is de prompttemplate. Ik heb het volgende gebruikt:

Hierbij de gebruikersvraag. Genereer op basis van de gebruikersvraag het best mogelijke antwoord met nepdata of percentages. Voeg na elk van de verschillende secties van je antwoord toe welke bron gebruikt moet worden om de juiste data te vinden en het antwoord in die sectie te verfijnen. Je kunt aangeven om een interne kennisbron te gebruiken voor eigen product- of servicedata, of Wikipedia als algemene kennisbron.

Voorbeeldinvoer: Welke landen zijn koplopers op het gebied van duurzame energie, wat is de beste maatstaf om dit te meten en wat is die maatstaf voor het top-land?
Voorbeelduitvoer: De top landen in duurzame energie zijn Noorwegen, Zweden, Portugal, VS [Zoek in Wikipedia op “Top Countries in renewable Energy”], de gebruikelijke maatstaf voor duurzame energie is Capacity factor [Zoek in Wikipedia op “metric for renewable energy”], en het nummer één land heeft een capaciteit van 20% [zoek in Wikipedia op “biggest capacity factor”]

Laten we nu beginnen!
Gebruikersinvoer: {input}

Hier gebruiken we Few Shot prompting om de generator precies het gewenste format te laten genereren.

Voeg het factcheck-gedeelte toe:

Voeg nu het tweede deel toe, dat het voorbeeldantwoord controleert en het antwoord verfijnt op basis van echte bronnen. Hier gebruiken we Wikipedia en AI Agents, omdat het eenvoudiger en flexibeler is om Wikipedia aan AI Agents te koppelen dan aan eenvoudige Generators. Verbind de output van de generator met de AI Agent en verbind de Wikipedia-tool met de AI Agent. Dit is het doel dat ik gebruik voor de AI Agent:

Je krijgt een voorbeeldantwoord op de gebruikersvraag. Dit voorbeeldantwoord kan onjuiste data bevatten. Gebruik de Wikipedia-tool in de aangegeven secties met de opgegeven zoekopdracht om Wikipedia-informatie te gebruiken om het antwoord te verfijnen. Voeg in elke aangegeven sectie de link naar Wikipedia toe. HAAL DATA UIT JE TOOLS EN VERFIJN HET ANTWOORD IN DIE SECTIE. VOEG DE LINK NAAR DE BRON TOE IN DIE BEPAALDE SECTIE EN NIET ONDERAAN.

Op dezelfde manier kun je een Document Retriever toevoegen aan de AI Agent, waarmee je een eigen kennisbron kunt aansluiten om documenten op te halen.

Je kunt deze exacte flow hier proberen.

Uitleg Retrieval-Augmented Generation (RAG)

Om RIG echt te waarderen, is het goed om eerst te kijken naar de voorganger: Retrieval-Augmented Generation (RAG). RAG combineert de kracht van systemen die relevante data ophalen en modellen die samenhangende, passende content genereren. De overstap van RAG naar RIG betekent een grote vooruitgang. RIG haalt niet alleen op en genereert, maar verweeft deze processen voor betere nauwkeurigheid en efficiëntie. Hierdoor kunnen AI-systemen hun begrip en output stap voor stap verbeteren en resultaten leveren die niet alleen accuraat maar ook relevant en inzichtgevend zijn. Door opvraging en generatie te combineren, kunnen AI-systemen gebruik maken van enorme hoeveelheden informatie en tegelijk samenhangende, relevante antwoorden geven.

De toekomst van Retrieval Interleaved Generation

De toekomst van Retrieval Interleaved Generation ziet er veelbelovend uit, met tal van ontwikkelingen en onderzoek in het vooruitzicht. Nu AI steeds verder groeit, zal RIG een sleutelrol spelen in de wereld van machine learning en AI-toepassingen. De potentiële impact reikt verder dan de huidige mogelijkheden en belooft te veranderen hoe AI-systemen informatie verwerken en genereren. Met lopend onderzoek verwachten we verdere innovaties die de integratie van RIG in diverse AI-frameworks verbeteren, wat leidt tot efficiëntere, nauwkeurigere en betrouwbaardere AI-systemen. Naarmate deze ontwikkelingen zich voltrekken, zal het belang van RIG alleen maar toenemen en zijn rol als fundament voor AI-nauwkeurigheid en -prestaties verstevigen.

Kortom, Retrieval Interleaved Generation betekent een grote stap voorwaarts in de zoektocht naar AI-nauwkeurigheid en efficiëntie. Door het slim combineren van opvraging en generatie, verhoogt RIG de prestaties van Large Language Models, verbetert het stappenredeneren en biedt het interessante mogelijkheden in onderwijs en factchecking. In de toekomst zal de voortdurende evolutie van RIG ongetwijfeld zorgen voor nieuwe AI-innovaties en zijn rol als essentieel hulpmiddel in de zoektocht naar slimmere, betrouwbaardere kunstmatige intelligentie-systemen versterken.