Sanntids domene-spesifikk RAG-chatbot

Oversikt

Denne arbeidsflyten implementerer en enkel Retrieval-Augmented Generation (RAG) chatbot som benytter sanntids Google Søk for å hente oppdatert informasjon fra internett—spesielt kan den tilpasses til å begrense alle søk til et bestemt domene. Hovedmålet er å skape en chatbot som kan svare på brukerforespørsler ved å bruke det mest relevante og nyeste innholdet som finnes på nettet, noe som gjør den svært verdifull i situasjoner hvor statiske kunnskapsbaser ikke strekker til.

Nøkkelkomponenter og flyt

Arbeidsflyten består av flere modulære blokker, hvor hver representerer en spesifikk egenskap. Nedenfor er en oversikt over struktur og funksjonalitet i arbeidsflyten:

Slik fungerer arbeidsflyten

Når en bruker åpner chatten, aktiveres Chat Opened Trigger. Dette initialiserer chatgrensesnittet og viser flere Button Widgets med eksempelspørsmål (f.eks. “hvilken dinosaur har 500 tenner?”). Når en bruker klikker på en knapp eller skriver en egen melding via Chat Input, går arbeidsflyten videre slik:

1. Query Expansion: Brukerens innspill parafraseres til flere versjoner for å maksimere sjansen for relevante søkeresultater.

2. Google Search: De utvidede forespørslene sendes til Google Søk. Som standard er søket begrenset til et spesifikt domene (angitt av query_prefix-feltet, f.eks. site: www.DITTDOMENE.com), slik at du kan fokusere chatbotens kunnskap på ditt eget nettsted eller en betrodd kilde.

3. URL Retriever: Arbeidsflyten henter innholdet fra de øverste søkeresultatene (URL-er) som hele dokumenter.

4. Prompt Assembly: Det hentede innholdet, brukerinnspill og chat-historikk kombineres ved hjelp av Prompt Template-komponenten for å gi rik kontekst til svaret.

5. Language Model Generation: Prompten sendes til OpenAI LLM, som genererer et sammenhengende og kontekstuelt relevant svar.

6. Response Output: Det genererte svaret vises til brukeren via Chat Output.

Eksempel på brukstilfelle

• Bruker åpner chat: Velkomstmelding og tre eksempelknapper vises.
• Bruker klikker “når er morsdag 2024?”: Spørsmålet vises umiddelbart i chatten (for øyeblikkelig tilbakemelding).
• Arbeidsflyten kjører forespørselen gjennom utvidelse, søk, henting, prompt-sammensetning og LLM-generering, og viser deretter svaret.

Hvorfor denne arbeidsflyten er nyttig

• Sanntidskunnskap: Chatboten kan svare på spørsmål med den nyeste informasjonen tilgjengelig på internett eller ditt valgte domene.
• Domenebegrensning: Ved å tilpasse query_prefix kan du sikre at chatboten kun henter informasjon fra ditt betrodde nettsted eller kunnskapsbase, noe som øker påliteligheten i svarene.
• Kontekstbevissthet: Ved å inkludere chat-historikk og hentet innhold i prompten, kan svarene tilpasses og være relevante for flerstegssamtaler.
• Skalerbarhet og automatisering: Den modulære utformingen gjør arbeidsflyten lett å utvide eller tilpasse for ulike domener, og støtter storskala distribusjon på tvers av temaer eller nettsteder.
• Brukeropplevelse: Hurtigstart-knapper og umiddelbar tilbakemelding gjør chatboten tilgjengelig for sluttbrukere.

Sammendragstabell for arbeidsflyt

Tilpasning

• For å fokusere chatboten på ditt eget domene, endre query_prefix-feltet i Google Search-komponenten (f.eks. site: www.DITTDOMENE.com).
• Legg til eller endre eksempelspørsmål med Button Widget-komponenter for en mer tilpasset brukeropplevelse.

Ideelle brukstilfeller

• Kundestøtte-boter som alltid gir svar basert på din oppdaterte dokumentasjon eller nettinnhold.
• Interne kunnskapsassistenter begrenset til din bedrifts intranett eller supportportal.
• Enhver chatbot som alltid må sitere eller bygge på eksterne, autoritative kilder (f.eks. for samsvar eller nøyaktighet).

Ved å automatisere søk, henting og svargenerering sparer denne arbeidsflyten tid på manuell research og sikrer at brukere alltid får den mest aktuelle og relevante informasjonen tilgjengelig.