Echtzeit-Domain-spezifischer RAG-Chatbot

Übersicht

Dieser Workflow implementiert einen einfachen Retrieval-Augmented Generation (RAG)-Chatbot, der die Echtzeit-Google-Suche nutzt, um aktuelle Informationen aus dem Internet abzurufen – insbesondere kann er so angepasst werden, dass alle Suchen auf eine bestimmte Domain beschränkt werden. Das Hauptziel ist die Erstellung eines Chatbots, der Benutzeranfragen mit den relevantesten und aktuellsten online verfügbaren Inhalten beantworten kann, was ihn besonders wertvoll für Szenarien macht, in denen statische Wissensdatenbanken nicht ausreichen.

Wichtige Komponenten und Ablauf

Der Workflow besteht aus mehreren modularen Blöcken, die jeweils eine bestimmte Fähigkeit repräsentieren. Nachfolgend finden Sie eine Übersicht über die Struktur und Funktionalität des Workflows:

So funktioniert der Workflow

Wenn ein Benutzer den Chat öffnet, wird der Chat Opened Trigger aktiviert. Dies initialisiert die Chat-Oberfläche und präsentiert mehrere Button Widgets mit Beispielanfragen (z.B. „Welcher Dinosaurier hat 500 Zähne?“). Wenn ein Benutzer eine Schaltfläche anklickt oder eine eigene Nachricht über Chat Input eingibt, läuft der Workflow folgendermaßen ab:

1. Abfrageerweiterung: Die Eingabe des Benutzers wird in mehrere Varianten paraphrasiert, um die Wahrscheinlichkeit zu erhöhen, relevante Suchergebnisse zu erhalten.

2. Google-Suche: Die erweiterten Anfragen werden an die Google-Suche gesendet. Standardmäßig ist die Suche auf eine bestimmte Domain beschränkt (festgelegt durch das Feld query_prefix, z.B. site: www.IHREDOMAIN.com), sodass Sie das Wissen des Chatbots auf Ihre eigene Website oder eine beliebige vertrauenswürdige Quelle fokussieren können.

3. URL Retriever: Der Workflow ruft den Inhalt der obersten Suchergebnisse (URLs) als vollständige Dokumente ab.

4. Prompt-Zusammenstellung: Die abgerufenen Inhalte, die Benutzereingabe und der Chatverlauf werden mit dem Prompt Template-Komponenten zu einem reichhaltigen Kontext für die Antwort kombiniert.

5. Sprachmodell-Generierung: Das Prompt wird an das OpenAI LLM gesendet, das eine zusammenhängende und kontextuell relevante Antwort generiert.

6. Antwortausgabe: Die generierte Antwort wird dem Benutzer über den Chat Output angezeigt.

Beispielablauf eines Anwendungsfalls

• Benutzer öffnet den Chat: Begrüßungsnachricht und drei Beispiel-Frageschaltflächen erscheinen.
• Benutzer klickt „Wann ist Muttertag 2024?“: Die Frage erscheint sofort in der Chat-Ausgabe (für sofortiges Feedback).
• Der Workflow durchläuft Abfrageerweiterung, Suche, Abruf, Prompt-Zusammenstellung und LLM-Generierung und zeigt dann die Antwort an.

Warum dieser Workflow nützlich ist

• Aktuelles Wissen in Echtzeit: Der Chatbot kann Fragen anhand der neuesten im Internet oder in Ihrer Domain verfügbaren Informationen beantworten.
• Domain-Beschränkung: Durch Anpassung des query_prefix können Sie sicherstellen, dass der Chatbot Informationen ausschließlich von Ihrer vertrauenswürdigen Website oder Wissensdatenbank bezieht, was die Verlässlichkeit der Antworten verbessert.
• Kontextbewusstsein: Durch die Einbeziehung von Chatverlauf und abgerufenen Inhalten in das Prompt können Antworten maßgeschneidert und für mehrstufige Konversationen kontextuell relevant sein.
• Skalierbarkeit und Automatisierung: Das modulare Design ermöglicht eine einfache Erweiterung oder Anpassung des Workflows für verschiedene Bereiche und unterstützt eine großflächige Bereitstellung auf unterschiedlichen Themen oder Websites.
• Benutzererlebnis: Schnellstart-Schaltflächen und sofortiges Feedback machen den Chatbot für Endbenutzer besonders zugänglich.

Workflow-Zusammenfassungstabelle

Anpassung

• Um den Chatbot auf Ihre eigene Domain zu beschränken, passen Sie das Feld query_prefix in der Google Search-Komponente an (z.B. site: www.IHREDOMAIN.com).
• Fügen Sie Beispielanfragen hinzu oder ändern Sie diese über die Button Widget-Komponenten, um das Benutzererlebnis individuell zu gestalten.

Ideale Anwendungsfälle

• Kundensupport-Bots, die immer Antworten auf Basis Ihrer aktuellen Dokumentation oder Webinhalte geben.
• Interne Wissensassistenten, die auf das Intranet oder Support-Portal Ihres Unternehmens beschränkt sind.
• Jeder Chatbot, der immer externe, autoritative Quellen zitieren oder nutzen muss (z.B. für Compliance oder Genauigkeit).

Durch die Automatisierung von Suche, Abruf und Antwortgenerierung spart dieser Workflow manuelle Recherchezeit und stellt sicher, dass Benutzer stets die aktuellsten und relevantesten verfügbaren Informationen erhalten.