Chatthistorik-komponent

Föreställ dig en kund som chattar med din chatbot om sin beställning. Kunden har fler frågor, men boten glömmer direkt vilken beställning det handlar om, vilket skapar en frustrerande kundupplevelse. För att förhindra detta vill du att chatboten ska minnas meddelandehistoriken, och det är precis vad den här komponenten gör.

Att låta AI:n minnas tidigare meddelanden kostar dock tokens. Dessutom kräver många användningsområden av Flows inget minne. Därför är denna komponent valfri och gör det möjligt att begränsa minnet utifrån dina behov utan att det kostar för mycket.

Vad är Chatthistorik-komponenten?

Chatthistorik-komponenten ser till att chatboten minns ett visst antal tidigare meddelanden. Det gör att chatboten kan föra en sammanhängande konversation samtidigt som antalet ihågkomna meddelanden och tokenanvändning begränsas.

Chatthistorik finns i kategorin Minne bland komponenterna och är valfri:

Antal senaste meddelanden

Detta styr hur många tidigare meddelanden chatboten ska minnas. Standardvärdet är 5, vilket bör täcka konversationen kring de flesta grundläggande frågor. Om ditt användningsfall kräver att boten ska minnas längre konversationer kan du höja gränsen, men glöm inte att även öka inställningen för Max Tokens.

Max Tokens

Varje tidigare meddelande delas upp i mindre textenheter (tokens), som modellen bearbetar för att generera relevanta och kontextmedvetna svar. Inställningen Max Tokens begränsar antalet tokens som används för att minnas tidigare meddelanden. Tokenanvändningen varierar mellan modeller, och en token kan vara allt från ord eller orddelar till ett enskilt tecken.

Meddelandetyp

Den här rullgardinsinställningen låter dig filtrera vilka meddelanden som ska minnas: endast mänskliga meddelanden, endast AI-meddelanden eller alla.

Så kopplar du Chatthistorik-komponenten till ditt flöde

Historiken måste kopplas till LLM och användarinmatningen för att fungera korrekt. Du kommer dock att märka att komponenten inte har någon inkommande anslutning, bara en utgående.

Chatthistorik-komponentens utgångstyp är chatthistorik och kopplas till de komponenter som efterfrågar historik, vilket är Prompter och Splittare.

Till exempel, i komponenten för uppföljningsfrågor, tillhandahålls svaret genom att koppla en LLM-generator, kontexten via chatthistoriken och inmatningstexten via mänsklig chatinmatning.