Agents
Geheugen en chatgeschiedenis
Hoe je bepaalt wat een AI-agent onthoudt: chatgeschiedenis binnen één gesprek en geheugen tussen gesprekken.
Een agent kan op twee verschillende manieren onthouden. Chatgeschiedenis is wat hij ziet van het huidige gesprek. Geheugen is een opslag van notities waarin hij kan schrijven en waaruit hij kan lezen tussen gesprekken door. Het zijn aparte instellingen, en je kunt een van beide, beide of geen van beide gebruiken.
Chatgeschiedenis#
Chatgeschiedenis bepaalt hoeveel van de eerdere berichten in een gesprek de agent samen met elke nieuwe vraag ontvangt. Zonder chatgeschiedenis zou de agent elk bericht beantwoorden alsof het het eerste is.
Je vindt het op het tabblad Geavanceerd, in de sectie Chatgeschiedenis. De schakelaar in de sectiekop zet het aan of uit. Voor een nieuwe agent staat hij aan. De sectiekop vat de instelling samen, bijvoorbeeld “Laatste 10 berichten · 8000 tokens”.
Met de schakelaar aan kun je het volgende instellen:
- Aantal geschiedenisberichten. Hoeveel recente berichten worden meegenomen. De standaardwaarde is 10, en je kunt kiezen van 1 tot 50.
- Maximum aantal tokens voor geschiedenis. De maximale hoeveelheid tekst uit de geschiedenis die wordt verzonden. De standaardwaarde is 8000, en je kunt kiezen van 100 tot 8000 in stappen van 100.
- Berichttypen. Welke soorten berichten meetellen: Gebruikersberichten, AI-berichten en Tool-aanroepen. Standaard ziet de agent gebruikersberichten en AI-berichten.
Een langere geschiedenis geeft de agent meer context, en het betekent ook dat er bij elk bericht meer tekst naar het model gaat.
Geheugen#
Geheugen laat de agent informatie bewaren die verder gaat dan één gesprek, zoals de voorkeuren van een klant of feiten die hij heeft geleerd. Voor een nieuwe agent staat het uit.
Je vindt het in de sectie Geheugen op het tabblad Voorkeuren. Zet de schakelaar in de sectiekop aan en stel vervolgens in:
- Geheugencategorie. De groep geheugenitems waaruit de agent leest en waarnaar hij schrijft. Je moet er een kiezen. Zolang geheugen aan staat en er geen categorie is gekozen, waarschuwt de builder: “Kies een categorie of zet Geheugen uit. De agent weigert te draaien zolang Geheugen aan staat zonder gekozen categorie.” Je maakt en beheert categorieën onder memory.
- Toegangsmodus. Alleen lezen laat de agent in het geheugen zoeken. Lezen/Schrijven laat hem ook items toevoegen en bijwerken.
- Prompt voor geheugen lezen. Instructies die de agent vertellen hoe en wanneer hij de leestools gebruikt.
- Prompt voor geheugen schrijven. Instructies voor hoe en wanneer hij de schrijftools gebruikt. Dit is van belang in de modus Lezen/Schrijven.
- Invoer van flow offloaden. Als dit aan staat, wordt de invoer van de run opgeslagen en kan de agent die later ophalen met een tool met de naam
get_offloaded_memory. Standaard staat het uit.
De twee prompts beginnen met standaardwaarden die voor de meeste agents werken. Pas ze aan wanneer de agent te veel, te weinig of de verkeerde dingen schrijft.
Geheugen hoort bij een categorie
De agent slaat items op en haalt ze op via de categorie die je kiest. Agents die dezelfde categorie gebruiken, werken op hetzelfde geheugen, dus gebruik een aparte categorie wanneer twee agents geen notities mogen delen.
Wat je waarvoor gebruikt#
| Je wilt | Gebruik |
|---|---|
| Dat de agent een heen-en-weer-gesprek volgt | Chatgeschiedenis |
| Dat de agent iets weet uit het gesprek van gisteren | Geheugen |
| Antwoorden op basis van je documenten | Een retriever-tool, zie agenttools |
Als er iets misgaat#
- Als de agent stopt met antwoorden nadat je geheugen hebt aangezet, controleer dan of er een categorie is gekozen.
- Als hij vergeet wat je twee berichten geleden zei, controleer dan of de schakelaar Chatgeschiedenis aan staat en of Gebruikersberichten is geselecteerd.
- Als hij niets naar het geheugen schrijft, controleer dan of Toegangsmodus op Lezen/Schrijven staat.