Agenti
Paměť a historie chatu
Jak ovládat, co si AI agent pamatuje: historii chatu v rámci konverzace a paměť mezi konverzacemi.
Agent si může pamatovat dvěma různými způsoby. Historie chatu je to, co vidí z aktuální konverzace. Paměť je úložiště poznámek, do kterého může zapisovat a ze kterého může číst napříč konverzacemi. Jsou to samostatná nastavení a můžete použít jedno, obě, nebo žádné.
Historie chatu#
Historie chatu určuje, kolik dřívějších zpráv v konverzaci agent dostane spolu s každou novou otázkou. Bez ní by agent odpovídal na každou zprávu, jako by byla první.
Najdete ji na kartě Pokročilé v sekci Historie chatu. Přepínač v záhlaví sekce ji zapíná nebo vypíná. U nového agenta je zapnutá. Záhlaví sekce shrnuje nastavení, například „Posledních 10 zpráv · 8000 tokenů".
Když je přepínač zapnutý, můžete nastavit:
- Počet zpráv v historii. Kolik nedávných zpráv zahrnout. Výchozí hodnota je 10 a můžete zvolit od 1 do 50.
- Maximální počet tokenů historie. Maximální množství textu z historie, které se odešle. Výchozí hodnota je 8000 a můžete zvolit od 100 do 8000 v krocích po 100.
- Typy zpráv. Které druhy zpráv se počítají: Zprávy uživatele, Zprávy AI a Volání nástrojů. Ve výchozím nastavení agent vidí zprávy uživatele a AI.
Delší historie dává agentovi více kontextu a zároveň znamená, že se s každou zprávou posílá modelu více textu.
Paměť#
Paměť umožňuje agentovi uchovávat informace nad rámec jedné konverzace, jako jsou preference zákazníka nebo fakta, která se naučil. U nového agenta je vypnutá.
Najdete ji v sekci Paměť na kartě Předvolby. Zapněte přepínač v záhlaví sekce a pak nastavte:
- Kategorie paměti. Skupina záznamů paměti, ze které agent čte a do které zapisuje. Musíte jednu vybrat. Pokud je paměť zapnutá a není vybrána žádná kategorie, builder varuje: „Vyberte kategorii, nebo paměť vypněte. Agent odmítne běžet, když je paměť zapnutá a není vybrána žádná kategorie." Kategorie vytváříte a spravujete v memory.
- Režim přístupu. Pouze čtení umožňuje agentovi prohledávat paměť. Čtení/Zápis mu navíc umožňuje přidávat a aktualizovat záznamy.
- Prompt pro čtení paměti. Pokyny, které agentovi říkají, jak a kdy používat nástroje pro čtení.
- Prompt pro zápis do paměti. Pokyny pro to, jak a kdy používat nástroje pro zápis. Záleží na něm v režimu Čtení/Zápis.
- Odložení vstupu toku. Když je zapnuto, vstup běhu se uloží a agent jej může později načíst nástrojem nazvaným
get_offloaded_memory. Ve výchozím nastavení je vypnuto.
Oba prompty začínají výchozími hodnotami, které vyhovují většině agentů. Upravte je, když agent zapisuje příliš mnoho, příliš málo nebo nesprávné věci.
Paměť patří ke kategorii
Agent ukládá a načítá záznamy prostřednictvím kategorie, kterou vyberete. Agenti, kteří používají stejnou kategorii, pracují se stejnou pamětí, takže použijte samostatnou kategorii, když si dva agenti nemají sdílet poznámky.
Co použít#
| Chcete | Použijte |
|---|---|
| Aby agent vedl konverzaci tam a zpět | Historii chatu |
| Aby agent věděl něco z včerejší konverzace | Paměť |
| Odpovědi založené na vašich dokumentech | Nástroj pro vyhledávání, viz nástroje agenta |
Pokud se něco pokazí#
- Pokud agent přestane odpovídat poté, co zapnete paměť, zkontrolujte, že je vybrána kategorie.
- Pokud zapomene, co jste řekli před dvěma zprávami, zkontrolujte, že je zapnutý přepínač Historie chatu a že je vybrána možnost Zprávy uživatele.
- Pokud nezapisuje do paměti nic, zkontrolujte, že Režim přístupu je Čtení/Zápis.