Agenti
Pamäť a história chatu
Ako ovládať, čo si AI agent pamätá: história chatu v rámci jednej konverzácie a pamäť naprieč konverzáciami.
Agent si môže pamätať dvoma rôznymi spôsobmi. História chatu je to, čo vidí z aktuálnej konverzácie. Pamäť je úložisko poznámok, do ktorého môže zapisovať a z ktorého môže čítať naprieč konverzáciami. Sú to samostatné nastavenia a môžete použiť jedno, obe alebo ani jedno.
História chatu#
História chatu určuje, koľko z predchádzajúcich správ v konverzácii agent dostane spolu s každou novou otázkou. Bez nej by agent odpovedal na každú správu, akoby bola prvá.
Nájdete ju na karte Pokročilé v sekcii História chatu. Prepínač v hlavičke sekcie ju zapína alebo vypína. Pri novom agentovi je zapnutá. Hlavička sekcie zhrňuje nastavenie, napríklad „Posledných 10 správ · 8000 tokenov".
Keď je prepínač zapnutý, môžete nastaviť:
- Počet správ v histórii. Koľko nedávnych správ zahrnúť. Predvolená hodnota je 10 a môžete vybrať od 1 do 50.
- Maximálny počet tokenov histórie. Najväčšie množstvo textu z histórie, ktoré sa odošle. Predvolená hodnota je 8000 a môžete vybrať od 100 do 8000 v krokoch po 100.
- Typy správ. Ktoré druhy správ sa počítajú: Správy používateľa, Správy AI a Volania nástrojov. Predvolene agent vidí správy používateľa a AI.
Dlhšia história dáva agentovi viac kontextu a zároveň znamená, že s každou správou ide do modelu viac textu.
Pamäť#
Pamäť umožňuje agentovi uchovávať informácie nad rámec jednej konverzácie, napríklad preferencie zákazníka alebo fakty, ktoré sa naučil. Pri novom agentovi je vypnutá.
Nájdete ju v sekcii Pamäť na karte Preferencie. Zapnite prepínač v hlavičke sekcie a potom nastavte:
- Kategória pamäte. Skupina záznamov pamäte, z ktorej agent číta a do ktorej zapisuje. Musíte jednu vybrať. Keď je pamäť zapnutá a nie je vybraná žiadna kategória, nástroj na zostavenie upozorní: „Vyberte kategóriu alebo vypnite Pamäť. Agent odmietne bežať, kým je Pamäť zapnutá a nie je vybraná žiadna kategória." Kategórie vytvárate a spravujete v časti pamäť.
- Režim prístupu. Iba na čítanie umožňuje agentovi prehľadávať pamäť. Čítanie/Zápis mu navyše umožňuje pridávať a aktualizovať záznamy.
- Výzva na čítanie pamäte. Pokyny, ktoré agentovi hovoria, ako a kedy používať nástroje na čítanie.
- Výzva na zápis do pamäte. Pokyny, ako a kedy používať nástroje na zápis. Dôležitá je v režime Čítanie/Zápis.
- Odloženie vstupu toku. Keď je zapnuté, vstup behu sa uloží a agent si ho neskôr môže vyzdvihnúť pomocou nástroja s názvom
get_offloaded_memory. Predvolene je vypnuté.
Obe výzvy začínajú s predvolenými hodnotami, ktoré vyhovujú väčšine agentov. Upravte ich, keď agent zapisuje príliš veľa, príliš málo alebo nesprávne veci.
Pamäť patrí ku kategórii
Agent ukladá a získava záznamy prostredníctvom kategórie, ktorú vyberiete. Agenti, ktorí používajú rovnakú kategóriu, pracujú s tou istou pamäťou, preto použite samostatnú kategóriu, keď dvaja agenti nemajú zdieľať poznámky.
Ktorú použiť#
| Chcete | Použite |
|---|---|
| Aby agent viedol konverzáciu tam a späť | Históriu chatu |
| Aby agent vedel niečo z včerajšej konverzácie | Pamäť |
| Odpovede založené na vašich dokumentoch | Nástroj na vyhľadávanie, pozri nástroje agenta |
Ak sa niečo pokazí#
- Ak agent prestane odpovedať po tom, čo zapnete pamäť, skontrolujte, či je vybraná kategória.
- Ak zabudne, čo ste povedali pred dvoma správami, skontrolujte, či je zapnutý prepínač História chatu a či sú vybrané Správy používateľa.
- Ak do pamäte nič nezapisuje, skontrolujte, či je Režim prístupu nastavený na Čítanie/Zápis.