Agentit

Muisti ja keskusteluhistoria

Kuinka hallita sitä, mitä AI-agentti muistaa: keskusteluhistoria yhden keskustelun sisällä ja muisti keskustelujen välillä.

Agentti voi muistaa kahdella eri tavalla. Keskusteluhistoria on se, mitä se näkee nykyisestä keskustelusta. Muisti on muistiinpanojen varasto, johon se voi kirjoittaa ja josta se voi lukea keskustelujen välillä. Ne ovat erillisiä asetuksia, ja voit käyttää jompaakumpaa, molempia tai ei kumpaakaan.

Keskusteluhistoria#

Keskusteluhistoria päättää, kuinka monta keskustelun aiempaa viestiä agentti vastaanottaa kunkin uuden kysymyksen yhteydessä. Ilman sitä agentti vastaisi jokaiseen viestiin kuin se olisi ensimmäinen.

Löydät sen Lisäasetukset-välilehdeltä Keskusteluhistoria-osiosta. Otsikon kytkin ottaa sen käyttöön tai pois käytöstä. Se on päällä uudella agentilla. Otsikko tiivistää asetuksen, esimerkiksi “Viimeiset 10 viestiä · 8000 tokenia”.

Kun kytkin on päällä, voit asettaa:

  • Historian viestimäärä. Kuinka monta viimeaikaista viestiä sisällytetään. Oletusarvo on 10, ja voit valita väliltä 1–50.
  • Historian enimmäistokenit. Enimmäismäärä historiatekstiä, joka lähetetään. Oletusarvo on 8000, ja voit valita väliltä 100–8000 sadan askelein.
  • Viestityypit. Mitkä viestityypit lasketaan mukaan: Käyttäjän viestit, AI-viestit ja Työkalukutsut. Oletuksena agentti näkee käyttäjän ja AI:n viestit.

Pidempi historia antaa agentille enemmän kontekstia, ja se tarkoittaa myös, että jokaisen viestin mukana malliin menee enemmän tekstiä.

Muisti#

Muisti antaa agentin säilyttää tietoja yhden keskustelun ulkopuolella, kuten asiakkaan mieltymyksiä tai oppimiaan faktoja. Se on pois päältä uudella agentilla.

Löydät sen Asetukset-välilehden Muisti-osiosta. Kytke osion otsikon kytkin päälle ja aseta sitten:

  • Muistiluokka. Muistikirjausten ryhmä, josta agentti lukee ja johon se kirjoittaa. Sinun on valittava yksi. Kun muisti on päällä eikä luokkaa ole valittu, rakentaja varoittaa “Valitse luokka tai kytke muisti pois päältä. Agentti kieltäytyy suorittamasta, kun muisti on päällä eikä luokkaa ole valittu.” Luokat luodaan ja niitä hallitaan kohdassa memory.
  • Käyttöoikeustila. Vain luku antaa agentin hakea muistista. Luku/Kirjoitus antaa sen lisäksi lisätä ja päivittää merkintöjä.
  • Muistin lukuohje. Ohjeet, jotka kertovat agentille, miten ja milloin lukutyökaluja käytetään.
  • Muistin kirjoitusohje. Ohjeet siitä, miten ja milloin kirjoitustyökaluja käytetään. Sillä on merkitystä Luku/Kirjoitus-tilassa.
  • Siirrä työnkulun syöte. Kun tämä on päällä, ajon syöte tallennetaan ja agentti voi noutaa sen myöhemmin työkalulla nimeltä get_offloaded_memory. Se on oletuksena pois päältä.

Molemmat ohjeet alkavat oletusarvoilla, jotka toimivat useimmille agenteille. Muokkaa niitä, kun agentti kirjoittaa liikaa, liian vähän tai vääriä asioita.

Muisti kuuluu luokkaan

Agentti tallentaa ja hakee merkintöjä valitsemasi luokan kautta. Agentit, jotka käyttävät samaa luokkaa, käyttävät samaa muistia, joten käytä erillistä luokkaa, kun kahden agentin ei pitäisi jakaa muistiinpanoja.

Kumpaa käyttää#

HaluatKäytä
Agentin seuraavan edestakaista keskusteluaKeskusteluhistoria
Agentin muistavan jotain eilisen keskustelustaMuisti
Vastauksia asiakirjojesi perusteellaHakutyökalu, katso agentin työkalut

Jos jotain menee pieleen#

  • Jos agentti lakkaa vastaamasta, kun kytket muistin päälle, tarkista, että luokka on valittu.
  • Jos se unohtaa, mitä sanoit kaksi viestiä sitten, tarkista, että Keskusteluhistoria-kytkin on päällä ja että Käyttäjän viestit on valittu.
  • Jos se ei kirjoita muistiin mitään, tarkista, että Käyttöoikeustila on Luku/Kirjoitus.

Seuraavat vaiheet#