Agenter

Minne og chat-historikk

Hvordan styre hva en AI-agent husker: chat-historikk innenfor en samtale og minne på tvers av samtaler.

En agent kan huske på to forskjellige måter. Chat-historikk er det den ser av den pågående samtalen. Minne er et lager av notater den kan skrive til og lese fra på tvers av samtaler. Dette er separate innstillinger, og du kan bruke én av dem, begge eller ingen.

Chat-historikk#

Chat-historikk avgjør hvor mange av de tidligere meldingene i en samtale agenten mottar sammen med hvert nye spørsmål. Uten den ville agenten svare på hver melding som om den var den første.

Du finner den i fanen Avansert, i seksjonen Chat-historikk. Bryteren i seksjonsoverskriften slår den på eller av. Den er på for en ny agent. Seksjonsoverskriften oppsummerer innstillingen, for eksempel “Siste 10 meldinger · 8000 tokens”.

Når bryteren er på, kan du angi:

  • Antall historiske meldinger. Hvor mange nylige meldinger som skal inkluderes. Standard er 10, og du kan velge fra 1 til 50.
  • Maks tokens for historikk. Den største mengden tekst fra historikken som sendes. Standard er 8000, og du kan velge fra 100 til 8000 i trinn på 100.
  • Meldingstyper. Hvilke typer meldinger som teller med: Brukermeldinger, AI-meldinger og Verktøykall. Som standard ser agenten bruker- og AI-meldinger.

En lengre historikk gir agenten mer kontekst, og det betyr også at mer tekst sendes til modellen med hver melding.

Minne#

Minne lar agenten beholde informasjon utover én samtale, for eksempel en kundes preferanser eller fakta den har lært. Det er av for en ny agent.

Du finner det i seksjonen Minne i fanen Innstillinger. Slå på bryteren i seksjonsoverskriften, og angi deretter:

  • Minnekategori. Gruppen av minneoppføringer agenten leser fra og skriver til. Du må velge én. Mens minnet er på og ingen kategori er valgt, advarer byggeren: “Velg en kategori, eller slå av Minne. Agenten nekter å kjøre mens Minne er på uten at noen er valgt.” Du oppretter og administrerer kategorier under minne.
  • Tilgangsmodus. Skrivebeskyttet lar agenten søke i minnet. Les/Skriv lar den også legge til og oppdatere oppføringer.
  • Prompt for lesing av minne. Instruksjoner som forteller agenten hvordan og når den skal bruke leseverktøyene.
  • Prompt for skriving til minne. Instruksjoner for hvordan og når skriveverktøyene skal brukes. Den har betydning i modusen Les/Skriv.
  • Avlast flytinndata. Når den er på, lagres inndataene for kjøringen, og agenten kan hente dem senere med et verktøy som heter get_offloaded_memory. Den er av som standard.

De to promptene starter med standardverdier som fungerer for de fleste agenter. Rediger dem når agenten skriver for mye, for lite eller feil ting.

Minne tilhører en kategori

Agenten lagrer og henter oppføringer gjennom kategorien du velger. Agenter som bruker samme kategori, arbeider på samme minne, så bruk en separat kategori når to agenter ikke skal dele notater.

Hva du bør bruke#

Du ønskerBruk
At agenten skal følge en samtale frem og tilbakeChat-historikk
At agenten skal vite noe fra gårsdagens samtaleMinne
Svar basert på dokumentene dineEt gjenfinningsverktøy, se agentverktøy

Hvis noe går galt#

  • Hvis agenten slutter å svare etter at du slår på minnet, sjekk at en kategori er valgt.
  • Hvis den glemmer hva du sa to meldinger tidligere, sjekk at bryteren for Chat-historikk er på og at Brukermeldinger er valgt.
  • Hvis den ikke skriver noe til minnet, sjekk at Tilgangsmodus er Les/Skriv.

Neste steg#