Agenter
Hukommelse og chat-historik
Sådan styrer du, hvad en AI-agent husker: chat-historik inden for en samtale og hukommelse på tværs af samtaler.
En agent kan huske på to forskellige måder. Chat-historik er det, den ser af den aktuelle samtale. Hukommelse er et lager af noter, som den kan skrive til og læse fra på tværs af samtaler. Det er separate indstillinger, og du kan bruge den ene, begge eller ingen af dem.
Chat-historik#
Chat-historik bestemmer, hvor mange af de tidligere beskeder i en samtale agenten modtager sammen med hvert nyt spørgsmål. Uden den ville agenten besvare hver besked, som om det var den første.
Du finder den under fanen Avanceret, i sektionen Chat-historik. Kontakten i sektionsoverskriften slår den til eller fra. Den er slået til for en ny agent. Sektionsoverskriften opsummerer indstillingen, for eksempel “Seneste 10 beskeder · 8000 tokens”.
Med kontakten slået til kan du indstille:
- Antal historikbeskeder. Hvor mange af de seneste beskeder der skal medtages. Standarden er 10, og du kan vælge fra 1 til 50.
- Maks. tokens for historik. Den største mængde tekst fra historikken, der sendes. Standarden er 8000, og du kan vælge fra 100 til 8000 i trin på 100.
- Beskedtyper. Hvilke slags beskeder der tæller med: Brugerbeskeder, AI-beskeder og Værktøjskald. Som standard ser agenten bruger- og AI-beskeder.
En længere historik giver agenten mere kontekst, og det betyder også, at der sendes mere tekst til modellen med hver besked.
Hukommelse#
Hukommelse lader agenten bevare information ud over én samtale, for eksempel en kundes præferencer eller fakta, den har lært. Den er slået fra for en ny agent.
Du finder den i sektionen Hukommelse under fanen Præferencer. Slå kontakten i sektionsoverskriften til, og indstil derefter:
- Hukommelseskategori. Den gruppe af hukommelsesposter, som agenten læser fra og skriver til. Du skal vælge én. Når hukommelsen er slået til, og der ikke er valgt nogen kategori, advarer builderen: “Vælg en kategori, eller slå Hukommelse fra. Agenten nægter at køre, mens Hukommelse er slået til uden en valgt kategori.” Du opretter og administrerer kategorier under memory.
- Adgangstilstand. Skrivebeskyttet lader agenten søge i hukommelsen. Læs/skriv lader den også tilføje og opdatere poster.
- Prompt til læsning af hukommelse. Instruktioner, der fortæller agenten, hvordan og hvornår den skal bruge læseværktøjerne.
- Prompt til skrivning af hukommelse. Instruktioner om, hvordan og hvornår skriveværktøjerne skal bruges. Den har betydning i tilstanden Læs/skriv.
- Aflast flow-input. Når den er slået til, gemmes kørslens input, og agenten kan hente det senere med et værktøj ved navn
get_offloaded_memory. Den er slået fra som standard.
De to prompts starter med standardværdier, der fungerer for de fleste agenter. Rediger dem, når agenten skriver for meget, for lidt eller de forkerte ting.
Hukommelsen tilhører en kategori
Agenten gemmer og henter poster gennem den kategori, du vælger. Agenter, der bruger samme kategori, arbejder på den samme hukommelse, så brug en separat kategori, når to agenter ikke skal dele noter.
Hvad du bør bruge#
| Du ønsker | Brug |
|---|---|
| At agenten følger en frem-og-tilbage-samtale | Chat-historik |
| At agenten ved noget fra gårsdagens samtale | Hukommelse |
| Svar baseret på dine dokumenter | Et retriever-værktøj, se agentværktøjer |
Hvis noget går galt#
- Hvis agenten holder op med at svare, efter du har slået hukommelsen til, skal du kontrollere, at der er valgt en kategori.
- Hvis den glemmer, hvad du sagde for to beskeder siden, skal du kontrollere, at kontakten Chat-historik er slået til, og at Brugerbeskeder er valgt.
- Hvis den ikke skriver noget til hukommelsen, skal du kontrollere, at Adgangstilstand er Læs/skriv.