Agents
Bộ nhớ và lịch sử trò chuyện
Cách kiểm soát những gì một tác nhân AI ghi nhớ: lịch sử trò chuyện trong một cuộc hội thoại và bộ nhớ xuyên suốt các cuộc hội thoại.
Một tác nhân có thể ghi nhớ theo hai cách khác nhau. Lịch sử trò chuyện là những gì nó thấy về cuộc hội thoại hiện tại. Bộ nhớ là một kho ghi chú mà nó có thể ghi vào và đọc ra xuyên suốt các cuộc hội thoại. Đây là những cài đặt riêng biệt, và bạn có thể dùng một trong hai, dùng cả hai hoặc không dùng cái nào.
Lịch sử trò chuyện#
Lịch sử trò chuyện quyết định số lượng tin nhắn trước đó trong một cuộc hội thoại mà tác nhân nhận được cùng với mỗi câu hỏi mới. Nếu không có nó, tác nhân sẽ trả lời mỗi tin nhắn như thể đó là tin nhắn đầu tiên.
Bạn tìm thấy nó trong tab Nâng cao, ở mục Lịch sử trò chuyện. Công tắc ở tiêu đề mục dùng để bật hoặc tắt nó. Nó được bật đối với một tác nhân mới. Tiêu đề mục tóm tắt cài đặt, ví dụ “10 tin nhắn gần nhất · 8000 token”.
Khi công tắc được bật, bạn có thể đặt:
- Số lượng tin nhắn lịch sử. Số tin nhắn gần đây cần đưa vào. Mặc định là 10, và bạn có thể chọn từ 1 đến 50.
- Token tối đa của lịch sử. Lượng văn bản tối đa từ lịch sử được gửi đi. Mặc định là 8000, và bạn có thể chọn từ 100 đến 8000 theo bước 100.
- Loại tin nhắn. Những loại tin nhắn nào được tính: Tin nhắn người dùng, Tin nhắn AI và Lệnh gọi công cụ. Theo mặc định, tác nhân thấy tin nhắn của người dùng và AI.
Lịch sử dài hơn cho tác nhân thêm ngữ cảnh, đồng thời cũng có nghĩa là nhiều văn bản hơn được gửi đến mô hình với mỗi tin nhắn.
Bộ nhớ#
Bộ nhớ cho phép tác nhân lưu giữ thông tin ngoài phạm vi một cuộc hội thoại, chẳng hạn như sở thích của khách hàng hoặc những dữ kiện nó đã học được. Nó được tắt đối với một tác nhân mới.
Bạn tìm thấy nó trong mục Bộ nhớ của tab Tùy chọn. Bật công tắc ở tiêu đề mục, sau đó đặt:
- Danh mục bộ nhớ. Nhóm các mục bộ nhớ mà tác nhân đọc và ghi vào. Bạn phải chọn một danh mục. Khi bộ nhớ đang bật mà chưa chọn danh mục nào, trình tạo sẽ cảnh báo “Hãy chọn một danh mục, hoặc tắt Bộ nhớ. Tác nhân sẽ từ chối chạy khi Bộ nhớ đang bật mà không có danh mục nào được chọn.” Bạn tạo và quản lý các danh mục trong bộ nhớ.
- Chế độ truy cập. Chỉ đọc cho phép tác nhân tìm kiếm bộ nhớ. Đọc/Ghi còn cho phép nó thêm và cập nhật các mục.
- Lời nhắc đọc bộ nhớ. Hướng dẫn cho tác nhân biết cách và thời điểm sử dụng các công cụ đọc.
- Lời nhắc ghi bộ nhớ. Hướng dẫn về cách và thời điểm sử dụng các công cụ ghi. Nó có ý nghĩa trong chế độ Đọc/Ghi.
- Chuyển tải đầu vào luồng. Khi bật, đầu vào của lượt chạy được lưu lại và tác nhân có thể lấy nó sau bằng một công cụ tên là
get_offloaded_memory. Mặc định là tắt.
Hai lời nhắc này khởi đầu với các giá trị mặc định phù hợp với hầu hết tác nhân. Hãy chỉnh sửa chúng khi tác nhân ghi quá nhiều, quá ít hoặc ghi sai thứ.
Bộ nhớ thuộc về một danh mục
Tác nhân lưu trữ và truy xuất các mục thông qua danh mục bạn chọn. Những tác nhân dùng cùng một danh mục sẽ làm việc trên cùng một bộ nhớ, vì vậy hãy dùng một danh mục riêng khi hai tác nhân không nên chia sẻ ghi chú.
Nên dùng cái nào#
| Bạn muốn | Dùng |
|---|---|
| Tác nhân theo dõi một cuộc hội thoại qua lại | Lịch sử trò chuyện |
| Tác nhân biết điều gì đó từ cuộc hội thoại hôm qua | Bộ nhớ |
| Câu trả lời dựa trên tài liệu của bạn | Một công cụ truy xuất, xem công cụ tác nhân |
Nếu có sự cố xảy ra#
- Nếu tác nhân ngừng trả lời sau khi bạn bật bộ nhớ, hãy kiểm tra xem đã chọn danh mục chưa.
- Nếu nó quên điều bạn nói cách đây hai tin nhắn, hãy kiểm tra xem công tắc Lịch sử trò chuyện đã bật chưa và Tin nhắn người dùng đã được chọn chưa.
- Nếu nó không ghi gì vào bộ nhớ, hãy kiểm tra xem Chế độ truy cập có phải là Đọc/Ghi không.