Rò Rỉ Prompt
Rò rỉ prompt là việc tiết lộ không chủ ý system prompt bí mật của chatbot thông qua đầu ra của mô hình. Nó làm lộ các hướng dẫn vận hành, quy tắc kinh doanh, bộ...
7 phút đọc
AI Security
Prompt Leaking
+3
Thành phần Rào Chắn Tùy Chỉnh hoạt động như một bộ lọc thông minh trong quy trình AI, đảm bảo rằng đầu vào người dùng tuân thủ các tiêu chí cụ thể do người thiết kế quy trình đặt ra. Thành phần này tận dụng mô hình ngôn ngữ (LLM) kết hợp với một prompt có thể tùy chỉnh để xác thực và kiểm soát luồng hội thoại hoặc dữ liệu.
Thành phần này làm gì
Cốt lõi, Rào Chắn Tùy Chỉnh đóng vai trò như một người gác cổng cho các đầu vào người dùng. Nó sử dụng một prompt (gọi là “Prompt Rào Chắn”) để hướng dẫn LLM xác định nội dung nào được chấp nhận. Ví dụ, prompt mặc định chỉ cho phép hội thoại về chủ đề thể thao và chặn mọi nội dung không liên quan hoặc vô nghĩa. Cơ chế này đảm bảo quy trình AI luôn tập trung và không bị lệch khỏi mục đích ban đầu.
Cách hoạt động
- Thành phần nhận một đoạn văn bản đầu vào (thường là tin nhắn người dùng).
- Nó gửi đầu vào này cùng với prompt rào chắn tới LLM đã chọn.
- LLM đánh giá đầu vào dựa trên prompt và xác định liệu nó có đáp ứng tiêu chí hay không.
- Dựa vào kết quả, thành phần xuất ra tin nhắn qua một trong hai tuyến: chấp nhận (true) hoặc từ chối (false).
Đầu vào
| Tên | Loại | Mô tả |
|---|---|---|
| LLM | HandleInput | Mô hình ngôn ngữ được dùng để đánh giá và thực thi rào chắn. |
| Prompt Rào Chắn | PromptInput | Hướng dẫn cung cấp cho LLM về nội dung nào được phép. |
| Văn bản đầu vào | Message | Tin nhắn hoặc nội dung của người dùng cần được xác thực. |
- LLM: Chọn mô hình bạn muốn dùng để làm công cụ thực thi rào chắn. Điều này cho phép linh hoạt sử dụng các LLM phù hợp với nhu cầu.
- Prompt Rào Chắn: Tùy chỉnh mức độ nghiêm ngặt hoặc linh hoạt của rào chắn bằng cách chỉnh sửa prompt.
- Văn bản đầu vào: Chính là nội dung cần xác thực.
Đầu ra
| Tên | Loại | Mô tả |
|---|---|---|
| Tuyến True | Message | Đầu ra nếu văn bản đầu vào vượt qua kiểm tra rào chắn (tức là đáp ứng tiêu chí). |
| Tuyến False | Message | Đầu ra nếu văn bản đầu vào không đáp ứng tiêu chí và bị lọc/loại bỏ. |
- Tuyến True: Khi đầu vào phù hợp với rào chắn, nó sẽ được chuyển qua đầu ra này để xử lý tiếp.
- Tuyến False: Nếu đầu vào sai chủ đề hoặc không vượt qua kiểm tra, nó sẽ được chuyển qua đầu ra này, cho phép bạn xử lý khác biệt (ví dụ: gửi cảnh báo hoặc yêu cầu làm rõ).
Tại sao nên sử dụng thành phần này?
- Kiểm soát chất lượng: Áp dụng ranh giới chủ đề hoặc quy tắc nội dung nghiêm ngặt trong ứng dụng AI của bạn.
- An toàn và phù hợp: Ngăn AI phản hồi các nội dung lạc đề, không liên quan hoặc không phù hợp.
- Thực thi tùy chỉnh: Dễ dàng thay đổi prompt rào chắn để phù hợp với yêu cầu hoặc chính sách thay đổi.
- Tích hợp mượt mà: Hoạt động với nhiều loại LLM khác nhau và hỗ trợ linh hoạt đầu vào/đầu ra trong quy trình của bạn.
Ứng dụng
- Kiểm duyệt chatbot để giữ đúng chủ đề (ví dụ: hỗ trợ khách hàng, bot giáo dục).
- Lọc nội dung do người dùng tạo trước khi xử lý hoặc lưu trữ.
- Đảm bảo tuân thủ các yêu cầu pháp lý hoặc tuân thủ trong tương tác AI tự động.
- Ngăn chặn spam hoặc nội dung vô nghĩa làm gián đoạn quy trình.
Bằng cách tích hợp thành phần Rào Chắn Tùy Chỉnh vào quy trình AI, bạn có quyền kiểm soát chi tiết những nội dung nào được chấp nhận, giúp đảm bảo hệ thống AI của bạn hoạt động đúng mục đích và mang lại kết quả đáng tin cậy, phù hợp.
