Thành phần Prompt trong FlowHunt

Nếu không có prompt tốt, tất cả các bot sẽ hành động giống nhau và thường trả lời không đúng trọng tâm. Prompt cung cấp hướng dẫn và ngữ cảnh cho mô hình ngôn ngữ, giúp nó hiểu loại văn bản cần tạo ra.

Tổng quan về Thành phần Prompt

Thành phần Prompt được thiết kế để tạo các mẫu prompt linh hoạt sử dụng trong quy trình AI, cho phép chèn động các biến và ngữ cảnh. Thành phần này đặc biệt hữu ích trong các kịch bản AI hội thoại, như chatbot hoặc trợ lý ảo, nơi việc tạo prompt thích ứng và nhận biết ngữ cảnh là điều cần thiết.

Thành phần này làm gì?

Thành phần Prompt tạo ra một mẫu prompt có thể kết hợp nhiều biến động như đầu vào người dùng, lịch sử trò chuyện, hướng dẫn hệ thống và các tin nhắn ngữ cảnh. Bằng cách tận dụng các biến này, thành phần giúp bạn cấu trúc prompt phong phú và nhạy bén với ngữ cảnh, từ đó nâng cao hiệu suất và độ phù hợp của các mô hình AI hoặc tác nhân phía sau.

Tính năng chính

• Mẫu linh hoạt: Xây dựng prompt tự động chèn các thông tin có sẵn như lịch sử trò chuyện, đầu vào người dùng và ngữ cảnh.
• Biến tùy chỉnh: Hỗ trợ chèn các biến như {input}, {human_input}, {context}, {chat_history}, {system_message}, và {all_input_variables} trực tiếp vào mẫu prompt.
• Hỗ trợ tin nhắn hệ thống: Cho phép thêm hướng dẫn cấp hệ thống để điều chỉnh hành vi AI.
• Tái sử dụng trong quy trình: Đầu ra của thành phần này có thể dùng làm đầu vào cho các thành phần khác như LLM (Mô hình ngôn ngữ lớn) hoặc các bước xử lý tiếp theo.

Đầu vào

Các đầu vào sau có thể được cung cấp cho thành phần Prompt:

Đầu ra

• Message:
  Thành phần xuất ra một đối tượng message chứa prompt đã được xây dựng, với tất cả biến động được thay thế bằng giá trị tương ứng.

Ví dụ về tình huống sử dụng

• AI hội thoại: Tự động tạo prompt cho chatbot dựa trên đầu vào người dùng, lịch sử trò chuyện và ngữ cảnh bổ sung.
• Tạo nội dung có hỗ trợ truy xuất: Tùy chỉnh prompt cho các nhiệm vụ truy xuất bằng cách đưa vào các tương tác trước đó và hướng dẫn hệ thống phù hợp.
• Điều chỉnh hướng dẫn: Dễ dàng điều chỉnh prompt cho các tác vụ hoặc đối tượng người dùng khác nhau bằng cách sửa mẫu và tin nhắn hệ thống.

Tại sao nên dùng thành phần này?

• Nâng cao kỹ thuật Prompt: Dễ dàng quản lý và cập nhật mẫu prompt mà không cần mã hóa cứng.
• Cải thiện mức độ liên quan của AI: Bằng cách bổ sung ngữ cảnh, tin nhắn hệ thống, và lịch sử, prompt trở nên đầy đủ thông tin và chính xác hơn.
• Tăng tính linh hoạt: Hỗ trợ nhiều trường hợp sử dụng, từ hỏi đáp đơn giản đến hội thoại nhiều lượt phức tạp.

Bảng tóm tắt

Thành phần này là công cụ nền tảng cho bất kỳ ai xây dựng quy trình AI phức tạp, nhận biết ngữ cảnh, nơi việc xây dựng prompt là chìa khóa để đạt kết quả chất lượng cao.

Template

Đây là thiết lập nâng cao tùy chọn. Bạn có thể tạo mẫu prompt với các biến xác định để kiểm soát hoàn toàn kết quả chat. Ví dụ:

Là một chuyên gia SEO, hãy phân tích nội dung của URL và nghĩ ra tiêu đề tối đa 65 ký tự.— Nội dung của URL —{input}Nhiệm vụ: Tạo tiêu đề tương tự bằng truy vấn {human_input}. Đừng thay đổi {human_input} trong tiêu đề mới. TIÊU ĐỀ MỚI:

Mẫu prompt mặc định sẽ như sau:

Bạn là trợ lý mô hình ngôn ngữ AI.
Nhiệm vụ của bạn là tạo câu trả lời dựa trên truy vấn đầu vào.
Nếu có ngữ cảnh, hãy sử dụng nó để tạo câu trả lời cho truy vấn INPUT và HUMAN_INPUT.
Định dạng câu trả lời bằng markdown.

TRẢ LỜI BẰNG NGÔN NGỮ: {lang}
BIẾN:
{"session_start_time": "2025-06-03 07:35:22", "current_page_url": "https://app.flowhunt.io/aistudio/flows/de6c2e2c-d817-4b2f-af2c-12dba3f46870?ws=74be5f74-d7c5-4076-839d-8ac1771a3b75"}
INPUT: {input}

TRẢ LỜI:

Mẫu prompt mặc định lặp lại cấu trúc giống với cài đặt của thành phần. Bạn có thể ghi đè cài đặt bằng cách sửa đổi và sử dụng các biến trong trường template. Việc tạo mẫu riêng cho phép bạn kiểm soát đầu ra tốt hơn.

Cách kết nối thành phần Prompt với luồng của bạn

Prompt là một thành phần tùy chọn giúp điều chỉnh và xác định đầu ra cuối cùng. Nó cần được kết nối với một số thành phần:

• Lịch sử chat: Kết nối lịch sử chat không bắt buộc nhưng thường rất hữu ích. Ghi nhớ các tin nhắn trước giúp phản hồi trong tương lai liên quan hơn.
• Ngữ cảnh: Bất kỳ văn bản có ý nghĩa nào cũng có thể dùng làm ngữ cảnh. Thường thì lựa chọn phổ biến là kết nối tri thức từ các retriever.
• Đầu vào: Chỉ thành phần Đầu vào Chat (Chat Input) mới có thể kết nối ở đây.

Đầu ra của thành phần này là văn bản có thể kết nối tới nhiều thành phần khác. Thông thường, bạn sẽ kết nối tiếp với thành phần Generator để nối prompt với LLM.

Ví dụ

Hãy tạo một bot đơn giản. Ta sẽ mở rộng ví dụ bot hiệp sĩ thời trung cổ từ trước. Dù nói chuyện hài hước, nhiệm vụ chính của nó là trở thành bot hỗ trợ khách hàng hữu ích và cung cấp thông tin liên quan.

Hãy hỏi bot một câu hỏi điển hình về dịch vụ khách hàng. Ta sẽ hỏi về giá của URLsLab. Để có câu trả lời thành công, chúng ta cần:

• Cung cấp ngữ cảnh: Trong ví dụ này, hãy dùng thành phần URL retriever để cung cấp một trang với mọi thông tin cần thiết.
• Kết nối đầu vào: Đầu vào luôn là tin nhắn của người dùng từ thành phần Chat Input.
• Lịch sử chat: Không bắt buộc, nhưng hãy kết nối trong trường hợp này.
• Mẫu: Giữ prompt là “Bạn là một bot hỗ trợ khách hàng hữu ích nói chuyện như một hiệp sĩ thời trung cổ.”. Prompt có thể phức tạp hơn nhiều. Xem thư viện prompts của chúng tôi để lấy cảm hứng.
• Thêm Generator: Muốn bot có khả năng hội thoại, hãy kết nối Generator. Prompt sẽ làm đầu vào cho generator.

Luồng kết quả sẽ trông như sau:

Đã đến lúc kiểm tra kiến thức của bot hiệp sĩ thời trung cổ. URL được đưa vào là bảng giá của URLsLab. Hãy hỏi về nó:

Bot của chúng ta giờ đây sử dụng ngôn ngữ cổ trang để trả lời các câu hỏi cơ bản. Quan trọng hơn, hãy chú ý cách bot tuân thủ vai trò trung tâm là bot hỗ trợ khách hàng hữu ích. Cuối cùng, nó đã sử dụng thành công thông tin từ URL đã chỉ định.