Chatbot RAG Theo Miền Thời Gian Thực

Tổng quan

Luồng công việc này triển khai một chatbot RAG (Retrieval-Augmented Generation) đơn giản, tận dụng Google Search thời gian thực để truy xuất thông tin mới nhất từ internet—cụ thể, có thể tùy chỉnh để giới hạn tất cả tìm kiếm trong một miền nhất định. Mục tiêu chính là tạo một chatbot có thể trả lời truy vấn người dùng bằng những nội dung liên quan và cập nhật nhất tìm thấy trực tuyến, rất hữu ích trong các tình huống mà cơ sở tri thức tĩnh không đủ đáp ứng.

Thành phần chính và Quy trình

Luồng công việc gồm nhiều khối chức năng dạng mô-đun, mỗi khối đại diện cho một năng lực cụ thể. Dưới đây là phân tích về cấu trúc và chức năng của luồng công việc:

Cách Luồng Công Việc Hoạt Động

Khi người dùng mở trò chuyện, Kích hoạt khi mở chat sẽ được kích hoạt. Điều này khởi tạo giao diện chat và hiển thị một số Widget nút với các truy vấn mẫu (ví dụ: “con khủng long nào có 500 răng?”). Khi người dùng nhấn nút hoặc nhập tin nhắn tùy chỉnh qua Nhập trò chuyện, quy trình sẽ diễn ra như sau:

1. Mở rộng truy vấn: Đầu vào của người dùng được diễn giải thành nhiều phiên bản để tối đa hóa khả năng tìm kiếm kết quả liên quan.

2. Google Search: Các truy vấn đã mở rộng được gửi đến Google Search. Theo mặc định, tìm kiếm bị giới hạn trong một miền cụ thể (được thiết lập bởi trường query_prefix, ví dụ: site: www.TENDOMAIN.com), cho phép bạn tập trung kiến thức chatbot vào chính website của mình hoặc nguồn tin cậy bất kỳ.

3. Truy xuất URL: Luồng công việc lấy nội dung của các kết quả tìm kiếm hàng đầu (URL) dưới dạng tài liệu đầy đủ.

4. Lắp ráp prompt: Nội dung truy xuất, đầu vào người dùng và lịch sử trò chuyện được kết hợp bằng thành phần Mẫu prompt để cung cấp ngữ cảnh phong phú cho câu trả lời.

5. Sinh phản hồi bằng LLM: Prompt được gửi tới OpenAI LLM, tạo ra câu trả lời mạch lạc và phù hợp với ngữ cảnh.

6. Xuất phản hồi: Câu trả lời được hiển thị cho người dùng qua Xuất trò chuyện.

Luồng Trường Hợp Sử Dụng Mẫu

• Người dùng mở chat: Hiện thông báo chào mừng và ba nút câu hỏi mẫu.
• Người dùng nhấn “khi nào là ngày của mẹ 2024?”: Câu hỏi lập tức xuất hiện trên khung chat (cho phản hồi tức thì).
• Luồng công việc chạy truy vấn qua các bước mở rộng, tìm kiếm, truy xuất, lắp ráp prompt và sinh phản hồi LLM, rồi hiển thị kết quả.

Tại Sao Nên Dùng Luồng Này

• Kiến thức thời gian thực: Chatbot có thể trả lời dựa trên thông tin mới nhất từ internet hoặc miền bạn chọn.
• Giới hạn theo miền: Tùy chỉnh trường query_prefix, bạn đảm bảo chatbot chỉ lấy thông tin từ website tin cậy hoặc cơ sở tri thức của riêng bạn, tăng độ tin cậy cho đáp án.
• Nhận biết ngữ cảnh: Bằng cách đưa lịch sử chat và nội dung truy xuất vào prompt, phản hồi phù hợp và sát ngữ cảnh cho hội thoại nhiều lượt.
• Mở rộng và tự động hóa: Thiết kế mô-đun giúp dễ dàng mở rộng hoặc thích ứng với nhiều miền khác nhau, hỗ trợ triển khai quy mô lớn trên nhiều chủ đề hoặc website.
• Trải nghiệm người dùng: Các nút bắt đầu nhanh và phản hồi tức thì giúp chatbot thân thiện với người dùng cuối.

Bảng Tổng Hợp Luồng Công Việc

Tùy chỉnh

• Để tập trung chatbot vào miền của bạn, hãy sửa trường query_prefix trong thành phần Google Search (ví dụ: site: www.TENDOMAIN.com).
• Thêm hoặc thay đổi các truy vấn mẫu bằng thành phần Widget nút để trải nghiệm người dùng phù hợp hơn.

Trường Hợp Sử Dụng Lý Tưởng

• Bot hỗ trợ khách hàng luôn tham chiếu đến tài liệu hoặc nội dung web cập nhật của bạn.
• Trợ lý tri thức nội bộ giới hạn trong intranet hoặc cổng hỗ trợ của công ty bạn.
• Bất kỳ chatbot nào cần luôn trích dẫn hoặc dựa vào nguồn ngoài, có thẩm quyền (ví dụ: vì tuân thủ hoặc độ chính xác).

Bằng cách tự động hóa quy trình tìm kiếm, truy xuất và sinh câu trả lời, luồng này giúp tiết kiệm thời gian tra cứu thủ công và đảm bảo người dùng luôn nhận được thông tin mới và phù hợp nhất.