Sắp Xếp Lại Tài Liệu (Document Reranking)

Sắp xếp lại tài liệu sắp xếp lại các tài liệu đã truy xuất dựa trên mức độ liên quan đến truy vấn, tinh chỉnh kết quả tìm kiếm. Mở rộng truy vấn giúp nâng cao tìm kiếm bằng cách bổ sung các thuật ngữ liên quan, tăng khả năng bao phủ và xử lý mơ hồ. Kết hợp hai kỹ thuật này trong hệ thống RAG giúp tăng độ chính xác khi truy xuất và chất lượng phản hồi.

Sắp xếp lại tài liệu là quá trình sắp xếp lại thứ tự các tài liệu đã truy xuất dựa trên mức độ liên quan đến truy vấn của người dùng. Sau bước truy xuất ban đầu, sắp xếp lại sẽ tinh chỉnh kết quả bằng cách đánh giá mức độ phù hợp của từng tài liệu một cách chính xác hơn, đảm bảo các tài liệu liên quan nhất được ưu tiên.

Truy Xuất Kết Hợp Sinh Văn Bản (RAG) Là Gì?

Retrieval-Augmented Generation (RAG) là một khuôn khổ tiên tiến kết hợp năng lực của Mô hình Ngôn ngữ Lớn (LLMs) với các hệ thống truy xuất thông tin. Trong RAG, khi người dùng gửi truy vấn, hệ thống sẽ truy xuất các tài liệu liên quan từ một kho tri thức rộng lớn và cung cấp thông tin này cho LLM để sinh ra các phản hồi chính xác, có ngữ cảnh. Cách tiếp cận này nâng cao độ chính xác và mức độ phù hợp của nội dung AI bằng cách dựa trên dữ liệu thực tế.

Hiểu Về Mở Rộng Truy Vấn

Mở Rộng Truy Vấn Là Gì?

Định nghĩa

Mở rộng truy vấn là một kỹ thuật được sử dụng trong truy xuất thông tin nhằm nâng cao hiệu quả của truy vấn tìm kiếm. Nó bổ sung vào truy vấn gốc các từ hoặc cụm từ có ý nghĩa liên quan. Mục tiêu chính là thu hẹp khoảng cách giữa ý định của người dùng và ngôn ngữ sử dụng trong các tài liệu liên quan, từ đó cải thiện khả năng truy xuất thông tin phù hợp.

Cách Thức Hoạt Động

Trong thực tế, mở rộng truy vấn có thể được thực hiện bằng nhiều phương pháp:

• Mở Rộng Đồng Nghĩa: Bổ sung các từ đồng nghĩa với các thành phần truy vấn để bao phủ nhiều cách diễn đạt.
• Thuật Ngữ Liên Quan: Thêm các thuật ngữ có liên quan về ngữ cảnh nhưng không nhất thiết là đồng nghĩa trực tiếp.
• Mở Rộng Dựa Trên LLM: Sử dụng các Mô hình Ngôn ngữ Lớn để sinh ra các truy vấn mở rộng bằng cách dự đoán những từ hoặc cụm từ phù hợp với truy vấn gốc.

Việc mở rộng truy vấn giúp hệ thống truy xuất bao phủ rộng hơn, thu được cả các tài liệu có thể bị bỏ sót do sự khác biệt về thuật ngữ hoặc cách diễn đạt.

Tại Sao Mở Rộng Truy Vấn Quan Trọng Trong RAG?

Nâng Cao Khả Năng Bao Phủ (Recall)

Recall là khả năng của hệ thống truy xuất tìm ra tất cả tài liệu liên quan. Mở rộng truy vấn nâng cao recall bằng cách:

• Truy xuất các tài liệu sử dụng thuật ngữ khác để diễn đạt cùng một khái niệm.
• Thu thập các tài liệu đề cập đến các chủ đề phụ hoặc phạm vi rộng hơn liên quan đến truy vấn.

Xử Lý Sự Mơ Hồ Trong Truy Vấn

Người dùng thường gửi các truy vấn ngắn hoặc mơ hồ. Mở rộng truy vấn giúp:

• Làm rõ ý định của người dùng bằng cách xét nhiều cách hiểu khác nhau.
• Cung cấp tìm kiếm toàn diện hơn bằng cách bao quát nhiều khía cạnh của chủ đề.

Tăng Khả Năng Ghép Nối Tài Liệu

Bằng cách bổ sung các thuật ngữ liên quan, hệ thống tăng khả năng ghép nối truy vấn với các tài liệu sử dụng vốn từ khác biệt, nhờ đó nâng cao hiệu quả tổng thể của quá trình truy xuất.

Các Phương Pháp Mở Rộng Truy Vấn

1. Phản Hồi Giả Định (Pseudo-Relevance Feedback - PRF)

PRF Là Gì?

Pseudo-Relevance Feedback là phương pháp mở rộng truy vấn tự động khi hệ thống giả định rằng các tài liệu được xếp hạng cao nhất từ lần tìm kiếm đầu tiên là liên quan. Hệ thống sẽ trích xuất các thuật ngữ quan trọng từ những tài liệu này để bổ sung cho truy vấn gốc.

Cách PRF Hoạt Động

• Thực Thi Truy Vấn Ban Đầu: Thực hiện truy vấn gốc và truy xuất các tài liệu hàng đầu.
• Trích Xuất Thuật Ngữ: Xác định các thuật ngữ chính dựa trên tần suất hoặc mức độ quan trọng trong tài liệu.
• Mở Rộng Truy Vấn: Bổ sung các thuật ngữ này vào truy vấn gốc.
• Truy Xuất Lần Hai: Sử dụng truy vấn mở rộng để tìm kiếm lại, kỳ vọng thu được nhiều tài liệu liên quan hơn.

Ưu & Nhược Điểm

• Ưu điểm: Nâng cao recall mà không cần can thiệp của người dùng.
• Nhược điểm: Nếu kết quả ban đầu có tài liệu không liên quan, truy vấn mở rộng có thể chứa các thuật ngữ sai lệch, làm giảm độ chính xác.

2. Mở Rộng Truy Vấn Dựa Trên LLM

Khai Thác Mô Hình Ngôn Ngữ Lớn

Với sự phát triển của AI, các LLM như GPT-3 và GPT-4 có thể sinh ra các mở rộng truy vấn phức tạp nhờ hiểu ngữ cảnh và ý nghĩa.

Cách Mở Rộng Dựa Trên LLM Hoạt Động

• Sinh Đáp Án Giả Định: LLM sinh ra một đáp án giả định cho truy vấn gốc.
• Mở Rộng Ngữ Cảnh: Đáp án cung cấp thêm ngữ cảnh và thuật ngữ liên quan.
• Kết Hợp Truy Vấn: Truy vấn gốc và kết quả sinh từ LLM được kết hợp thành truy vấn mở rộng.

Ví dụ

Truy vấn gốc:
“Những yếu tố quan trọng nhất góp phần làm tăng doanh thu là gì?”

Đáp án do LLM sinh ra:
“Trong năm tài chính, một số yếu tố chủ chốt đã góp phần đáng kể vào việc tăng doanh thu của công ty, bao gồm các chiến dịch marketing thành công, đa dạng hóa sản phẩm, sáng kiến nâng cao sự hài lòng khách hàng, chiến lược giá và đầu tư vào công nghệ.”

Truy vấn mở rộng:
“Truy vấn gốc: Những yếu tố quan trọng nhất góp phần làm tăng doanh thu là gì?
Đáp án giả định: [Đáp án do LLM sinh ra]”

Ưu điểm

• Hiểu Biết Sâu Sắc: Nắm bắt các mối quan hệ và khái niệm tinh vi.
• Tùy Biến: Điều chỉnh mở rộng phù hợp với lĩnh vực hoặc ngữ cảnh cụ thể.

Thách Thức

• Tài Nguyên Tính Toán: Có thể cần nhiều tài nguyên xử lý.
• Mở Rộng Quá Mức: Nguy cơ bổ sung quá nhiều hoặc không liên quan.

Triển Khai Mở Rộng Truy Vấn Trong Hệ Thống RAG

Quy Trình Bước Đầu

1. Nhập Truy Vấn Người Dùng: Hệ thống nhận truy vấn gốc.
2. Mở Rộng Bằng LLM:
   • Hệ thống yêu cầu LLM sinh đáp án giả định hoặc truy vấn liên quan.
   • Ví dụ prompt:
     “Hãy cung cấp câu trả lời chi tiết hoặc truy vấn liên quan cho: [Truy vấn người dùng]”
3. Kết Hợp Truy Vấn:
   • Kết hợp truy vấn gốc và phần nội dung mở rộng.
   • Đảm bảo truy vấn mở rộng vẫn bám sát ý định người dùng.
4. Dùng Cho Truy Xuất:
   • Sử dụng truy vấn mở rộng để truy xuất tài liệu từ kho tri thức.
   • Có thể sử dụng tìm kiếm theo từ khóa, tìm kiếm ngữ nghĩa hoặc kết hợp.

Lợi Ích Trong Hệ Thống RAG

• Truy Xuất Nâng Cao: Lấy được nhiều tài liệu liên quan, cung cấp bối cảnh tốt hơn cho LLM.
• Cải Thiện Trải Nghiệm Người Dùng: Phản hồi chính xác và đầy đủ hơn.

Hiểu Về Sắp Xếp Lại Tài Liệu

Tại Sao Cần Sắp Xếp Lại

• Giới Hạn Của Truy Xuất Ban Đầu: Các phương pháp truy xuất ban đầu có thể dựa vào các chỉ số tương tự tổng quát, khó nắm bắt được sự liên quan tinh tế.
• Lọc Nhiễu: Mở rộng truy vấn có thể đưa vào tài liệu kém liên quan; sắp xếp lại giúp lọc bỏ chúng.
• Tối Ưu Bối Cảnh Cho LLM: Cung cấp các tài liệu liên quan nhất giúp LLM sinh ra phản hồi chất lượng cao hơn.

Các Phương Pháp Sắp Xếp Lại Tài Liệu

1. Mô Hình Cross-Encoder

Tổng Quan

Cross-encoder là các mô hình mạng neural nhận đầu vào là một cặp (truy vấn và tài liệu) và xuất ra điểm số liên quan. Khác với bi-encoder, cross-encoder mã hóa truy vấn và tài liệu cùng lúc, cho phép khai thác tương tác sâu giữa hai thành phần.

Cách Cross-Encoder Hoạt Động

• Ghép Cặp Đầu Vào: Mỗi tài liệu được ghép với truy vấn.
• Mã Hóa Kết Hợp: Mô hình mã hóa cả hai cùng lúc, khai thác tương tác.
• Chấm Điểm: Xuất ra điểm số liên quan cho từng tài liệu.
• Xếp Hạng: Sắp xếp tài liệu theo điểm số này.

Ưu điểm

• Độ Chính Xác Cao: Đánh giá mức độ liên quan chính xác hơn.
• Hiểu Ngữ Cảnh: Nắm bắt các mối liên hệ phức tạp giữa truy vấn và tài liệu.

Thách Thức

• Nặng Về Tính Toán: Đòi hỏi nhiều tài nguyên khi xử lý tập tài liệu lớn.

2. ColBERT (Mô Hình Tương Tác Muộn)

ColBERT Là Gì?

ColBERT (Contextualized Late Interaction over BERT) là mô hình truy xuất thiết kế để cân bằng giữa hiệu quả và hiệu suất. Sử dụng cơ chế tương tác muộn, ColBERT cho phép so sánh chi tiết giữa các token truy vấn và tài liệu mà không tốn quá nhiều tài nguyên.

Cách ColBERT Hoạt Động

• Mã Hóa Cấp Độ Token: Mã hóa riêng lẻ các token của truy vấn và tài liệu bằng BERT.
• Tương Tác Muộn: Khi chấm điểm, so sánh các token của truy vấn và tài liệu bằng các phép đo tương đồng.
• Hiệu Quả: Cho phép tính toán trước embedding của tài liệu.

Ưu điểm

• Chấm Điểm Nhanh: Nhanh hơn cross-encoder đầy đủ.
• Truy Xuất Hiệu Quả: Vẫn giữ chất lượng truy xuất cao.

Trường Hợp Sử Dụng

• Phù hợp với truy xuất quy mô lớn, tài nguyên hạn chế.

3. FlashRank

Tổng Quan

FlashRank là thư viện sắp xếp lại nhẹ, nhanh, sử dụng các cross-encoder hiện đại. Dễ dàng tích hợp vào pipeline sẵn có và cải thiện hiệu suất sắp xếp với chi phí tối thiểu.

Tính Năng

• Dễ Sử Dụng: API đơn giản, tích hợp nhanh chóng.
• Tốc Độ: Tối ưu hóa cho sắp xếp lại nhanh.
• Chính Xác: Áp dụng các mô hình hiệu quả, chất lượng cao.

Ví dụ sử dụng

from flashrank import Ranker, RerankRequest

query = 'What were the most important factors that contributed to increases in revenue?'

ranker = Ranker(model_name="ms-marco-MiniLM-L-12-v2")
rerank_request = RerankRequest(query=query, passages=documents)
results = ranker.rerank(rerank_request)

Lợi Ích

• Đơn Giản Hóa Sắp Xếp Lại: Ẩn phức tạp của việc xử lý mô hình.
• Tối Ưu Hiệu Suất: Cân bằng tốt giữa tốc độ và độ chính xác.

Triển Khai Sắp Xếp Lại Tài Liệu Trong Hệ Thống RAG

Quy Trình

1. Truy Xuất Ban Đầu: Sử dụng truy vấn mở rộng để lấy tập tài liệu ứng viên.
2. Sắp Xếp Lại: Áp dụng mô hình sắp xếp lại (ví dụ: Cross-Encoder, ColBERT) để đánh giá mức độ liên quan của từng tài liệu.
3. Chọn Lọc: Lựa chọn các tài liệu xếp hạng cao nhất để làm bối cảnh cho LLM.

Lưu Ý

• Tài Nguyên Tính Toán: Sắp xếp lại có thể tốn tài nguyên, cần cân nhắc giữa hiệu suất và chi phí.
• Chọn Mô Hình: Chọn mô hình phù hợp với yêu cầu về độ chính xác và hiệu quả.
• Tích Hợp: Đảm bảo quy trình sắp xếp lại hòa nhập mượt mà với pipeline hiện có.

Kết Hợp Mở Rộng Truy Vấn & Sắp Xếp Lại Tài Liệu Trong RAG

Sức Mạnh Kết Hợp Giữa Mở Rộng Truy Vấn & Sắp Xếp Lại

Các Kỹ Thuật Bổ Sung

• Mở Rộng Truy Vấn mở rộng phạm vi tìm kiếm, truy xuất nhiều tài liệu hơn.
• Sắp Xếp Lại Tài Liệu tinh chỉnh, tập trung vào các tài liệu liên quan nhất.

Lợi Ích Khi Kết Hợp

• Tăng Recall & Precision: Cải thiện cả số lượng lẫn chất lượng tài liệu truy xuất.
• Truy Xuất Bền Vững: Khắc phục hạn chế khi áp dụng riêng lẻ từng phương pháp.
• Nâng Cao Đầu Ra LLM: Cung cấp bối cảnh tốt hơn, dẫn đến phản hồi chính xác, nhiều thông tin hơn.

Cách Chúng Phối Hợp

1. Nhận Truy Vấn Người Dùng: Nhận truy vấn gốc.
2. Mở Rộng Truy Vấn: Sử dụng các phương pháp như mở rộng bằng LLM để tạo truy vấn đầy đủ hơn.
3. Truy Xuất Ban Đầu: Dùng truy vấn mở rộng để lấy tập tài liệu rộng.
4. Sắp Xếp Lại Tài Liệu: Mô hình sắp xếp lại đánh giá và sắp xếp lại thứ tự tài liệu dựa trên sự liên quan với truy vấn gốc.
5. Cung Cấp Bối Cảnh: Các tài liệu xếp hạng cao nhất được cung cấp cho LLM làm bối cảnh.
6. Sinh Phản Hồi: LLM sinh ra câu trả lời dựa trên những tài liệu liên quan nhất.

Các Bước Triển Khai Thực Tiễn

Quy Trình Ví Dụ

• Mở Rộng Truy Vấn với LLM:

  def expand_query(query):
      prompt = f"Provide additional related queries for: '{query}'"
      expanded_queries = llm.generate(prompt)
      expanded_query = ' '.join([query] + expanded_queries)
      return expanded_query
  

• Truy Xuất Ban Đầu:

  documents = vector_db.retrieve_documents(expanded_query)
  

• Sắp Xếp Lại Tài Liệu:

  from sentence_transformers import CrossEncoder
  cross_encoder = CrossEncoder('cross-encoder/ms-marco-MiniLM-L-6-v2')
  pairs = [[query, doc.text] for doc in documents]
  scores = cross_encoder.predict(pairs)
  ranked_docs = [doc for _, doc in sorted(zip(scores, documents), reverse=True)]
  

• Chọn Lọc Tài Liệu Hàng Đầu:

  top_documents = ranked_docs[:top_k]
  

• Sinh Phản Hồi với LLM:

  context = '\n'.join([doc.text for doc in top_documents])
  prompt = f"Answer the following question using the context provided:\n\nQuestion: {query}\n\nContext:\n{context}"
  response = llm.generate(prompt)
  

Giám Sát & Tối Ưu

• Chỉ Số Hiệu Quả: Thường xuyên đo lường hiệu quả truy xuất bằng các chỉ số như precision, recall, điểm liên quan.
• Vòng Phản Hồi: Kết hợp phản hồi người dùng để cải thiện chiến lược mở rộng truy vấn và sắp xếp lại.
• Quản Lý Tài Nguyên: Tối ưu tài nguyên, ví dụ bằng cách cache kết quả hoặc giới hạn số lượng tài liệu sắp xếp lại.

Trường Hợp Ứng Dụng & Ví Dụ

Ví Dụ 1: Nâng Cao Chatbot AI Cho Hỗ Trợ Khách Hàng

Kịch Bản

Một doanh nghiệp sử dụng chatbot AI để xử lý các truy vấn liên quan đến sản phẩm, dịch vụ. Khách hàng thường đặt câu hỏi theo nhiều cách, sử dụng thuật ngữ, cụm từ khác nhau.

Thách Thức

• Ngôn ngữ và cách diễn đạt của khách hàng đa dạng.
• Cần phản hồi chính xác, nhanh chóng nhằm duy trì sự hài lòng.

Triển Khai

• Mở Rộng Truy Vấn: Chatbot mở rộng truy vấn khách hàng bằng cách thêm từ đồng nghĩa, thuật ngữ liên quan.
  Ví dụ, với câu hỏi “Làm thế nào để sửa thiết bị của tôi?”, truy vấn sẽ mở rộng thêm các cụm như “sửa chữa thiết bị”, “khắc phục sự cố máy”, v.v.
• Sắp Xếp Lại Tài Liệu: Các bài viết trợ giúp, FAQ sẽ được sắp xếp lại để ưu tiên các giải pháp phù hợp nhất. Cross-encoder đánh giá mức độ liên quan của từng tài liệu với vấn đề cụ thể của khách hàng.

Lợi Ích

• Cải thiện độ chính xác và mức độ phù hợp của phản hồi.
• Nâng cao sự hài lòng, rút ngắn thời gian giải quyết hỗ trợ.

Ví Dụ 2: Tối Ưu Công Cụ Nghiên Cứu AI

Kịch Bản

Các nhà nghiên cứu sử dụng trợ lý AI để tìm kiếm bài báo học thuật, dữ liệu và thông tin chuyên sâu cho công việc.

Thách Thức

• Truy vấn phức tạp với thuật ngữ chuyên ngành.
• Lượng lớn tài liệu học thuật cần lọc và sàng lọc.

Triển Khai

• Mở Rộng Truy Vấn: Trợ lý sử dụng LLM để mở rộng truy vấn với các khái niệm, từ đồng nghĩa liên quan.
  Truy vấn như “ứng dụng rối lượng tử” sẽ được mở rộng thành “các ứng dụng của rối lượng tử”, “rối lượng tử trong tính toán lượng tử”, v.v.
• Sắp Xếp Lại Tài Liệu: Các bài báo học thuật được sắp xếp lại dựa trên mức độ liên quan với truy vấn đã tinh chỉnh.

…[Nội dung tiếp tục]…