Giải thích được (Explainability)

Giải thích được trong AI đề cập đến khả năng hiểu và diễn giải các quyết định, dự đoán mà các hệ thống trí tuệ nhân tạo (AI) đưa ra. Khi các thuật toán AI và học máy trở nên ngày càng phức tạp, đặc biệt với sự xuất hiện của học sâu và mạng nơ-ron, chúng thường vận hành như những “hộp đen”. Điều này có nghĩa là ngay cả các kỹ sư và nhà khoa học dữ liệu phát triển các mô hình này cũng có thể không hoàn toàn hiểu được cách mà các đầu vào cụ thể dẫn đến các kết quả cụ thể. Giải thích được trong AI nhằm làm sáng tỏ các quá trình này, giúp hệ thống AI minh bạch hơn và kết quả của chúng dễ hiểu hơn đối với con người.

Tại sao Giải thích được trong AI lại quan trọng?

Niềm tin và Minh bạch

Để các hệ thống AI được chấp nhận rộng rãi và xây dựng được niềm tin, đặc biệt trong các lĩnh vực quan trọng như y tế, tài chính và pháp luật, các bên liên quan cần hiểu được cách các quyết định được đưa ra. Khi một thuật toán học máy đề xuất một phương án điều trị hoặc phê duyệt một đơn xin vay, điều quan trọng là người dùng biết lý do đằng sau các quyết định này nhằm đảm bảo tính công bằng và xây dựng niềm tin.

Yêu cầu pháp lý

Nhiều ngành nghề phải tuân thủ các quy định bắt buộc về sự minh bạch trong các quy trình ra quyết định. Quy định có thể yêu cầu tổ chức cung cấp giải thích cho các quyết định tự động, đặc biệt khi chúng ảnh hưởng lớn đến cá nhân. Vi phạm có thể dẫn đến hậu quả pháp lý và mất niềm tin của khách hàng.

Phát hiện và Giảm thiểu Thiên vị

Các hệ thống AI được huấn luyện trên dữ liệu thiên lệch có thể duy trì, thậm chí khuếch đại các thiên vị đó. Giải thích được cho phép nhà phát triển và các bên liên quan phát hiện ra các quyết định không công bằng hoặc thiên vị bên trong mô hình AI. Bằng cách hiểu các quyết định được tạo ra như thế nào, tổ chức có thể can thiệp, chỉnh sửa nhằm đảm bảo AI vận hành công bằng trên nhiều nhóm người dùng khác nhau.

Cải thiện Hiệu suất Mô hình

Hiểu rõ hoạt động bên trong của mô hình AI giúp các nhà khoa học dữ liệu tối ưu hóa hiệu suất mô hình. Bằng cách diễn giải các đặc trưng (feature) ảnh hưởng đến quyết định, họ có thể tinh chỉnh mô hình, nâng cao độ chính xác và đảm bảo mô hình tổng quát tốt trên dữ liệu mới.

Làm thế nào để đạt được Giải thích được trong AI?

Đạt được giải thích được trong AI đòi hỏi phải kết hợp thiết kế mô hình dễ hiểu và áp dụng các phương pháp giải thích cho các mô hình phức tạp sau khi huấn luyện (post hoc).

Dễ hiểu (Interpretability) vs. Giải thích được (Explainability)

• Dễ hiểu: Đề cập đến mức độ mà con người có thể hiểu nguyên nhân của một quyết định do hệ thống AI đưa ra.
• Giải thích được: Đi xa hơn bằng cách cung cấp mô tả rõ ràng các yếu tố và lý do dẫn đến một quyết định.

Dù hai khái niệm này liên quan mật thiết, dễ hiểu tập trung vào sự minh bạch của chính mô hình, còn giải thích được tập trung vào việc tạo ra các giải thích cho đầu ra của mô hình.

Mô hình dễ hiểu

Mô hình dễ hiểu là các mô hình vốn dĩ dễ hiểu đối với con người. Ví dụ bao gồm:

• Hồi quy tuyến tính: Mô hình mà mối quan hệ giữa các đặc trưng đầu vào và đầu ra là tuyến tính, dễ dàng diễn giải hệ số như mức độ ảnh hưởng của từng đặc trưng.
• Cây quyết định: Biểu diễn trực quan các quyết định, mỗi nút là một đặc trưng, các nhánh là các quy tắc quyết định.
• Hệ thống dựa trên luật: Sử dụng tập hợp các quy tắc mà con người có thể hiểu được để ra quyết định.

Các mô hình này đôi khi giảm sức mạnh dự đoán để đổi lấy sự minh bạch, rất hữu ích khi giải thích là yếu tố quan trọng.

Giải thích hậu kỳ (Post-Hoc Explanations)

Đối với các mô hình phức tạp như mạng nơ-ron sâu, vốn ít dễ hiểu, các giải thích hậu kỳ được sử dụng. Các kỹ thuật này phân tích hành vi của mô hình sau khi nó đã đưa ra dự đoán.

Phương pháp độc lập mô hình (Model-Agnostic Methods)

Các phương pháp này có thể áp dụng cho bất kỳ loại mô hình nào mà không cần truy cập cấu trúc bên trong của nó.

Giải thích cục bộ độc lập mô hình (LIME)

LIME là một kỹ thuật phổ biến giúp giải thích dự đoán của bất kỳ bộ phân loại nào bằng cách xấp xỉ cục bộ với một mô hình dễ hiểu. Với một dự đoán cụ thể, LIME sẽ thay đổi nhẹ đầu vào và quan sát sự thay đổi ở đầu ra để xác định các đặc trưng ảnh hưởng nhiều nhất đến quyết định.

Giải thích cộng gộp theo giá trị Shapley (SHAP)

SHAP dựa trên lý thuyết trò chơi hợp tác, cung cấp một thước đo thống nhất về tầm quan trọng của từng đặc trưng. SHAP định lượng mức đóng góp của từng đặc trưng vào dự đoán, xét đến tất cả các kết hợp đặc trưng có thể.

Giải thích toàn cục vs. Giải thích cục bộ

• Giải thích toàn cục: Cung cấp cái nhìn tổng quan về hành vi của mô hình trên toàn bộ tập dữ liệu.
• Giải thích cục bộ: Tập trung vào một dự đoán cụ thể, giải thích lý do mô hình đưa ra quyết định cho một trường hợp cá nhân.

Nghiên cứu về Giải thích được trong AI

Giải thích được trong AI ngày càng nhận được nhiều sự quan tâm khi các hệ thống AI ngày càng tích hợp sâu vào quá trình ra quyết định của con người. Dưới đây là một số bài báo khoa học mới về chủ đề quan trọng này:

1. Explainable AI Improves Task Performance in Human-AI Collaboration (Xuất bản: 2024-06-12)
   Tác giả: Julian Senoner, Simon Schallmoser, Bernhard Kratzwald, Stefan Feuerriegel, Torbjørn Netland
   Bài báo này khám phá tác động của AI có khả năng giải thích trong việc nâng cao hiệu quả công việc khi con người và AI hợp tác. Các tác giả cho rằng AI truyền thống vận hành như một hộp đen, khiến con người khó xác thực dự đoán của AI theo kiến thức của mình. Bằng cách đưa vào các yếu tố giải thích, đặc biệt qua bản đồ nhiệt trực quan, nghiên cứu cho thấy hiệu suất công việc được cải thiện. Hai thí nghiệm đã được thực hiện với công nhân nhà máy và bác sĩ X-quang, cho thấy tỷ lệ sai sót giảm đáng kể khi sử dụng AI giải thích được. Nghiên cứu này nhấn mạnh tiềm năng của AI giải thích được trong việc nâng cao độ chính xác ra quyết định ở các nhiệm vụ thực tế. Đọc thêm

2. “Weak AI” is Likely to Never Become “Strong AI”, So What is its Greatest Value for Us? (Xuất bản: 2021-03-29)
   Tác giả: Bin Liu
   Bài báo này đề cập đến các tranh luận liên tục xoay quanh khả năng và tiềm năng tương lai của AI. Tác giả phân biệt giữa “AI yếu” và “AI mạnh” và cho rằng dù AI mạnh có thể không đạt được, AI yếu vẫn mang lại giá trị lớn. Tác giả phân tích các tiêu chí phân loại nghiên cứu AI và bàn về tác động xã hội của khả năng hiện tại của AI. Công trình này mang lại góc nhìn triết học về vai trò của AI trong xã hội. Đọc thêm

3. Understanding Mental Models of AI through Player-AI Interaction (Xuất bản: 2021-03-30)
   Tác giả: Jennifer Villareale, Jichen Zhu
   Nghiên cứu này khảo sát cách cá nhân hình thành mô hình tư duy về hệ thống AI thông qua tương tác trong các trò chơi dựa trên AI. Các tác giả cho rằng những tương tác này cung cấp hiểu biết quý giá về sự phát triển mô hình tư duy của người dùng AI. Một nghiên cứu điển hình được trình bày nhằm nêu bật lợi ích của việc sử dụng trò chơi để nghiên cứu AI giải thích được, cho thấy các tương tác này có thể nâng cao sự hiểu biết của người dùng về AI.

4. From Explainable to Interactive AI: A Literature Review on Current Trends in Human-AI Interaction (Xuất bản: 2024-05-23)
   Tác giả: Muhammad Raees, Inge Meijerink, Ioanna Lykourentzou, Vassilis-Javed Khan, Konstantinos Papangelis
   Bài tổng quan này nghiên cứu quá trình chuyển đổi từ AI giải thích được sang AI tương tác, nhấn mạnh tầm quan trọng của sự tham gia của con người trong phát triển và vận hành hệ thống AI. Bài báo tổng hợp các xu hướng hiện tại và mối quan tâm xã hội liên quan đến tương tác người-AI, làm nổi bật nhu cầu về các hệ thống AI vừa có thể giải thích vừa có thể tương tác. Tổng quan toàn diện này cung cấp lộ trình cho nghiên cứu tương lai trong lĩnh vực này.