Học bán giám sát

Học bán giám sát (SSL) là một kỹ thuật học máy nằm giữa học có giám sát và học không giám sát. Nó tận dụng cả dữ liệu đã gán nhãn và chưa gán nhãn để huấn luyện mô hình, đặc biệt hữu ích khi có sẵn lượng lớn dữ liệu chưa gán nhãn nhưng việc gán nhãn toàn bộ là không khả thi hoặc tốn kém. Phương pháp này kết hợp điểm mạnh của học có giám sát—dựa vào dữ liệu đã gán nhãn để huấn luyện—và học không giám sát—sử dụng dữ liệu chưa gán nhãn để phát hiện các mẫu hoặc nhóm.

Đặc điểm chính của học bán giám sát

1. Sử dụng dữ liệu: Dùng một phần nhỏ dữ liệu đã gán nhãn kết hợp với phần lớn dữ liệu chưa gán nhãn. Sự pha trộn này giúp mô hình vừa học từ dữ liệu đã gán nhãn vừa tận dụng dữ liệu chưa gán nhãn để cải thiện khả năng tổng quát và hiệu suất.
2. Giả định:
   • Giả định liên tục: Các điểm gần nhau trong không gian đầu vào thường có cùng nhãn.
   • Giả định phân cụm: Dữ liệu thường tạo thành các cụm, trong đó các điểm trong cùng một cụm có cùng nhãn.
   • Giả định đa tạp: Dữ liệu có chiều cao được cấu trúc trên một đa tạp có chiều thấp hơn.
3. Kỹ thuật:
   • Tự huấn luyện: Mô hình được huấn luyện ban đầu trên dữ liệu đã gán nhãn sẽ dự đoán nhãn cho dữ liệu chưa gán nhãn, sau đó lặp lại quá trình huấn luyện với các nhãn giả này.
   • Đồng huấn luyện: Hai mô hình được huấn luyện trên các tập đặc trưng hoặc góc nhìn khác nhau của dữ liệu, mỗi mô hình hỗ trợ cải thiện dự đoán của mô hình kia.
   • Phương pháp dựa trên đồ thị: Sử dụng cấu trúc đồ thị để lan truyền nhãn qua các nút, tận dụng sự tương đồng giữa các điểm dữ liệu.
4. Ứng dụng:
   • Nhận dạng hình ảnh và giọng nói: Khi việc gán nhãn từng điểm dữ liệu rất tốn công sức.
   • Phát hiện gian lận: Tận dụng các mẫu trong tập dữ liệu giao dịch lớn.
   • Phân loại văn bản: Phân loại hiệu quả các tập tài liệu lớn.
5. Lợi ích và thách thức:
   • Lợi ích: Giảm nhu cầu về bộ dữ liệu đã gán nhãn lớn, cải thiện độ chính xác của mô hình nhờ tận dụng thêm dữ liệu và dễ dàng thích ứng với dữ liệu mới với ít công sức gán nhãn bổ sung.
   • Thách thức: Cần xử lý cẩn trọng các giả định, chất lượng của nhãn giả có thể ảnh hưởng lớn đến hiệu suất mô hình.

Ví dụ ứng dụng

• Nhận dạng giọng nói: Các công ty như Meta đã sử dụng SSL để nâng cao hệ thống nhận dạng giọng nói bằng cách huấn luyện mô hình trên một tập nhỏ âm thanh đã gán nhãn, sau đó mở rộng học với một tập lớn âm thanh chưa gán nhãn.
• Phân loại tài liệu văn bản: Trong các trường hợp không thể gán nhãn thủ công từng tài liệu, SSL giúp phân loại tài liệu bằng cách tận dụng một tập nhỏ ví dụ đã gán nhãn.

Nghiên cứu về học bán giám sát

Học bán giám sát là một phương pháp học máy sử dụng một lượng nhỏ dữ liệu đã gán nhãn cùng với một lượng lớn dữ liệu chưa gán nhãn để huấn luyện mô hình. Phương pháp này đặc biệt hữu ích khi việc thu thập đầy đủ dữ liệu đã gán nhãn là tốn kém hoặc mất thời gian. Dưới đây là một số bài báo nghiên cứu quan trọng liên quan đến các khía cạnh và ứng dụng của học bán giám sát: