Thai-Nghe, Gantner & Schmidt-Thieme (2010) — Cost-sensitive learning methods for imbalanced data

Nguồn tham khảo: Thai-Nghe, N., Gantner, Z., & Schmidt-Thieme, L. (2010). Cost-sensitive learning methods for imbalanced data. In The 2010 International Joint Conference on Neural Networks (IJCNN) (tr. 1–8). https://doi.org/10.1109/IJCNN.2010.5596486

Truy cập toàn văn: https://doi.org/10.1109/IJCNN.2010.5596486

Tóm tắt nội dung

Nguyen Thai-Nghe, Zeno Gantner và Lars Schmidt-Thieme nghiên cứu bài toán mất cân bằng lớp. Với dữ liệu mất cân bằng nặng, phần lớn bộ phân loại bị lớp đa số lấn át, nên tỷ lệ âm tính giả luôn cao. Hai hướng xử lý phổ biến là lấy mẫu lại (resampling) và học nhạy chi phí (cost-sensitive learning, CSL), nhưng đa số nghiên cứu chỉ chọn một trong hai. Bài báo trình bày hai phương pháp thực nghiệm dùng cả hai hướng. Phương pháp thứ nhất kết hợp và so sánh nhiều kỹ thuật lấy mẫu với CSL trên máy vectơ hỗ trợ (SVM).

Phương pháp thứ hai áp dụng CSL với tỷ lệ chi phí, tức ma trận chi phí, được tối ưu ở mức cục bộ. Ma trận chi phí ghi lại cái giá của từng loại lỗi, chẳng hạn bỏ sót một mẫu dương tính tốn gấp bao nhiêu lần báo nhầm một mẫu âm tính. Thực nghiệm trên 18 bộ dữ liệu mất cân bằng từ kho UCI cho thấy phương pháp thứ nhất giảm được chi phí phân loại sai, còn phương pháp thứ hai cải thiện hiệu năng bộ phân loại.

Dữ liệu bỏ học cũng mất cân bằng, và bỏ sót một sinh viên có nguy cơ thường tốn kém hơn cảnh báo nhầm. Bài báo cho thấy có thể kết hợp lấy mẫu lại với ma trận chi phí, và nên tinh chỉnh tỷ lệ chi phí bằng thực nghiệm thay vì đặt tùy ý.

Luận điểm liên quan trong bài viết chính

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp