Nguồn tham khảo: Domingos, P. (1999). MetaCost: a general method for making classifiers cost-sensitive. In Proceedings of the fifth ACM SIGKDD international conference on Knowledge discovery and data mining (tr. 155–164). https://doi.org/10.1145/312129.312220
Truy cập toàn văn: https://doi.org/10.1145/312129.312220
Tóm tắt nội dung
Pedro Domingos nhận thấy hầu hết thuật toán phân loại đều ngầm giả định mọi lỗi có cùng chi phí, trong khi các bài toán khai phá dữ liệu thực tế hiếm khi như vậy, còn sửa từng thuật toán cho nhạy chi phí thì tốn công và không đơn giản. Bài báo, trình bày tại hội nghị ACM SIGKDD năm 1999, đề xuất MetaCost, một thủ tục tối thiểu hóa chi phí bọc quanh bộ phân loại bất kỳ. MetaCost coi bộ phân loại gốc là hộp đen, không cần biết cách nó vận hành và không sửa gì bên trong.
Cụ thể, phương pháp dùng bagging để ước lượng xác suất lớp của từng mẫu huấn luyện, gán lại nhãn theo lớp có chi phí kỳ vọng thấp nhất dựa trên ma trận chi phí, rồi huấn luyện lại bộ phân loại trên dữ liệu mới. Khác với phân tầng (stratification), MetaCost dùng được cho số lớp bất kỳ và ma trận chi phí tùy ý. Thực nghiệm trên nhiều cơ sở dữ liệu chuẩn cho thấy MetaCost gần như luôn giảm mạnh chi phí so với bộ phân loại không xét chi phí dùng làm nền (C4.5RULES) và hai dạng phân tầng.
Thử nghiệm bổ sung xác định các thành phần then chốt và cho thấy phương pháp mở rộng tốt trên dữ liệu lớn hơn. Với mô hình cảnh báo bỏ học, MetaCost cho phép đưa ma trận chi phí vào thuật toán nhà trường đang dùng mà không phải viết lại thuật toán.
Luận điểm liên quan trong bài viết chính
Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: XGBoost, kịch bản B: độ nhạy và độ chính xác dương tính theo ngưỡng (tập kiểm tra 885 sinh viên) Độ nhạy Độ chính xác dương tính 0,20 378 gắn cờ · 131 nhầm 0,30 325 gắn cờ · 91 nhầm 0,40 277 gắn cờ · 53 nhầm 0,50 236 gắn cờ · 35 nhầm 0,70 187 gắn cờ · 15 nhầm 0,85 139 gắn cờ · 5 nhầm Hình 4: Hạ ngưỡng thì bắt được nhiều người bỏ học hơn nhưng danh sách dài hơn và nhiều báo động nhầm hơn Cách 1: ngưỡng tối ưu theo lý thuyết quyết định Phần lớn thuật toán phân loại ngầm giả định mọi loại sai số có giá như nhau, trong khi thực tế hiếm khi như vậy (Domingos, 1999). Hướng "bọc" một bộ phân loại bất kỳ bằng thủ tục tối thiểu chi phí như MetaCost (Domingos, 1999), hay tối ưu tỷ lệ chi phí kết hợp lấy mẫu lại (Thai-Nghe, Gantner và Schmidt-Thieme, 2010), là những lựa chọn khác khi mô hình không cho xác suất đáng tin.
Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp