Nguồn tham khảo: Vanderschueren, T., Verdonck, T., Baesens, B., & Verbeke, W. (2022). Predict-then-optimize or predict-and-optimize? An empirical evaluation of cost-sensitive learning strategies. Information Sciences, 594, 400–415. https://doi.org/10.1016/j.ins.2022.02.021
Truy cập toàn văn: https://doi.org/10.1016/j.ins.2022.02.021
Tóm tắt nội dung
Toon Vanderschueren, Tim Verdonck, Bart Baesens và Wouter Verbeke so sánh hai cách đưa chi phí vào mô hình dự báo phục vụ ra quyết định. Cách thứ nhất, “dự báo rồi tối ưu” (predict-then-optimize), xây mô hình dự báo trước rồi mới dùng nó để tối ưu quyết định, nên chi phí chỉ được tính ở giai đoạn hai. Cách thứ hai, “dự báo và tối ưu” (predict-and-optimize), huấn luyện mô hình bằng hàm mất mát riêng cho nhiệm vụ, tính chi phí của các kết cục ngay từ giai đoạn một.
Về khái niệm, nhóm tác giả dùng khung hai giai đoạn để chia các phương pháp học nhạy chi phí thành nhóm tác động vào khâu huấn luyện và nhóm tác động vào khâu ra quyết định. Về thực nghiệm, họ so sánh hai cách tiếp cận với cả chi phí phụ thuộc lớp và chi phí phụ thuộc từng trường hợp (instance-dependent), trên dữ liệu thực từ nhiều lĩnh vực, bằng cả thước đo có và không tính chi phí. Phát hiện chính là chiến lược điều chỉnh ở khâu ra quyết định nhìn chung hiệu quả hơn huấn luyện bằng hàm mất mát riêng hoặc kết hợp cả hai.
Với hệ thống cảnh báo bỏ học, bài báo ủng hộ một lộ trình đơn giản: huấn luyện mô hình xác suất như thường lệ, rồi đặt ngưỡng cảnh báo theo chi phí bỏ sót và chi phí can thiệp, thay vì mất công thiết kế hàm mất mát riêng.
Luận điểm liên quan trong bài viết chính
Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: Kết quả này khớp với nghiên cứu so sánh của Vanderschueren và cộng sự (2022): đưa chi phí vào bước ra quyết định thường hiệu quả hơn đưa vào hàm mất mát khi huấn luyện hoặc kết hợp cả hai.
Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp