Rudin (2019) — Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead

Nguồn tham khảo: Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1(5), 206–215. https://doi.org/10.1038/s42256-019-0048-x

Truy cập toàn văn: https://doi.org/10.1038/s42256-019-0048-x

Tóm tắt nội dung

Rudin phản biện xu hướng dùng mô hình hộp đen cho các quyết định hệ trọng, vốn đã gây ra vấn đề trong y tế, tư pháp hình sự và nhiều lĩnh vực khác. Trước kỳ vọng rằng các phương pháp giải thích sẽ khắc phục vấn đề, tác giả lập luận ngược lại: cố giải thích hộp đen thay vì xây dựng mô hình diễn giải được ngay từ đầu dễ duy trì thói quen xấu và có thể gây hại lớn cho xã hội.

Đây là một bài quan điểm (Perspective), không dựa trên bộ dữ liệu cụ thể. Bài viết làm rõ khoảng cách giữa giải thích hộp đen và dùng mô hình vốn dễ diễn giải, nêu lý do nên tránh hộp đen kèm lời giải thích trong quyết định hệ trọng, chỉ ra thách thức đối với học máy diễn giải được, và đưa ra ví dụ trong tư pháp hình sự, y tế và thị giác máy tính nơi mô hình dễ diễn giải có thể thay thế hộp đen.

Theo tác giả, công sức nên dồn vào xây dựng mô hình minh bạch từ đầu, nhất là khi ứng dụng tác động trực tiếp tới đời sống con người. Với bài toán dự báo sinh viên bỏ học, tài liệu là lý do để luôn so sánh XGBoost với hồi quy logistic hoặc mô hình đơn giản khác, và chỉ chọn mô hình phức tạp khi mức cải thiện đủ bù cho sự kém minh bạch.

Luận điểm liên quan trong bài viết chính

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp