Mothilal, Sharma & Tan (2020) — Explaining machine learning classifiers through diverse counterfactual explanations

Nguồn tham khảo: Mothilal, R. K., Sharma, A., & Tan, C. (2020). Explaining machine learning classifiers through diverse counterfactual explanations. In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (tr. 607–617). https://doi.org/10.1145/3351095.3372850

Truy cập toàn văn: https://doi.org/10.1145/3351095.3372850

Tóm tắt nội dung

Ramaravind K. Mothilal, Amit Sharma và Chenhao Tan tìm cách để lời giải thích giúp con người không chỉ hiểu mà còn hành động được trước dự báo của thuật toán. Họ tập trung vào giải thích phản thực (counterfactual explanation), tức các ví dụ giả định cho thấy cần thay đổi gì để nhận được dự báo khác. Theo nhóm tác giả, giải thích phản thực tốt phải khả thi, tức phù hợp với hoàn cảnh và ràng buộc của người dùng, và phải đa dạng, tức đưa ra nhiều phương án khác nhau.

Bài đề xuất một khung sinh và đánh giá tập giải thích phản thực đa dạng dựa trên quá trình điểm định thức (determinantal point processes), kèm các thước đo khả năng hành động để so sánh với những phương pháp giải thích cục bộ khác, đồng thời bàn về các đánh đổi và hàm ý nhân quả. Thực nghiệm trên bốn bộ dữ liệu thực cho thấy khung này sinh được các phương án đa dạng, xấp xỉ tốt đường biên quyết định cục bộ và vượt các cách tiếp cận trước đó.

Mã nguồn có tên DiCE, được công bố trên GitHub của Microsoft. Trong bài toán sinh viên bỏ học, DiCE có thể gợi ý cho từng em vài lộ trình để ra khỏi nhóm nguy cơ, như cải thiện chuyên cần hoặc giảm số môn nợ, miễn là nhà trường khóa các đặc trưng không thể thay đổi như tuổi, giới tính.

Luận điểm liên quan trong bài viết chính

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp