Lundberg et al. (2020) — From local explanations to global understanding with explainable AI for trees

Nguồn tham khảo: Lundberg, S. M., Erion, G., Chen, H., DeGrave, A., Prutkin, J. M., Nair, B., Katz, R., Himmelfarb, J., Bansal, N., & Lee, S.-I. (2020). From local explanations to global understanding with explainable AI for trees. Nature Machine Intelligence, 2(1), 56–67. https://doi.org/10.1038/s42256-019-0138-9

Truy cập toàn văn: https://doi.org/10.1038/s42256-019-0138-9

Tóm tắt nội dung

Lundberg và cộng sự nhận thấy các mô hình dựa trên cây như rừng ngẫu nhiên, cây quyết định và cây tăng cường gradient phổ biến nhưng ít được chú ý về mặt giải thích. Bài báo có ba đóng góp: một thuật toán thời gian đa thức tính giải thích tối ưu dựa trên lý thuyết trò chơi, thường gọi là TreeExplainer hay Tree SHAP; một loại giải thích mới đo trực tiếp hiệu ứng tương tác cục bộ giữa các đặc trưng; và bộ công cụ gộp nhiều giải thích cục bộ để hiểu cấu trúc tổng thể của mô hình.

Trên ba bài toán học máy y khoa, việc gộp nhiều giải thích cục bộ cho phép nắm cấu trúc toàn cục mà vẫn trung thành với mô hình gốc ở từng dự đoán. Nhờ đó, họ tìm ra các yếu tố nguy cơ tử vong phi tuyến có tác động lớn nhưng hiếm gặp trong dân số Mỹ, làm nổi bật các nhóm dân cư có chung đặc điểm nguy cơ, nhận diện tương tác phi tuyến giữa các yếu tố nguy cơ bệnh thận mạn, và giám sát một mô hình đang chạy trong bệnh viện qua việc chỉ ra đặc trưng làm hiệu năng giảm dần.

Với bài toán dự báo sinh viên bỏ học, đây là tài liệu gốc để dùng SHAP giải thích dự đoán của XGBoost hay rừng ngẫu nhiên cho từng sinh viên lẫn cả nhóm, và theo dõi mô hình sau khi vận hành.

Luận điểm liên quan trong bài viết chính

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp