Nguồn tham khảo: Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). "Why Should I Trust You?": Explaining the Predictions of Any Classifier. In Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (tr. 1135–1144). https://doi.org/10.1145/2939672.2939778
Truy cập toàn văn: https://doi.org/10.1145/2939672.2939778
Tóm tắt nội dung
Marco Tulio Ribeiro, Sameer Singh và Carlos Guestrin nhận xét rằng mô hình học máy dù được dùng rộng rãi vẫn là “hộp đen”, trong khi người dùng cần hiểu lý do của dự báo để quyết định có tin và hành động theo nó hay không, hoặc có nên triển khai một mô hình mới. Công trình công bố tại hội nghị ACM SIGKDD năm 2016 và giới thiệu phương pháp LIME (Local Interpretable Model-agnostic Explanations), giải thích dự báo của một bộ phân loại bất kỳ mà không cần biết cấu trúc bên trong.
Cách làm là tạo các mẫu nhiễu quanh điểm cần giải thích, xem mô hình gốc trả lời ra sao, rồi khớp một mô hình đơn giản, dễ diễn giải (chẳng hạn mô hình tuyến tính thưa) chỉ đúng trong vùng lân cận của dự báo đó. Kết quả là một danh sách ngắn các đặc trưng đẩy dự báo lên hoặc kéo xuống. Bài cũng đề xuất cách chọn vài dự báo tiêu biểu để người dùng nắm được bức tranh chung về mô hình.
Theo nhóm tác giả, hiểu lý do dự báo còn giúp biến một mô hình hay một dự báo thiếu tin cậy thành đáng tin hơn. Với bài toán cảnh báo sinh viên có nguy cơ bỏ học, LIME cho phép cố vấn học tập thấy vì sao hệ thống xếp một sinh viên cụ thể vào nhóm nguy cơ và kiểm tra lại lập luận của mô hình trước khi liên hệ hỗ trợ.
Luận điểm liên quan trong bài viết chính
Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: LIME giải thích một dự báo bằng cách tạo nhiều mẫu nhiễu quanh điểm cần giải thích rồi khớp một mô hình tuyến tính đơn giản trên các mẫu đó (Ribeiro, Singh và Guestrin, 2016).
Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp