Nguồn tham khảo: Wachter, S., Mittelstadt, B., & Russell, C. (2017). Counterfactual Explanations Without Opening the Black Box: Automated Decisions and the GDPR. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3063289
Truy cập toàn văn: https://doi.org/10.2139/ssrn.3063289
Tóm tắt nội dung
Sandra Wachter, Brent Mittelstadt và Chris Russell bàn về “quyền được giải thích” trong Quy định chung về bảo vệ dữ liệu của Liên minh châu Âu (GDPR). Theo nhóm tác giả, buộc mở hộp đen của hệ thống ra quyết định bằng thuật toán sẽ vấp rào cản lớn về pháp lý lẫn kỹ thuật, trong khi nhiều kiểu giải thích lại ít có ích cho chủ thể dữ liệu. Họ coi giải thích là phương tiện giúp người bị ảnh hưởng hành động chứ không chỉ để hiểu.
Bài đề xuất ba mục tiêu: giúp cá nhân hiểu vì sao có quyết định đó; cho họ căn cứ để khiếu nại nếu kết quả bất lợi; và cho biết cần thay đổi gì để đạt kết quả mong muốn theo mô hình hiện tại. Sau khi xem xét mức độ GDPR hỗ trợ từng mục tiêu, nhóm tác giả khuyến nghị bên kiểm soát dữ liệu cung cấp giải thích phản thực vô điều kiện, tức mô tả thay đổi nhỏ nhất đối với thực tế để đạt kết quả mong muốn, không cần tiết lộ logic bên trong.
Bài thường được xem là điểm khởi đầu của hướng giải thích phản thực. Với sinh viên bị xếp vào nhóm nguy cơ, lời giải thích kiểu “nếu điểm trung bình học kỳ tới đạt một mức nhất định thì em ra khỏi nhóm cảnh báo” vừa dễ hiểu, vừa gợi ý hành động, mà nhà trường không phải công bố toàn bộ mô hình.
Luận điểm liên quan trong bài viết chính
Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: Wachter, Mittelstadt và Russell (2017) đề xuất giải thích phản thực (counterfactual explanation): mô tả thay đổi nhỏ nhất để kết quả khác đi, mà không cần mở hộp đen.
Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp