Baker & Hawn (2022) — Algorithmic Bias in Education

Nguồn tham khảo: Baker, R. S., & Hawn, A. (2022). Algorithmic Bias in Education. International Journal of Artificial Intelligence in Education, 32(4), 1052–1092. https://doi.org/10.1007/s40593-021-00285-9

Truy cập toàn văn: https://doi.org/10.1007/s40593-021-00285-9

Tóm tắt nội dung

Baker và Hawn (2022) tổng quan về thiên lệch thuật toán trong giáo dục, gồm nguyên nhân gây thiên lệch và các bằng chứng thực nghiệm về cách nó đã xuất hiện. Khác với các công trình tập trung vào định nghĩa toán học của công bằng hay thuật toán giảm thiên lệch, bài viết làm rõ tác động cụ thể: nhóm nào đã bị ảnh hưởng, và khâu nào, bên nào trong quá trình phát triển, triển khai có liên quan. Các tác giả gắn các góc nhìn lý thuyết và hình thức về thiên lệch với từng bước của quy trình học máy, và điểm lại các thước đo thiên lệch.

Bằng chứng được tổng hợp từ các nhóm được nghiên cứu nhiều như chủng tộc/dân tộc, giới tính, quốc tịch đến các nhóm ít được nghiên cứu hơn như địa vị kinh tế – xã hội, khuyết tật và người có liên hệ với quân đội. Bài báo đề xuất khung chuyển từ thiên lệch chưa biết sang thiên lệch đã biết, từ công bằng (fairness) sang công bằng thực chất (equity), đồng thời nêu các trở ngại và bốn hướng nỗ lực giảm thiên lệch trong hệ thống AI giáo dục.

Với bài toán dự báo bỏ học ở Việt Nam, tài liệu gợi ý xác định các nhóm có thể bị ảnh hưởng như sinh viên vùng khó khăn, dân tộc thiểu số hay gia đình thu nhập thấp, rồi kiểm tra hiệu năng mô hình riêng cho từng nhóm.

Luận điểm liên quan trong bài viết chính

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp