Nguồn tham khảo: Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model Cards for Model Reporting. In Proceedings of the Conference on Fairness, Accountability, and Transparency (tr. 220–229). https://doi.org/10.1145/3287560.3287596
Truy cập toàn văn: https://doi.org/10.1145/3287560.3287596
Tóm tắt nội dung
Margaret Mitchell, Simone Wu, Andrew Zaldivar, Parker Barnes, Lucy Vasserman, Ben Hutchinson, Elena Spitzer, Inioluwa Deborah Raji và Timnit Gebru (Hội nghị về Công bằng, Trách nhiệm giải trình và Minh bạch, 2019) xuất phát từ thực tế mô hình học máy ngày càng được dùng cho nhiệm vụ có tác động lớn trong thực thi pháp luật, y tế, giáo dục và tuyển dụng. Để làm rõ mục đích sử dụng và hạn chế việc dùng mô hình trong bối cảnh không phù hợp, các tác giả đề xuất thẻ mô hình (model cards): văn bản ngắn đi kèm mô hình đã huấn luyện, trình bày kết quả đánh giá trong nhiều điều kiện, chẳng hạn theo nhóm văn hóa, nhân khẩu học, kiểu hình và các nhóm giao thoa.
Thẻ mô hình cũng công bố bối cảnh sử dụng dự kiến, quy trình đánh giá và thông tin liên quan khác. Hai thẻ minh họa được lập cho mô hình nhận diện khuôn mặt cười và mô hình phát hiện bình luận độc hại. Dù tập trung vào thị giác máy tính và xử lý ngôn ngữ, khung này dùng được cho mọi mô hình. Với hệ thống dự báo bỏ học, thẻ mô hình là nơi nhà trường ghi rõ mô hình dùng để hỗ trợ tư vấn chứ không để xét kỷ luật, và báo cáo độ chính xác theo giới tính, vùng miền, ngành học, hoàn cảnh kinh tế để thấy nhóm nào bị dự báo sai nhiều hơn.
Luận điểm liên quan trong bài viết chính
Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: Mỗi phiên bản mô hình nên có một "thẻ mô hình" nêu mục đích sử dụng, dữ liệu, hiệu năng theo từng nhóm và những trường hợp không nên dùng (Mitchell và cộng sự, 2019).
Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp