AI Research Hub
Quay về trang chủ
Tài liệu

Chawla et al. (2002) — SMOTE: Synthetic Minority Over-sampling Technique

28 tháng 9, 20262 lượt xemTác giả: Trần Đắc Lộc

Chawla và cộng sự tìm cách xây dựng bộ phân loại tốt khi dữ liệu mất cân bằng (imbalanced data), tức lớp “bình thường” chiếm đa số còn lớp cần quan tâm chỉ chiếm tỷ lệ nhỏ. Trong những bài toán……

Nguồn tham khảo: Chawla, N. V., Bowyer, K. W., Hall, L. O., & Kegelmeyer, W. P. (2002). SMOTE: Synthetic Minority Over-sampling Technique. Journal of Artificial Intelligence Research, 16, 321–357. https://doi.org/10.1613/jair.953

Truy cập toàn văn: https://doi.org/10.1613/jair.953


Tóm tắt nội dung

Chawla và cộng sự tìm cách xây dựng bộ phân loại tốt khi dữ liệu mất cân bằng (imbalanced data), tức lớp “bình thường” chiếm đa số còn lớp cần quan tâm chỉ chiếm tỷ lệ nhỏ. Trong những bài toán như vậy, bỏ sót một mẫu thuộc lớp thiểu số thường gây thiệt hại lớn hơn nhiều so với báo nhầm một mẫu lớp đa số. Trước đó, giảm mẫu lớp đa số (under-sampling) đã được dùng để tăng độ nhạy với lớp thiểu số.

Các tác giả đề xuất SMOTE, kỹ thuật tăng mẫu lớp thiểu số bằng cách tạo ra mẫu tổng hợp mới thay vì chỉ nhân bản mẫu sẵn có, rồi kết hợp với giảm mẫu lớp đa số. Thực nghiệm dùng ba bộ phân loại C4.5, Ripper và Naive Bayes; hiệu năng được đánh giá bằng diện tích dưới đường cong ROC (AUC) và chiến lược bao lồi ROC. Kết quả cho thấy kết hợp SMOTE với giảm mẫu cho hiệu năng tốt hơn trong không gian ROC so với chỉ giảm mẫu, và tốt hơn cả việc điều chỉnh tỷ lệ chi phí lỗi trong Ripper hay xác suất tiên nghiệm của lớp trong Naive Bayes.

Với bài toán dự báo sinh viên bỏ học, nơi người bỏ học thường ít hơn hẳn người ở lại, SMOTE là kỹ thuật hay được dùng; tuy vậy nên đọc kèm các nghiên cứu sau này về ảnh hưởng của nó tới độ hiệu chuẩn xác suất.


Luận điểm liên quan trong bài viết chính

Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: SMOTE tạo thêm các mẫu "nhân tạo" của lớp thiểu số bằng cách nội suy giữa các mẫu gần nhau, và được giới thiệu kèm lập luận rằng kết hợp lấy mẫu trên lớp thiểu số với lấy mẫu dưới lớp đa số cho kết quả tốt hơn trong không gian ROC (Chawla và cộng sự, 2002).

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp

Chia sẻ:

Bình luận

Đang tải bình luận...