AI Research Hub
Quay về trang chủ
Tài liệu

Kaufman et al. (2012) — Leakage in data mining

28 tháng 9, 20265 lượt xemTác giả: Trần Đắc Lộc

Kaufman và cộng sự nghiên cứu hiện tượng rò rỉ dữ liệu (leakage), vốn bị xếp vào mười lỗi hàng đầu của khai phá dữ liệu: đưa vào mô hình thông tin về biến mục tiêu mà lẽ ra không được phép có khi……

Nguồn tham khảo: Kaufman, S., Rosset, S., Perlich, C., & Stitelman, O. (2012). Leakage in data mining: Formulation, detection, and avoidance. ACM Transactions on Knowledge Discovery from Data, 6(4), 1–21. https://doi.org/10.1145/2382577.2382579

Truy cập toàn văn: https://doi.org/10.1145/2382577.2382579


Tóm tắt nội dung

Kaufman và cộng sự nghiên cứu hiện tượng rò rỉ dữ liệu (leakage), vốn bị xếp vào mười lỗi hàng đầu của khai phá dữ liệu: đưa vào mô hình thông tin về biến mục tiêu mà lẽ ra không được phép có khi dự báo. Từ kinh nghiệm thực tế và tranh cãi quanh các cuộc thi INFORMS 2010 Data Mining Challenge và IJCNN 2011 Social Network Challenge, các tác giả cho rằng vấn đề này vẫn rất thời sự, trong khi tài liệu trước đó ít bàn tới và chưa bao quát các trường hợp phức tạp, như khi giả định độc lập cùng phân phối (i.i.d.) bị vi phạm.

Nhóm tác giả xác định rõ mục tiêu mô hình hóa và phân tích khung tổng thể của bài toán để rút ra phương pháp luận chung. Bài báo cho thấy có thể tránh rò rỉ bằng quy trình quản lý dữ liệu đơn giản kèm nguyên tắc tách bạch giữa học và dự báo (learn-predict separation), đồng thời nêu nhiều cách phát hiện rò rỉ khi không kiểm soát được quá trình thu thập dữ liệu. Bài viết còn đưa ra góc nhìn dựa trên đồ thị nhân quả.

Với bài toán dự báo sinh viên bỏ học, rò rỉ dễ xảy ra khi dùng biến chỉ có sau thời điểm cảnh báo như điểm cuối kỳ hay trạng thái bảo lưu; tài liệu là căn cứ để cố định mốc dự báo và chỉ dùng thông tin có trước mốc đó.


Luận điểm liên quan trong bài viết chính

Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: Kaufman và cộng sự (2012) gọi đây là rò rỉ thông tin (leakage): dùng thông tin về mục tiêu mà lẽ ra không thể có tại thời điểm ra quyết định.

Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp

Chia sẻ:

Bình luận

Đang tải bình luận...