Nguồn tham khảo: Efron, B. (1979). Bootstrap Methods: Another Look at the Jackknife. The Annals of Statistics, 7(1). https://doi.org/10.1214/aos/1176344552
Truy cập toàn văn: https://doi.org/10.1214/aos/1176344552
Tóm tắt nội dung
Efron giải quyết bài toán: cho một mẫu ngẫu nhiên từ một phân phối chưa biết, làm sao ước lượng phân phối mẫu của một đại lượng ngẫu nhiên định trước chỉ dựa trên dữ liệu quan sát được. Lý thuyết jackknife truyền thống chỉ cho giá trị trung bình và phương sai xấp xỉ trong trường hợp đại lượng quan tâm là độ lệch giữa ước lượng và tham số thật. Tác giả giới thiệu một phương pháp tổng quát mang tên bootstrap, với ý tưởng coi phân phối thực nghiệm của mẫu như đại diện cho tổng thể, rồi lấy mẫu lặp lại có hoàn lại từ chính dữ liệu để mô phỏng sự biến thiên của đại lượng cần ước lượng.
Bootstrap cho kết quả thỏa đáng trên nhiều bài toán ước lượng, còn jackknife thực chất là một phép xấp xỉ tuyến tính của bootstrap. Phần trình bày đi qua một loạt ví dụ: phương sai của trung vị mẫu, tỷ lệ lỗi trong phân tích phân biệt tuyến tính, ước lượng tỷ số và ước lượng tham số hồi quy. Về sau, bootstrap trở thành công cụ nền tảng của thống kê hiện đại và của nhiều thuật toán học máy như rừng ngẫu nhiên.
Với bài toán dự báo sinh viên bỏ học, bootstrap là cách đơn giản để dựng khoảng tin cậy cho PR-AUC, ROC-AUC, độ nhạy tại ngưỡng đã chọn hay chênh lệch giữa hai mô hình, nhất là khi tập kiểm tra có ít sinh viên bỏ học.
Luận điểm liên quan trong bài viết chính
Trong bài viết chính, tài liệu này được dẫn để làm rõ nhận định sau: Xác thực chéo lặp lại (5 lần × 3 lượt, trên tập huấn luyện): Mô hình ROC-AUC (trung bình ± độ lệch chuẩn) PR-AUC (trung bình ± độ lệch chuẩn) --------- Hồi quy logistic cân bằng 0,903 ± 0,009 0,857 ± 0,015 Rừng ngẫu nhiên 0,896 ± 0,010 0,847 ± 0,012 XGBoost 0,904 ± 0,009 0,859 ± 0,014 Bootstrap có ghép cặp trên tập kiểm tra (1.000 lần lấy mẫu lại, theo phương pháp của Efron, 1979), khoảng tin cậy 95% của chênh lệch: - XGBoost trừ rừng ngẫu nhiên: F1 từ +0,021 đến +0,069; PR-AUC từ +0,005 đến +0,029.
Xem bài viết chính: Ứng dụng học máy phát hiện sinh viên có nguy cơ bỏ học: từ bài toán lớp thiểu số đến quyết định can thiệp