Framework
Các thước đo công bằng thuật toán
Câu hỏi nó trả lời
“Công bằng” trong mô hình ML nghĩa là gì, và vì sao không thể có tất cả cùng lúc?
- Xuất xứ
- Dwork et al., 2012; Kleinberg et al., 2017; Binns, 2018
- Loại sơ đồ
- Bảng so sánh
- Cấp độ phân tích
- Nhóm
Sơ đồ
Các thước đo công bằng thuật toán
| Tiêu chí | Ý nghĩa | Căng thẳng / giới hạn |
|---|---|---|
| Công bằng cá nhân | Người giống nhau được đối xử giống nhau | Cần định nghĩa thế nào là “giống nhau” |
| Tương đương nhân khẩu học | Tỷ lệ được chọn khớp tỷ lệ trong quần thể | Khó với mẫu nhỏ và nhiều đặc điểm giao nhau |
| Cơ hội bình đẳng | Tỷ lệ dương tính thật bằng nhau giữa các nhóm | Có kết quả bất khả thi: không thể thoả mãn mọi thước đo cùng lúc |
| Sai lệch có điều kiện | Tỷ lệ sai bằng nhau theo kết quả thật | Có kết quả bất khả thi: không thể thoả mãn mọi thước đo cùng lúc |
| Phản thực tế | Kết quả không đổi nếu thuộc nhóm khác | Có kết quả bất khả thi: không thể thoả mãn mọi thước đo cùng lúc |
Nguồn
Tài liệu tham khảo
Xếp A–Z theo họ tác giả, kiểu Harvard. Nguồn có DOI thì link https://doi.org/…; nguồn không có DOI thì link trang nguồn hoặc ghi rõ không có DOI.
- Binns, R. (2018) ‘Fairness in machine learning: lessons from political philosophy’, in Proceedings of Machine Learning Research. pp. 149–159.Không có DOIproceedings.mlr.pressTrang nguồn
- Dwork, C. et al. (2012) ‘Fairness through awareness’, in Proceedings of the 3rd Innovations in Theoretical Computer Science Conference. New York: ACM, pp. 214–226.doi:10.1145/2090236.2090255Trang nguồn
- Kleinberg, J., Mullainathan, S. and Raghavan, M. (2017) ‘Inherent trade-offs in the fair determination of risk scores’, in 8th Innovations in Theoretical Computer Science Conference (ITCS 2017), LIPIcs 67. pp. 43:1–43:23.doi:10.4230/LIPIcs.ITCS.2017.43Trang nguồn