Framework
Bốn lớp thiên kiến thuật toán
Câu hỏi nó trả lời
Thuật toán tuyển dụng thiên vị theo những cách nào và sửa ở đâu?
- Xuất xứ
- Binns, 2018; Zimmermann et al., 2020; Dattner et al., 2019
- Loại sơ đồ
- Quy trình theo giai đoạn
- Cấp độ phân tích
- Doanh nghiệp
Sơ đồ
Bốn lớp thiên kiến thuật toán
- Lớp 1
- Phân biệt trực tiếp và sai lệch thống kêDữ liệu huấn luyện lệch; sửa bằng dữ liệu đại diện hơn.
- Lớp 2
- Phân biệt gián tiếp qua biến đại diệnBỏ cột nhạy cảm không đủ vì biến khác tái dựng lại (mã vùng, sở thích, lịch sử bắt giữ).
- Lớp 3
- Bất công cấu trúcDữ liệu là sản phẩm của thể chế bất công; vòng phản hồi làm nặng thêm.
- Lớp 4
- Nhiều quan niệm về công bằng xung độtKhông thể thoả mãn mọi thước đo cùng lúc; phải chọn có chủ ý và minh bạch.
Nguồn
Tài liệu tham khảo
Xếp A–Z theo họ tác giả, kiểu Harvard. Nguồn có DOI thì link https://doi.org/…; nguồn không có DOI thì link trang nguồn hoặc ghi rõ không có DOI.
- Binns, R. (2018) ‘Fairness in machine learning: lessons from political philosophy’, in Proceedings of Machine Learning Research. pp. 149–159.Không có DOIproceedings.mlr.pressTrang nguồn
- Dattner, B. et al. (2019) The legal and ethical implications of using AI in hiring. Harvard Business Review.Không có DOIhbr.orgTrang nguồn
- Zimmermann, A., Di Rosa, E. and Kim, H. (2020) Technology can't fix algorithmic injustice. Boston Review.Không có DOIbostonreview.netTrang nguồn