9장
데이터에 새겨진 편견
알고리즘 차별과 공정성
핵심 정리
AI는 세상의 이상이 아니라 세상의 기록을 배운다. 기록의 불균형은 악의 없이도 판정의 불균형이 된다. 그러나 AI의 편향은 사람의 편향과 달리 측정할 수 있고, 측정된 편향은 개선될 수 있다 — 감시가 있는 동안은.
이 장의 본문은 책에서 읽을 수 있습니다.
출간 이후 달라진 것
책이 나온 뒤 바뀐 사실, 새 통계, 실제 사례의 후속 소식을 저자가 적습니다.
아직 이 장에 덧붙인 내용이 없습니다.
참고 자료
부록 8에 밝힌 이 장의 출처입니다. 주소가 있는 자료는 바로 열 수 있습니다.
- 국가인권위원회 인권 웹진, 「인공지능의 그림자: 인권침해의 위험성」, 2026.1~2 · 원문 열기 (새 창)
- 로이터통신, 아마존 AI 채용 도구 관련 보도(2018-10, CIO Korea 재보도 2025-06-10)
- 한겨레, 「‘육아 지원금 부당 환수’ 네덜란드 내각 총사퇴」, 2021-01-17
- 뉴스1, 「네덜란드 사상 최악의 아동 수당 스캔들…내각 총사퇴」, 2021-01-16
- 중앙일보, 「이혼당하고 목숨 끊고, 내각은 총사퇴…네덜란드서 AI가 벌인 일」, 2023-12-29
- Julia Angwin et al., ‘Machine Bias’, ProPublica, 2016-05-23 · 원문 열기 (새 창)
- Prabhakar Raghavan, ‘Gemini image generation got it wrong. We’ll do better’, Google Blog, 2024-02-23 · 원문 열기 (새 창)
- Buolamwini & Gebru, "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", PMLR 81, FAT* 2018
- Raji & Buolamwini, "Actionable Auditing: Investigating the Impact of Publicly Naming Biased Performance Results of Commercial AI Products", AIES ’19, 2019 (재측정에서 오류 17.7~30.4%포인트 감소).