Disability Bias and AI

发布日期
2019-11-01
作者
Meredith Whittaker（AI Now Institute at NYU）等
格式
PDF

内容摘要

本报告由AI Now Institute（纽约大学）与微软联合举办的工作坊成果汇编而成，发布于2019年11月，由Meredith Whittaker领衔的多位跨学科专家共同撰写。报告将残障研究的理论框架引入AI偏见讨论，提出了一系列关键问题：AI系统如何构建和强化"正常"标准？被AI系统标记为"异常值"的残疾人会面临怎样的后果？报告深入探讨了AI对残疾人就业的影响——AI驱动的招聘筛选、绩效评估和员工监控工具可能系统性地将残疾人排除在劳动力市场之外。报告指出，AI系统往往通过"诊断"和"分类"残疾人来施加权力，但这些诊断可能不准确且难以挑战。报告特别强调"与我们一起设计，而非为我们设计"的设计伦理——残疾人不仅是AI技术的消费者和被研究对象，更应作为技术的共同创造者参与各阶段开发。报告呼吁将残障视角视为检验整个AI系统公平性与包容性的关键试金石。

核心观点

  • AI系统通过构建和强制执行"正常"标准来运作，残障群体天然处于这些标准的边缘或外部——被归类为"异常值"意味着不仅在技术层面被忽视，更在社会资源分配中被结构性排斥。
  • 残障群体并非同质化群体——"相同"残障类型内部因种族、阶级、性别等交叉身份差异而呈现截然不同的生活经验，但AI系统往往无法识别或错误处理这些交叉性。
  • AI已经在重塑就业、医疗护理和公民权益领域中对"谁有工作能力""谁需要照护""谁值得获得福利"的判断，这可能消解数十年残疾人权利运动的成果。
  • 残疾人具有特定的隐私需求：披露残障信息可能导致就业歧视（研究表明脊髓损伤或阿斯伯格综合征使求职回复率下降26%），但不披露又使系统性歧视难以被检测。
  • 将残障视角引入AI伦理讨论不仅是保护特定群体的需要，更是检验和提升整个AI系统公平性、包容性与问责机制的重要路径。

完整目录

  • 引言：工作坊背景与报告目的
  • 核心问题（Key Questions）
  • 残障研究的关键术语与概念
  • AI与残障交叉点的偏见分析
  • AI的"正常"版本：标准化与异常值的政治
  • 工作、残障与AI：就业领域的算法偏见
  • 表征、隐私与残障
  • "与我们共同设计，而非为我们设计"：包容性设计伦理
下载完整 PDF