AI Fairness for People with Disabilities

发布日期
2019-01-01
作者
Shari Trewin (IBM Accessibility Research)
格式
PDF

内容摘要

本文由IBM Accessibility Research的Shari Trewin撰写，是一篇聚焦人工智能公平性如何具体适用于残疾人群体的开创性论文。作者的核心论点在于：残障作为一种受保护属性，与年龄、性别或种族等其他保护属性存在根本性差异——残障具有极端的多样性、动态性和高度敏感性。由于残障的表现形式千差万别（"见过一个自闭症者，你只见过一个自闭症者"），基于统计模式的机器学习模型自然倾向于将残疾人数据视为"噪声"或"异常值"而加以排除，导致对残疾人的系统性不利预测。论文系统评估了多种常见公平性定义在残障领域的适用性："不知情的公平"（fairness through unawareness）表面上排除残障信息，但无法防止因无障碍性不足导致的隐性歧视；"群体公平"（group fairness）虽要求各群体被选中的比例均等，但因残疾子群体过于多元而难以实际执行；"个体公平"（individual fairness）虽有优势，但其依赖的相似性度量本身就可能嵌入偏见。论文建议采用个性化模型和使用广泛的测试用例来检测和纠正偏见。

核心观点

  • 残障作为受保护属性与其他属性（如性别、种族）存在根本差异：残障具有极端多样性、动态变化性和高度隐私敏感性，使得"构建一个平衡的训练数据集"成为几乎不可能的任务。
  • 机器学习模型天然将异常值和少数群体数据视为"噪声"加以排除或给出低质量预测，残疾人因此面临被AI系统系统性不利对待的风险——这被称为"算法的优生学效应"。
  • 招聘场景中的AI系统可能因在线测试未充分无障碍化而间接歧视使用辅助技术的申请者，即使系统从未采集残疾信息——这说明"不知情的公平"远不足以保障公平。
  • 残障数据的高度敏感性意味着许多既定的公平性度量方法无法直接应用——人们有充分理由不披露残疾信息，但缺乏这些信息又使得系统性歧视的检测和纠正异常困难。
  • 论文建议采用"个体公平"框架，通过设计不包含受保护属性（但充分体现任务相关性）的相似性度量，并利用代表广泛残疾人类型的测试套件来探测模型偏见。

完整目录

  • 摘要
  • 引言：AI与机器学习中的偏见问题
  • AI系统中的公平性：偏见来源（历史决策偏见、数据代表性不足、代理变量偏见）
  • 残障公平性的特殊性：多样性与异常值问题
  • 残障公平性的特殊性：隐私与数据敏感性问题
  • 公平性方法评估：不知情的公平
  • 公平性方法评估：知情的公平
  • 算法公平性（Algorithmic Fairness）
下载完整 PDF