Toward Fairness in AI for People with Disabilities

发布日期
2019-08-02
作者
Anhong Guo, Ece Kamar, Jennifer Wortman Vaughan, Hanna Wallach, Meredith Ringel Morris
格式
PDF

内容摘要

本文发表于2019年ACM ASSETS会议AI公平性研讨会，由微软研究院和卡内基梅隆大学联合团队撰写，系统评估了现有AI技术类别对各类残疾人群可能产生的不公平影响，并提出了四步研究路线图。

文章将AI系统分为四大类进行风险分析：

计算机视觉——面部识别可能无法处理面部特征差异（如唐氏综合征、唇腭裂）、身体识别可能对轮椅使用者或步态异常者识别失败、物体/场景识别因训练数据来自视力正常者而对盲人拍摄的图像效果差；

语音系统——语音识别无法处理构音障碍、"聋人口音"和非典型语音特征、语音合成在语速和词汇水平上未考虑认知障碍用户需求；

文本处理——文本分析可能误判自闭症用户的情感表达、拼写校正对阅读障碍拼写模式无效；

综合AI——信息检索可能放大对残疾人的刻板印象、对话代理可能无法理解非典型拼写和表达。

此外，通用的AI技术（如异常检测算法）可能因为残疾人使用辅助技术导致的非典型任务完成时间而错误标记其行为。

核心观点

  • 现有主流AI系统在多个技术类别（视觉、语音、文本、综合）中均可能对残疾人产生系统性偏差。
  • 训练数据缺乏残疾人代表性是导致AI不公平的根本原因，而通用AI技术会将他们作为"异常值"排除。
  • 聚合指标（如总体准确率）掩盖了小群体（如特定残疾类型）的性能下降，需要分类评估。
  • 创建包容性基准数据集面临复杂的伦理问题（隐私、知情同意、覆盖罕见病、交叉性等）。
  • 人格化模型可能是解决"长尾"残疾问题的方案，但也带来"双重标准"的风险。

完整目录

  • Abstract（摘要）
  • Introduction（引言：问题背景与研究路线图）
  • Risk Assessment of Existing AI Systems for PWD（现有AI系统对残疾人的风险评估）
  • Computer Vision（计算机视觉：面部/身体/物体/场景/文字识别）
  • Speech Systems（语音系统：语音识别/生成/说话人分析）
  • Text Processing（文本处理：文本分析）
  • Integrative AI（综合AI：信息检索/对话代理）
  • Other AI Techniques（其他AI技术：异常检测/聚合指标/训练数据）
下载完整 PDF