AI and Accessibility A Discussion of Ethical Considerations

本文由微软研究院高级首席研究员Meredith Ringel Morris撰写，发表于Communications of the ACM 2020年6月刊，系统讨论了人工智能技术应用于无障碍领域时面临的七个伦理挑战。

文章指出，全球超过10亿人患有残疾，AI技术在消除无障碍障碍方面具有巨大潜力——如计算机视觉帮助盲人感知视觉世界、语音识别为听障人士提供实时字幕、机器人系统增强行动不便者的能力。

然而，必须审慎考虑以下伦理问题：

包容性——AI训练数据缺少残疾人群体的样本（如语音识别无法处理构音障碍、计算机视觉对盲人拍摄的低质量图像效果差）；

偏见——AI可能放大基于残疾的歧视（如通过在线行为推断用户残疾状态）；

隐私——少数残疾人群体面临更高的再识别风险；错误——残疾人过度信任AI输出可能导致严重后果；

期望设定——媒体和广告对AI能力的过度宣传可能误导敏感用户群体；

模拟数据——用模拟数据替代真实残疾用户数据的做法存在问题；

社会可接受性——如可穿戴AI设备的隐私问题在不同使用场景下有不同评判标准。