人工智能道德与偏见：当机器出错时 ⚖️

人工智能系统正在做出影响人们生活的决策。谁获得贷款。谁获得工作面试机会。医学扫描是否看起来可疑。某人的脸部是否与犯罪数据库匹配。

这些不是抽象的可能性。他们现在正在发生——但有时他们会犯严重错误。

---

🤔 什么是人工智能偏见？

当人工智能系统产生的结果对某些人群系统性地不公平时，人工智能偏见就会发生。

重要的词是系统地。我们不是在谈论随机错误，而是在谈论对女性、有色人种、来自某些地区的人或其他群体产生不成比例影响的错误模式。

这是一个令人不安的事实：人工智能系统从我们身上学习了他们的偏见。

---

📚 偏见从何而来？

人工智能中的偏差几乎总是始于训练数据。以下是它的渗透方式：

历史偏见——过去的历史被冻结在数据中

如果人工智能接受过有关历史招聘决策的培训，并且这些决策历来有利于男性担任技术职位，那么人工智能就会学会复制这种模式。它不理解歧视——它只是看到“男性申请人往往会被雇用”并采取相应的行动。

众所周知，亚马逊建立了一种降低女性简历评级的招聘算法。它接受了 10 年成功招聘的培训——在这段时期，科技招聘主要以男性为主。当发现偏差时，该算法被悄悄废弃。

表征偏差——数据中遗漏了谁？

如果您的训练数据不包含多样化的示例，则人工智能在代表性不足的群体中表现不佳。

面部识别技术就是一个鲜明的例子。几个广泛使用的系统经过测试并发现：

• 识别白人男性面孔的准确率超过 99%
• 识别肤色较深的女性面孔的错误率高达 34%

原因是什么？训练数据集严重偏向浅肤色面孔。该系统在部署前并未针对不同人群进行测试。

测量偏差——你测量的结果决定你得到的结果

如果你以有偏见的方式衡量成功，你的人工智能就会学会针对有偏见的结果进行优化。使用“顶尖大学毕业”作为智力指标对那些从未有机会进入顶尖大学的人不利——不是因为他们的智力，而是因为他们的社会经济背景。

---

🌍 现实世界的后果

这不是学术的。人工智能偏见会造成真正的伤害：

刑事司法 — COMPAS（替代制裁的惩教罪犯管理分析）是美国法院用来预测再犯可能性的工具。 ProPublica 2016 年的一项调查发现，即使在控制犯罪历史的情况下，它将黑人被告标记为“高风险”的比例几乎是白人被告的两倍。

医疗保健 - 上述医疗保健算法对黑人患者的预防性护理较少，因为黑人患者的病情与接受更多资源的白人患者一样。

贷款——多项研究发现，算法贷款工具批准白人申请人贷款的利率高于同样信誉良好的黑人或西班牙裔申请人。

就业——人工智能简历筛选工具被发现会惩罚诸如“女性”（如“女子象棋俱乐部”）之类的词，或者过滤掉历史上黑人大学的毕业生。

---

🔬 为什么这很难修复？

您可能会想：“我们不能检查偏见并消除它吗？”要是这么简单就好了。

代理问题：人工智能系统可以在不直接使用受保护特征的情况下进行区分。由于历史隔离，邮政编码与种族相关。购物习惯与收入相关。语音模式与口音和地区相关。您可以从数据中删除“种族”，但算法仍然可以学会区分。

公平指标之间的权衡：在数学上有不同的方法来定义“公平”。跨组错误率相同的系统将产生与正率相同的系统不同的总体结果。同时满足所有定义在数学上通常是不可能的。

反馈循环：如果人工智能决定谁受到更严厉的监管，这些社区将有更多记录的犯罪，这会训练下一个人工智能对他们进行更严厉的监管——这是一个自我强化的循环。

---

🌟 为什么人工智能团队的多样性很重要

在偏见造成伤害之前发现偏见的最有效方法之一是让多元化的团队构建人工智能系统。

同质化的团队存在盲点。当房间里的每个人都有相似的背景、生活经历和假设时，他们就不太可能问：“但这会对那些看起来不像我们的人产生什么影响呢？”

多元化的团队更有可能：