AI 伦理与偏见
人工智能伦理与偏见
在整个项目中，我们探索了数据、算法和神经网络如何结合在一起创建智能系统。但不负责任的情报可能会造成真正的伤害。在最后一课中，我们将探讨人工智能人性的一面——它继承的偏见、它引发的道德困境，以及我们能做些什么。
什么是人工智能偏见？
当系统产生对某些人群系统性不公平的结果时，就会出现人工智能偏见。人工智能并不是故意有偏见的——它只是反映了训练数据中的模式和设计者的假设。
现实世界的例子
亚马逊的招聘工具（2018） 亚马逊建立了人工智能来筛选工作申请。它接受了过去十年提交的简历的培训——当时科技行业男性占绝大多数。人工智能学会了对包含“女性”一词（如“女子国际象棋俱乐部”）的简历进行惩罚，并降低女子大学毕业生的等级。亚马逊废弃了该工具。
面部识别失败 麻省理工学院的 Joy Buolamwini 进行的研究发现，商业面部识别系统对于深色皮肤女性的错误率高达 34.7%，而对于浅肤色男性的错误率仅为 0.8%。训练数据根本无法平等地代表所有面孔。
为什么亚马逊的人工智能招聘工具歧视女性？
偏见从何而来？
偏见可以在每个阶段进入人工智能系统：
- 数据收集 - 如果数据过度代表一个群体，模型就会学会偏向该群体。
- 标记 - 人类注释者在标记数据时会带来自己无意识的偏见。
- 特征选择 - 选择包含（或排除）哪些变量可以嵌入假设。
- 评估 - 如果我们只对某些人群进行测试，我们就会错过其他人群的失败。
工智能不会凭空产生偏见。它放大了人类决策、历史记录和社会结构中已经存在的偏见。数据是一面镜子——有时我们不喜欢它所反映的内容。
Deepfakes 和错误信息
人工智能现在可以生成逼真的假视频、图像和音频 - 称为深度伪造。虽然该技术具有创造性用途（电影效果、辅助工具），但它也带来了严重的风险：
- 政治操纵 - 捏造公众人物的视频，说出他们从未说过的话。
- 欺诈 - 语音克隆用于冒充高管并授权欺诈交易。
- 骚扰 - 针对私人的未经同意的虚假图像。
检测深度伪造品正在成为一场军备竞赛。随着生成工具的改进，检测工具也必须改进——但它们总是在追赶。
2019 年，犯罪分子利用人工智能生成的语音克隆冒充首席执行官，诱骗员工转移 22 万英镑。这声音如此有说服力，以至于员工根本没有怀疑过这是假的。
如果你看到一个世界领导人宣战的视频，你会如何验证它是否真实？您会信任哪些工具或来源？在深度造假的世界中，对媒体的批判性思考成为一种生存技能。
工作岗位流失和经济影响
人工智能可以自动化以前由人类完成的任务。这既创造了机遇，也带来了挑战：
有自动化风险的任务：
- 数据输入和处理
- 基本客户服务（聊天机器人）
- 例行法律文件审查
- 简单的医学影像筛选
不太可能自动化的任务：
- 创造性地解决问题
- 复杂的人际关系（治疗、教学、领导力）
- 在不可预测的环境中需要身体灵活性的工作
讨论
登录 参与讨论