您可能听说过“神经网络”这个术语,用于解释人工智能的工作原理。但这实际上意味着什么呢?计算机大脑与人脑相似吗?
令人惊讶的是,是的——至少在灵感方面是这样。让我们从头开始分解它。
20 世纪 40 年代,科学家注意到人类大脑由数十亿个称为神经元的微小细胞组成。每个神经元接收来自其他神经元的信号,对其进行处理,然后向前发射信号或保持安静。
这个简单的想法——信号传递细胞网络——成为人工神经网络的蓝图。我们使用数学函数来代替生物神经元。我们传递的不是电信号,而是数字。
人类大脑大约有 860 亿个神经元,每个神经元与多达 10,000 个其他神经元相连。当今最大的人工智能神经网络拥有数千亿个“参数”——但它们仍然无法系鞋带。
每个神经网络都是由人工神经元的层构建而成。可以把它想象成一条工厂装配线,每个工位在传递产品之前都会对产品进行改造。
输入层是数据进入网络的地方。如果您正在教人工智能识别猫的照片,则图像中的每个像素都会成为输入层中的数字。 100×100 像素的图像有 10,000 个输入。
这里没有什么聪明的事情发生——只是输入原始数据。
在输入和输出之间有一个或多个隐藏层。这些是神经网络的核心。
隐藏层中的每个神经元:
想象一下,您正在决定是否带伞。您正在权衡多个信号:
你的大脑将这些相加并做出决定。神经元正是这样做的——但是用的是数字。
输出层产生结果。对于猫或狗分类器,可能有两个输出神经元 - 一个表示“猫概率”,一个表示“狗概率”。
现代深度学习模型可以有数百个隐藏层。这就是“深度学习”中“深度”一词的由来——深层次的堆叠,而不是深刻的哲学思想。
神经网络的魔力在于权重。神经元之间的每个连接都有一个权重——一个控制一个神经元影响另一个神经元的强度的数字。
当神经网络首次启动时,权重是随机设置的。就像一个刚出生的婴儿:还没有技能,只有潜力。
训练是调整这些权重直到网络得到正确答案的过程。
可以把它想象成调收音机。您慢慢转动旋钮(调整重量),直到信号清晰(网络变得准确)。除了不是一个拨盘之外,您可能会同时调整数百万或数十亿个拨盘。
训练神经网络遵循一个优美的逻辑循环:
向网络提供一些训练数据 - 例如,一张标有“猫”的猫的照片。网络做出猜测:“我认为那是一只狗。”
我们将网络的猜测与正确答案进行比较,并计算损失——一个衡量网络错误程度的数字。巨大的损失意味着一个非常错误的答案。损失接近于零意味着准确无误。
这就是巧妙的地方。网络通过其各层向后工作,询问:
登录 参与讨论
“哪些权重导致了这个错误,有多少?”
这称为反向传播(或“反向传播”)。它计算每个权重对误差的贡献程度。
使用一种称为“梯度下降”的技术,网络将每个权重稍微推向减少损失的方向。不是一个大的跳跃——只是一个小小的推动。
在数千个训练示例中重复此操作数百万次,权重会慢慢收敛到能够做出准确预测的值。
想想学习扔飞镖。第一次投掷时,你就完全错过了。你稍微调整一下你的手臂。你再次投掷——距离更近。您根据反馈不断进行调整。反向传播是这种反馈循环的神经网络版本。
这里有一个问题:如果每个神经元都只是乘法和加法,我们难道不能一步完成所有数学运算吗?
是的——如果神经元是线性的。但这将严重限制网络可以学习的内容。
激活函数增加了非线性。当今最流行的一种称为 ReLU(整流线性单元)。这非常简单:
这种微小的非线性使得深度网络能够学习极其复杂的模式——面孔、语言、国际象棋位置、蛋白质结构。
经典的神经网络演示之一是识别手写数字 (0-9)。它的工作原理如下:
早期层学习检测简单边缘。中间层将边缘组合成曲线和角。后面的层可以识别完整的数字形状。这种分层特征学习是所有人工智能中最强大的想法之一。
MNIST 数据集(包含 60,000 张手写数字图像)自 1998 年以来一直用于训练神经网络。它有时被称为深度学习的“Hello World”。即使是简单的网络也可以在几分钟内达到 97% 以上的准确率。
神经网络为现代人工智能中几乎所有令人印象深刻的事物提供了动力:
|应用 |网络学到了什么 | |---|---| |图像识别|边缘→形状→物体| |语音识别 |声波 → 音素 → 单词 | |翻译 |一种语言中的单词→意义→另一种语言中的单词| |推荐系统 |您过去的选择→偏好→新建议| |药物发现|分子结构→生物活性|
这是诚实的答案:不是真的。神经网络非常擅长发现数据中的模式。但他们不明白自己在做什么。他们不知道猫是什么——他们只知道他们看到了哪些标记为“猫”的像素图案。
这就是为什么人工智能可以识别照片中的猫,但如果你以不寻常的方式旋转图像,它就会完全困惑。人类大脑可以通过更少的数据更灵活地进行概括。
也就是说——结果确实令人惊讶。经过足够数据训练的网络可以在特定任务上超越人类。他们编写代码、创作音乐、创作艺术和翻译语言。
了解它们实际上是如何工作的——层、权重、反向传播——意味着你不会被炒作所愚弄,你会欣赏到真正的东西是多么的非凡。