神经网络简介

决策树和 KNN 很强大，但当今最令人印象深刻的人工智能（从 ChatGPT 到自动驾驶汽车）背后的技术是神经网络。受人脑的启发，神经网络可以学习简单算法无法学习的极其复杂的模式。

让我们剥开层层，看看它们是如何工作的。

大脑类比

您的大脑包含大约 860 亿个神经元，由数万亿个突触连接。当你学习新东西时，某些神经元会一起放电，它们之间的联系会加强。这通常被概括为：一起放电的神经元，连接在一起。

人工神经网络借用了这个想法。他们使用连接在网络中的人工神经元（小型数学函数）。当网络对数据进行练习时，导致正确答案的连接会得到加强，而导致错误答案的连接会被削弱。

三种类型的层

每个神经网络都具有三种类型的层：

1.输入层

这是数据进入网络的地方。该层中的每个神经元接收数据集中的一个特征。对于 28×28 像素图像，输入层将有 784 个神经元 - 每个像素一个。

2.隐藏层

这些是输入和输出之间的层，真正的学习发生在其中。每个神经元接受输入，处理它们，并将结果向前传递。一个网络可以有一个或数百个隐藏层 - 层数越多，网络越“深”。

3.输出层

该层产生最终答案。对于数字分类器 (0-9)，输出层有 10 个神经元，每个神经元代表不同数字的概率。

权重和偏差：音量旋钮

两个神经元之间的每个连接都有一个权重 - 这个数字控制一个神经元对下一个神经元的影响程度。将权重视为音量旋钮：将其调高可使连接声音更大；将其调低会使声音更安静。

每个神经元还有一个偏差 - 一个将输出向上或向下移动的数字，就像在任何信号到达之前调整基线音量一样。

当神经网络学习时，它实际上只是调整数千或数百万个权重和偏差，直到找到给出最佳预测的组合。

神经网络如何学习

学习发生在一个循环中，分为四个步骤：

第 1 步：前向传球

数据通过网络从输入流到输出。每个神经元将其输入乘以其权重，加上其偏差，并将结果传递给激活函数（该函数决定神经元是否应该“激发”或保持安静）。网络产生预测。

步骤 2：计算误差

将预测与正确答案进行比较。差异在于误差（也称为损失）。当答案是“3”时预测“7”会产生很大的误差；预测“3”会产生一个小值。

步骤 3：反向传播

错误通过网络向后发送。每个权重都会了解它对错误的影响有多大。这就是反向传播的数学魔力——它计算出要转动哪些旋钮以及转动多少。

步骤 4：更新权重

稍微调整权重和偏差以减少误差。然后对下一条数据重复该循环。

视觉演练：对手写数字进行分类

让我们追踪一下神经网络如何对 MNIST 数据集中的手写“5”进行分类：

1. 输入： 28×28像素图像被展平为784个数字（像素亮度值从0到255）。这些进入 784 个输入神经元。