更新于 2026年7月11日

前向传播#


术语解释#

前向传播(Forward Propagation),也称为正向传播,是神经网络根据输入数据计算并输出预测结果的过程。

前向传播是指输入信号从输入层进入网络,经过各隐藏层的逐层线性组合与非线性变换,最终到达输出层并产生预测值的过程。 在一个典型的全连接层中,前向传播遵循 $z^{l+1}=a^lw^l+b^l$,随后通过激活函数进行非线性映射,即 $a^{l+1}=f(z^{l+1})$。 整个过程可以看作是从左到右按序计算的流程,其输出结果(如概率分布)用于衡量模型的预测准确性。

前向传播结构示意图(从左往右)
前向传播结构示意图(从左往右)

详细内容可参见「第3.3节 反向传播与梯度下降:梯度消失与爆炸的解决方法」内容。


术语别名#

  • 正向传播
  • Forward Propagation
  • 前向计算

相关术语#

  • 反向传播
  • 神经网络
阅读 --

3.3 梯度下降与反向传播

在本节中,我们首先通过一个跳跃的例子详细地向大家介绍了什么是梯度,以及为什么要沿着梯度的反方向进行跳跃才能最快到底谷底;然后通过图示推导出了梯度下降的更新迭代公式;接着详细介绍了网络模型的前向传播过程和反向传播过程,并推导了整个梯度的求解过 …