为什么重要
在 ResNet 之前,把网络加深往往让它变差,原因不是过拟合,而是非常深的网络本身就很难训练。信号和梯度在穿过许多层的过程中逐渐消失。残差连接给了信息一条穿过网络的直达通道,从而解决了这个问题。深度不再是一堵墙。
这一个想法比模型本身活得更久。每一个 Transformer,包括每一个现代 LLM,都把每个注意力块和前馈块包在残差连接里。ResNet 论文是所有领域中被引用次数最多的科学论文之一。
ResNet 模型本身,尤其是 ResNet-50,也在多年里成为计算机视觉的标准骨干网络,被用于分类、目标检测、分割,并在无数论文里充当参照基准。
深度解析
ResNet 由微软研究院的何恺明(Kaiming He)、张祥雨、任少卿和孙剑在 2015 年提出。它凭借一个 152 层的网络赢得了当年的 ImageNet 图像分类竞赛,深度约为前一年冠军的八倍,top-5 错误率约 3.6%,与对人类在该任务上表现的估计大致相当,甚至更好。
它的核心想法是残差连接(也叫跳跃连接):每个由若干层组成的块不再把输入彻底变换一遍,而是只学习一个要加到输入上的变化量。原始输入绕过这个块,在末尾被加回来。
残差块
普通的块计算 output = F(x)。残差块计算 output = F(x) + x。如果一个块最好的做法是什么都不做,它只需要学到 F(x) = 0,这很容易。在普通网络里,同样的块得学会完美地复制输入,而事实证明这很难。这让额外的层可以“免费”添加:最坏的情况下,它们学会不碍事就行。
在反向传播时,+ x 这条路径还让梯度可以直接流回前面的层,从而避开了梯度消失问题。
家族成员
ResNet 有几种标准深度:ResNet-18、-34、-50、-101 和 -152。较深的版本使用瓶颈块(先用一个 1×1 卷积缩减通道数,再做一个 3×3 卷积,然后用一个 1×1 卷积扩回去)来保持效率。它们还自始至终使用批归一化,这对训练的稳定很重要。
影响与后继者
- Transformer(2017 年)在每个子层外面都采用了残差连接。
- ResNeXt、DenseNet 和 EfficientNet 在视觉领域延续并发展了这个想法。
- Vision Transformer(2020 年)最终在图像任务上挑战了卷积网络,但在看重速度和简单性的场合,尤其是在边缘设备上,ResNet 风格的 CNN 仍然被广泛使用。
- 扩散模型里的 U-Net 是由残差块搭成的。
为什么今天仍值得了解
如果你要为一个实际任务微调图像分类器,预训练的 ResNet-50 仍然是一个快速、可靠的基线。而当你在 LLM 可解释性研究里读到“残差流”(residual stream)时,你看到的正是 ResNet 的遗产:每一层都往上面加一点东西的那个累计和。