Sigmoid 曾是神经网络最经典的激活函数，如今深层网络的隐藏层却几乎都换成了 ReLU。本文用调光旋钮和单向门的类比，从“为什么需要激活函数”一路讲到导数、梯度消失，最后说清 ReLU 凭什么把它挤下主力位置——数学基础一般也能跟到底。

单个感知机只能画一条直线，连四条数据构成的 XOR 都解决不了。可正是这次失败，把人们引向隐藏层、非线性激活和反向传播。本文从 XOR 出发，讲清多层网络为什么能够学习新表示，再沿着这条思想谱系走到 Transformer 与 LLM。