激活函数是什么？为什么 AI 需要「非线性」这道弯
一层层相加，得到的还是直线
把神经网络想成一长串"加权求和"：上一层每个数字乘上权重、加在一起，再传给下一层。可问题来了——如果你只做乘和加，无论叠多少层，最后算出来的关系本质上还是一条直线。就像无论你用多少把直尺首尾相接，拼出的轮廓依然没有弯。要识别一张猫脸、一句反话、一段起伏的曲线，直线远远不够。
激活函数：给每个神经元装一个开关
激活函数干的事，是在每个神经元的输出口加一道"非线性"处理。最常见的 ReLU 规则简单到一句话：输入是正数就原样放行，是负数就压成零。它像一个只会开和关的闸口——正数通过，负数截断。正是这一个小小的"弯"，让网络整体的表达力从直线升级成了任意曲线。没有它，几十层的深度网络会和一层没区别。
几种常见激活函数，各有所长
Sigmoid 把任意数压成 0 到 1 之间，像把音量旋钮归到"比例"档，早年常用在二分类的输出口；Tanh 把范围拉到 -1 到 1，中心对齐零，更适合藏在中间层；ReLU 则以"零负保正"的极简规则成为今天的主流，计算快、不容易饱和。它们没有谁绝对更好，只有放在哪一层、解决什么问题更合适。
为什么"非线性"这么关键
数学上有个结论：没有非线性激活，再多层的线性叠加都可以被压缩成"一层"。这意味着深度失去了意义。加上非线性后，网络才能一层层把简单特征拼成复杂特征——第一层认边缘，第二层认形状，第三层认部件，最终认出整张脸。激活函数就是那个让"深度"真正成立的零件。
一个容易踩的坑：梯度消失
激活函数不是选完就高枕无忧。Sigmoid 和 Tanh 在两端会"压平"，导数趋近零，错误信号往回传时越传越弱，深层就学不动，这叫梯度消失。ReLU 缓解了这个问题，但它自己有"神经元死亡"——一旦长期处于负数区就永远输出零。于是又有了 Leaky ReLU、GELU 等改良版。选激活函数，本质是和这些副作用做权衡。
小结
激活函数是神经网络里最不起眼却最关键的一道弯：它用一点非线性，换来了模型拟合复杂世界的能力。下次看到"ReLU""Sigmoid"这些词，记住它们只是不同形状的开关，目的都是同一个——让 AI 学会画曲线，而不只是连线。当你以后听说某模型"换了新激活函数"，不必紧张，它多半只是在某个细节上换了个更稳的开关，目的没变——让网络既能堆深度，又不被直线锁死。理解了这一点，再看各种花哨的技术名词就不会被轻易吓住，也更能判断一项改动到底重不重要。
