清熙公众号文章

MIT生物突触如何自组装梯度学习

清熙

公众号 · 20 篇文章

 

现有的大脑学习模型解释了既定回路如何学习,但没有说明生物系统最初怎么组装出这些回路。

为填补这一空白,MIT 团队在 PNAS 论文《生物突触如何自组装梯度学习》【文献1】提出自组装学习(SAL),研究学习系统如何从较低层次的相互作用中涌现。

图片

论文引入一种示例机制自组装基元(SAM),在两个尺度上实现了自组装:

  • 基元在异突触可塑性规则下,由最初随机的连接涌现出来;

  • SAM逐层组成的网络自组织出动力学,可证明逼近广义的随机梯度下降,性能与反向传播相当。

这表明,生物学习不必预先设定,可以由局部规则涌现出来,而且涌现的程度远超以往的设想。

图片

一、权重传输问题

深度学习靠反向传播训练。前向算出输出和误差,再沿原路把误差送回每一层,据此改权重。送误差时,反馈通路要与前向权重保持精确的转置关系。

生物突触如何建立并维持这种对应,是反向传播在生物学上的难题,称为权重传输问题。

已有的替代方案放宽了对称约束。反馈对齐用固定的随机回传权重;权重镜像和 Kolen-Pollack 算法让回传权重慢慢学得与前向一致。它们通常预先规定两条通路一一对应,只有部分连接可塑。

这套学习链路本身,能否从随机连接中自己长出来?

二、两条通路四组突触

皮层里有上行(前馈)和下行(反馈)两条通路。论文把相邻两层之间的连接抽象成四个矩阵

  • • :上行通路内部的连接,负责推理
  • • :下行通路内部的连接,负责把误差逐层传下去
  • •  与 :连接上行与下行两条通路的跨通路突触

计算分两步,先走上行,得到输出 。再由目标函数  算出误差信号 ,沿下行通路逐层传回。

上行神经元用 ReLU,下行通路可以比上行宽得多,两边神经元数量不必相等。

三、反馈通路形成

四组突触都按局部规则更新。以  和  为例

图片

这是四条规则中的两条,激活门控矩阵出现在前向与反馈的计算式中,此处略去。

第一项是外积,即突触前活动乘以另一侧送来的信号。 的更新用到了下行信号经  送来的量,更新量依赖其他突触传来的信号,这在神经科学里称为异突触可塑性。经典赫布规则只看突触自身的前后活动。

第二项是权重衰减, 取各自的权重本身。

整套规则不需要显式求导,也不需要前向与反馈权重对称。

四、近似梯度下降

论文给出两个理论结果,各有前提。

先看跨通路突触。 与  的更新量形式相同,二者的差在学习中按指数衰减到零,稳态时有

图片

再看权重。设网络为 ReLU 网络,下行通路过参数化(下行宽度不小于上行), 与  满秩,且二者的变化量为小量 ,即接近稳态。此时

图片

其中  是标准的 SGD 更新。 形如 ,一般情形下半正定,满秩时正定。

证明思路是:

在近似稳态的前提下,下行通路逐层累积成上行通路的近似转置,误差随层数累加,算出的就是反向传播里的误差信号。论文列举了满足稳态条件的几种情形,不过没有证明学习过程一定会进入该状态。

 随训练变化,自己也在被学习,可以看作矩阵形式的、会学习的学习率。Adam 和自然梯度同样可以写成带正定矩阵的形式。

论文的命题给出的是连续时间结论:

对 , 半正定时损失不会上升, 满秩时驻点与梯度下降相同。实际训练用离散步长,更新里还带权重衰减和  项,因此只能说近似成立,不能推出每一步损失都下降。权重衰减还会改变平衡点,相当于给目标加上矩阵形式的正则。

在特定参数约束下,这个框架可以退化为若干已有算法。SGD 对应 、,且只有  可塑。反馈对齐把  固定为随机矩阵,权重镜像和 Kolen-Pollack 只让  可塑。相当于在四组突触中冻结了几组。

五、双尺度自组装

论文强调的另一点是, 与  从随机初始化开始,无需发育程序把上行与下行神经元逐个配对。论文称这种自组装基元为SAM,自组装发生在两个尺度:

基元由随机连接在异突触规则下长出;基元逐层重复后,整个网络的动态可证明逼近广义的随机梯度下降。

模型仍需要上行与下行两条通路这一基本骨架,自组装解决的是学习链路内部连接及其对应关系的形成。

图片

六、验证实验结果

论文用 5 层 MLP,每个隐层 200 个神经元,在 7 个图像数据集上与 SGD、反馈对齐、权重镜像、Kolen-Pollack 对比。

7 个数据集中,SAL 有 6 个超过 SGD。CIFAR-10 上准确率分别为:SGD 50.36%,反馈对齐 47.85%,Kolen-Pollack 48.16%,SAL 51.91%。只有 ChestMNIST 上 SAL 比 SGD 低 0.05 个百分点。

下行通路的宽度也有影响。参数量约为上行的 5 到 8 倍时效果最好,CIFAR-10 在 8 倍处达到峰值。解剖学上,V1 到外侧膝状体的反馈纤维约为视网膜输入的 10 倍,大脑似乎早已找到了优化机制。

消融实验显示,只更新  时,表现与线性模型相当。单独让  可塑,CIFAR-10 准确率从约 40% 升到约 46%。四组全部可塑,才达到 SGD 的水平。

七、可检验的预测

论文给出几条可以用实验检验的预测

 • 皮层中普遍存在上行与下行通路之间的四突触基元
 • 突触变化依赖邻近突触的活动
 • 下行通路的电生理性质、非线性和时间常数与前馈通路不同
 • 下行通路的神经元和连接比前馈更多

不过实验局限也有,规模小只有 MLP,定理依赖  与  接近稳态的前提,四组矩阵的学习率需要搜索等等。

八、大脑计算机制

Nature Physics:真实神经元接近 Logistic Neuron笔者整理过,耶鲁大学的论文研究得出:

绝大多数真实神经元的活动,都可以由“简单的一阶输入直接依赖”解释,不需要复杂的高阶输入交互。真实神经元,在统计意义上,非常接近人工神经网络的 logistic neuron。

哥大 Nature:大脑皮层计算组织方式总结,哥伦比亚大学在 Nature 发表的论文首次在整个皮层尺度做了系统分析,得到核心结论:

局部皮层几乎不存在明显的神经元类别;随着皮层层级不断升高,神经表征越来越容易被线性读取。复杂计算能力越来越多地体现为,对高维、连续、良好可分的表征空间的组织方式。

两篇都对 SAL 单元假设、随机起点与多样表征、上下行层级骨架给了一致的支持,与 SAL 构成递进的大脑计算学习的三层机制:

神经元的活动主要由对各输入的直接依赖解释;皮层区内很少成簇,响应多样,构成高维空间,线性读出即可区分大量条件;SAL局部异突触规则从随机连接中自组装出近似梯度下降的学习链路。

图片

这对 AI 大模型也有深刻的启发。单元可以简单,复杂性放在表征与学习组织上,稀疏冗余有助于稳健。

服从局部规则的随机连接可以涌现基元,逐层的基元网络能够自组织出动力学,这也对应刚刚奠基的学习力学。


文献1,How Biological Synapses Self-Assemble Gradient Learning,https://www.pnas.org/doi/10.1073/pnas.2606245123

 

前往微信阅读全文

内容来自公众号,可前往微信查看原文。

查看作者的更多文章 →订阅更新、RSS 与阅读指南 →