Hacker News· iwhalen·· 3 小时前AI 评分28
神经网络学会用快速权重编程其他神经网络(2021)
Neural nets learn to program neural nets with fast weights (2021)
AI 导读
1991年提出的快速权重编程器(FWP)让一个前馈神经网络通过梯度下降学习修改另一个网络的快速权重,实现存储与控制分离,其快速权重更新通过自生成激活模式(即如今的 key 和 value)的加性外积计算。
来源:Hacker News · people.idsia.ch