跳到正文
Hacker News· iwhalen·· 3 小时前AI 评分28

神经网络学会用快速权重编程其他神经网络(2021)

Neural nets learn to program neural nets with fast weights (2021)

AI 导读

1991年提出的快速权重编程器(FWP)让一个前馈神经网络通过梯度下降学习修改另一个网络的快速权重,实现存储与控制分离,其快速权重更新通过自生成激活模式(即如今的 key 和 value)的加性外积计算。

来源:Hacker News · people.idsia.ch