Hacker News· Ariarule·· 2 小时前AI 评分58
Goodfire 研究用内部表征塑造并监控模型
Shaping and Monitoring Models Through Their Internal Representations
AI 导读
Goodfire 发布研究提出 mechanistic shaping 框架，通过惩罚模型对特定内部概念的依赖或表达来指定解题方式，而非只看结果是否正确。
来源：Hacker News · goodfire.com
Goodfire 研究用内部表征塑造并监控模型