Zyphra 提出 ZHA 分层注意力：用树状索引实现亚二次复杂度

Zyphra 提出分层注意力 ZHA，通过构建并搜索 KV cache 的压缩树来为每个查询挑选相关 token，使路由和注意力计算都达到亚二次复杂度。在 Qwen3.6-35B-A3B 上只需新增 81,920 个可训练参数（约 0.00024%），用几十亿 token、32K 上下文做 KL 蒸馏即可适配。