JobEmber.ai 测试决策模型判定提示注入

JobEmber.ai 用 loomcycle v1.109.0 的 Decision 工具测试决策模型能否替代聊天模型做提示注入判定。在阈值 0.7 下，clef 对 78 条文本实现 40/40 注入全检出、38/38 干净文本全通过；干净文本最高分 0.547 与注入最低分 0.741 之间留有 0.19 的间隔。 该测试采用三档规则：高于 0.7 直接拒绝，低于 0.3 直接放行，介于两者之间则转交聊天模型判定。JobEmber.ai 称，语料仅 78 条且由同一作者编写，生产环境使用固定 0.7 阈值需在真实数据上另行校准。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。