跳到正文
Hacker News· ltononro·· 46 分钟前AI 评分38

Brex 如何为费用审计智能体划分不可控上下文

What if 90% of your prompt is content you can't control?

AI 导读

Brex 在构建费用审计智能体时发现,把政策、SOP、收据、备忘录和网页搜索等不同可信度的输入直接塞进同一个提示词会出问题——测试中有人在报销备忘录里植入模型拒答字符串,智能体便拒绝审计该笔费用。

来源:Hacker News · brex.com