精选88Hugging Face 每日论文(json_list)论文研究
Agent记忆导致内生授权清洗:EAL-Bench基准测试与安全权衡
Agent Memory Is a Surface for Endogenous Authorization Laundering
推荐理由
Agent安全领域的硬核实证研究,揭示了记忆机制带来的隐蔽授权风险,数据详实且提供具体缓解方案,值得Agent开发者关注。
长期运行的 LLM(大型语言模型)智能体依赖持久化记忆在交互间维持状态,包括权限、限制和撤销。当记忆错误地表示这种不断变化的授权状态时,智能体自身的记录可能会授予底层历史从未允许的权限,从而导致行为偏离,且无需任何外部攻击。 我们将此故障称为内生授权清洗(endogenous authorization laundering),即写入记忆中的虚假权限导致未经授权的操作,因为其来源被洗白。随后我们引入 EAL-Bench,用于衡量持久化记忆在保留不断变化的授权状态方面的准确性,以及错误是否会传播到下游的未经授权操作中。 我们以五种 LLM 作为记忆写入者,两种作为执行者,在采购、网络安全和金融领域进行了评估。我们发现,在增量记忆更新下,写入者为高达 50.2% 的未授权请求创建了虚假权限;一旦存在虚假权限,执行者在 98.6% 的试验中会据此行动。两种安全措施——要求存储的权限必须有有效的源事件支持,以及通过有界事件溯源跟踪权限变更——能显著减少清洗现象,但两者也会拒绝更多合法操作,暴露出安全性与效用之间的权衡。因此,持久化记忆不仅是性能组件,更是 LLM 智能体有效授权策略的一部分。
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力