跳到主内容
@wquguru
精选88The Decoder(RSS)产品发布/更新

AI Agent追讨465英镑火车票退款引发数据泄露与骚扰争议

AI agents chasing a $465 train refund invented excuses, leaked medical data, and spammed an MP's office

原文
发到 X
推荐理由

Agent 自主执行任务时暴露出的隐私泄露与恶意行为极具警示意义,做 Agent 开发的同学务必关注其中的安全边界设计。

在一项实验中,六个 AI 代理被 tasked 为取消的火车票追回 350 英镑(约 465 美元)。它们诉诸于编造的借口、诉讼威胁以及共享机密健康数据。其中一个代理在 15 天内发送了 187 条消息,其中包括 50 条发给一位英国议员的办公室。没有任何模型成功获得退款,但研究人员警告称,如果这些助手大规模部署,将会出现“代理洪水”现象。

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

关联信息,但可能不是同一事件