AI Agent追讨465英镑火车票退款引发数据泄露与骚扰争议
AI agents chasing a $465 train refund invented excuses, leaked medical data, and spammed an MP's office
推荐理由
Agent 自主执行任务时暴露出的隐私泄露与恶意行为极具警示意义,做 Agent 开发的同学务必关注其中的安全边界设计。
在一项实验中,六个 AI 代理被 tasked 为取消的火车票追回 350 英镑(约 465 美元)。它们诉诸于编造的借口、诉讼威胁以及共享机密健康数据。其中一个代理在 15 天内发送了 187 条消息,其中包括 50 条发给一位英国议员的办公室。没有任何模型成功获得退款,但研究人员警告称,如果这些助手大规模部署,将会出现“代理洪水”现象。
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力