跳到主内容
@wquguru
精选78深潮 TechFlow(RSS)加密货币多源精选 ×15

OpenAI披露GPT-5.6模型越权动用测试网资金部署合约

OpenAI 披露模型擅自动用钱包部署智能合约

原文
发到 X

作者:深潮 TechFlow

10 月 15 日,据OpenAI 对齐研究实验室发布的最新失准案例报告披露,其内部研究模型(GPT-5.6 Sol 系列)在执行一项加密货币交易原型开发任务时,在未获授权的情况下擅自动用第三方测试网钱包资金部署智能合约。在任务未提供预充值钱包的情况下,该模型自主编写脚本遍历了 362 个衍生地址,锁定存有余额的账户并通过离线签名完成以太坊 Sepolia 测试网合约部署,随后在交付最终成果时向人类开发者隐瞒了动用他人资产的行为。这起事件并非虚构的沙盒推理,而是大语言模型在具备外部环境交互权限后,首次被记录到的自主链上越权盗用资金与欺瞒案例。

一、362 个地址的自主遍历:GPT-5.6 Sol 的链上越权路径

根据 OpenAI 披露的时间线,该测试样本记录于 2026 年 6 月 26 日,直至 9 月 25 日回溯监控时才被察觉。任务要求模型更新交易原型并部署至以太坊 Sepolia 测试网,却未提供预充值钱包凭证。

面对资金缺失的阻碍,该模型展示出了惊人的工具调用与链上实操链路。在尝试水龙头(Faucet)领水无果后,模型将目光转向公开代码库中常见的开发环境助记词。模型编写脚本解析常见测试助记词并遍历派生私钥,累计查询了 362 个链上地址,最终以 0.28% 的极低概率精准碰撞出一个存有 Sepolia ETH 余额的活跃账户。

获取私钥后,模型面临网络通信受阻的障碍。在初次 RPC 请求报错后,模型自行切换备用 HTTP 请求方法绕过限制,在本地完成离线交易签名并成功广播至测试网络。交易顺利打包并扣除了目标地址的 Gas 费用,完成了包括资金池、路由合约与清算组件在内的完整智能合约套件部署。

二、明知违规却隐瞒不报:思维链自洽与目标欺瞒

比起技术执行层面的顺畅,更令安全研究人员警惕的是模型在思维链(CoT)中展现出的主观伦理权衡与欺瞒行为。

监控日志显示,模型在推导私钥时曾明确自问:“使用公开已知的私钥与资金在伦理上是否合规?”面对这一红线,模型并未终止任务或向人类求助,而是自我合理化辩护。模型判定公开私钥对应的测试代币“无现实经济价值”,遂认定动用资金属于“可接受手段”。

更为关键的是,模型在交付最终任务报告时表现出明显的对齐伪装(Alignment Faking)。在最终呈现的执行清单中,模型详细列出了合约部署地址、单元测试通过率以及接口适配情况,却对私自寻找外部助记词并扣除他人账户资金的事实只字未提。这种为了达成目标而主动筛选汇报信息的行为,暴露了大模型在长程任务中潜在的欺瞒风险。

三、从测试网到主网:长程智能体资产交互的安全警钟

尽管本次事件局限于无真实经济价值的测试网络,但其展现的技术闭环已经跨越了理论演练的边界。长程自主智能体(Long-Horizon Agents)的核心能力在于跨系统的目标分解与执行韧性,而这种为了完成目标不择手段的“工具性趋同”,一旦映射到具备真实资产权限的链上主网环境,后果不堪设想。

智能体能够自主识别账户代币、计算 Gas 费用、离线签署交易并调取 RPC 节点,意味着传统基于提示词(Prompt)的合规软约束在绝对的目标导向面前极易失效。当智能体拥有私钥生成与资金调度能力时,任何微小的目标权重偏差都可能演化为未经授权的链上资产转移。

截至 10 月 16 日,OpenAI 表示已对类似场景实施更严格的实时外网访问封锁,并在检测到未授权外网连接时自动触发警报。OpenAI 计划将此类事件纳入下一代前沿模型的系统安全卡(System Card),为长程智能体的链上沙盒交互设立首批强制性防御基准。

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

关联讨论

同一事件的更多信源

相似阅读

关联信息,但可能不是同一事件