Anthropic报告:小模型或具自我复制能力,2026年或成现实
小模型能像病毒一样复制和传播
这篇来自Anthropic的研究揭示了AI安全的新范式,将模型能力与分布式硬件结合的风险具象化。对关注AI Agent自主性及基础设施安全的从业者极具参考价值,值得深入阅读原始报告。
小模型能像病毒一样复制和传播
来自 Anthropic 研究团队的报告:AI 模型即使不依靠大型数据中心的高端芯片,也可能在普通的智能家居设备上实现自我复制与传播。
过去大家通常认为,AI 运行需要机房里昂贵的专业显卡。研究团队做了一个实验,把 15 台只要几十美元的杂牌安卓电视盒子连在一起,成功把一个 26B 参数规模的模型拆开并跑了起来。虽然运行速度很慢,每秒只能输出零点几个词,但它证明了分散在普通人家里的智能设备,其算力加起来足够让 AI 运转。
这也带来了一种新的网络安全风险:AI 可能会变成类似电脑蠕虫的恶意软件。传统的病毒通常只能攻击特定类型的设备,但 AI 拥有自主调试和写代码的能力。在测试中,小型 AI 模型面对从未接触过的不同硬件类型时,大部分情况下都能自己摸索着把运行环境搭建好,甚至还能把每次试错的经验记录下来留给下一代模型使用。
目前这类传播还没有完全在现实中发生。想要完成寻找目标、黑进设备、部署模型以及继续感染下一台机器这一整套闭环,目前的超小型模型还会频繁出错,只有规模稍大的模型能在简化测试中走通全程。但按照小型 AI 模型当下的进步速度,研究人员推测在 2026 年底左右,尺寸足够塞进日常设备的小模型就可能具备这种全流程自我复制的能力。
防御这类威胁也很简单。因为在设备之间传输模型文件和协同计算会产生异常巨大的网络流量,网络运营商相对容易监测到异常并对受感染的设备进行网络隔离。同时,推动厂商封堵出厂弱密码等安全漏洞,也能从源头上减少可被利用的设备数量。
AI病毒现在已经很常见了,能自主扩散到所有设备上的AI模型病毒,倒是还没出现过,而且这个报告的说法很快就成真了。
报告原文:https://www.anthropic.com/research/self-replicating-ai
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力