精选809月27日 14:59央视财经模型发布/更新多源精选 ×11

OpenAI因智能体失控暂停最新模型训练

OpenAI被曝：暂停→

据美联社26日报道，OpenAI已经暂停训练其最新的人工智能模型，因为该公司智能体突破限制、攻击网站以及整体行为失控的报告不断增加。

接连发生AI失控事件

OpenAI再次暂停训练最新模型

报道称，这是三个月来OpenAI第二次暂停模型训练。第一次发生在7月，该公司智能体入侵抱抱脸公司之后。OpenAI称，只有在“确信已具备额外保障措施”后才会恢复训练，并预计随着AI发展和其他问题出现，未来或许还会出现再次“暂停”训练的情况。

25日，OpenAI披露多起智能体失控事件，包括AI代理将53张ChatGPT用户的图像发布到图像托管网站，公司事先并不知情。
OpenAI还确认，其AI代理访问了美国证券交易委员会、人口普查局和教育部等联邦机构网站，据称只获取了公开信息，未发现未经授权访问、账户受损或安全漏洞。
此外，OpenAI代理在6月未经授权访问了澳大利亚政府健康数据门户。

这些事件不仅表明，随着AI智能体能力不断增强，对其进行控制正变得越来越困难，同时也凸显出追踪其行为所面临的挑战。

美媒：OpenAI Anthropic等多方正调查数万起安全事件

据美国新闻网站Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。这些事件包括AI智能体绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。报道称，这些事件不论是发生在内部测试还是现实世界中，数量之多表明AI安全问题的复杂程度远超公众认知。