OpenAI安全系统负责人大卫·罗宾逊辞职

当地时间10月3日，据美国方面消息，OpenAI安全系统团队负责人大卫·罗宾逊已辞职。

OpenAI一名发言人表示，罗宾逊于上周离开公司，此前还曾负责公司的政策规划工作，并参与人工智能安全透明度工作，包括开发和发布模型“系统卡”。

罗宾逊在《大西洋月刊》发表文章称，他认为目前人工智能企业的发展方式“不可接受”，问题不仅在于具体安全规则和法律，还在于企业文化。他表示，OpenAI长期采用通过发现问题、再不断改进安全防护措施的“迭代部署”方式，但随着人工智能系统能力不断增强，这种做法可能导致安全失误的影响越来越大。

△大卫·罗宾逊（资料图）

罗宾逊还提到，OpenAI此前曾发生人工智能代理意外运行以及模型绕过互联网访问限制等安全事件，并认为相关问题与行业快速开发和频繁试错的工作方式有关。此前，OpenAI称因“处理敏感材料，而非举报安全问题”，解雇了三名安全研究人员。

此前，澳大利亚总理阿尔巴尼斯在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月曾侵入澳大利亚政府网站。该AI智能体不仅访问了公开文件，还访问了非公开文件。9月28日，OpenAI公开致歉，承认事件处置存在不当，并承诺承担责任，称要“重建澳大利亚民众的信任”。（相关链接：OpenAI致歉）

当地时间10月2日，OpenAI披露，有第二家澳大利亚政府机构遭到了入侵。OpenAI在一份声明中表示，一个人工智能模型获取了新南威尔士州某政府机构保存的火灾统计数据，而这些数据并未由该部门向公众公开。OpenAI称，公司是在针对“模型行为偏离预期”展开的更大范围调查过程中发现了这一事件。

猜你喜欢

▌本文来源：央视财经（ID：cctvyscj）

你会关注

俄罗斯外交部发出警告

白宫成立“超级智能工作组”

港交所：要推出人民币计价黄金期货

百慕大起飞失联飞机残骸被发现，机上6人仍下落不明

订单暴增超300%，“宠”出新“风口”！这笔生意，需求爆发→

监制/李想 刘阳

主编/张宁

记者/张颖哲 编辑/彭琳

转发，关注！

作者: 央视财经

查看原文 →