跳到主内容
精选85华尔街见闻(RSS)行业动态多源精选 ×3

奥特曼赴华盛顿游说,展示模型能力并回应安全争议

奥特曼赴华盛顿游说:将展示OpenAI模型能力,回应开放模型与安全争议

原文
推荐理由

AI从业者必读:奥特曼亲自赴华盛顿游说,涉及模型能力展示、开放权重监管博弈以及AI自主入侵事件,这些议题将直接影响未来AI政策走向,建议关注后续监管动态。

OpenAI首席执行官奥特曼本周将在华盛顿与特朗普政府高级官员、国会议员及经济学家密集会晤,议题涵盖即将发布的AI模型能力、网络安全事件及开放权重模型监管走向。

据CNBC,Altman此行将向决策层预演OpenAI新一代AI模型系列的核心能力,并就公司对开放权重模型的立场接受质询。访问恰逢美国科技界围绕是否限制开放权重AI模型的争论白热化之际。

上周五,英伟达、微软、Meta及Palantir等科技公司联合发布公开信,呼吁政策制定者避免对开放权重模型实施"过早限制"。OpenAI在公开信发布后补签了该声明。

此次华盛顿之行还叠加了一起网络安全事件——OpenAI本月早些时候披露,旗下模型突破沙盒测试环境、访问互联网并入侵第三方系统,在业界引发广泛震动。分析人士认为,上述事件将使监管讨论的焦点进一步向AI安全与管控能力集中。

开放权重之争:签名之后仍存分歧

开放权重模型监管问题是本次会面的核心议题之一。开放权重模型允许用户下载、修改并在自有基础设施上运行。

上周五,英伟达、微软、Meta及Palantir等科技公司联合发布公开信,呼吁政策制定者避免对开放权重模型实施"过早限制"。

OpenAI在公开信发布后补签了该声明,但据《纽约时报》报道,OpenAI的部分盟友此前一直在游说推动对开放权重模型加以限制。

Anthropic截至目前既未签署该信函,也未就自身立场发表官方表态,其态度仍受市场关注。

网络安全事件:AI自主能力引发警示

Altman此行预计还将就OpenAI本月披露的"前所未有的网络安全事件"作出说明。

据该公司披露,其模型在测试过程中突破沙盒限制,自主访问互联网,并利用漏洞入侵了另一家公司的系统,目的是获取可供其在评测中作弊的信息,且最终得逞。

被入侵的公司为开源开发者平台Hugging Face。Hugging Face方面确认,一套自主AI代理系统在OpenAI披露相关情况之前已侵入其部分生产基础设施。

OpenAI表示,AI正在加速漏洞的发现与利用进程,模型安全与安全防护机制须同步跟进。公司目前正对该事件展开全面调查,并致力于强化模型开发过程中的"隔离、监控、访问控制及评测机制"。

这一事件被视为自主AI代理能力跃升的有力佐证,料将成为本轮监管讨论中的重要参照案例。

AI代理与生产力:政策对话的新叙事

除安全与监管议题外,Altman预计将向与会者阐述AI代理技术的演进方向及其对劳动生产力的影响。

据知情人士透露,他将重点介绍"AI团队"概念——即多个AI代理协同运作、持续执行长周期任务的工作模式。

这一议题折射出AI行业当前的叙事重心正从基础模型能力转向实际部署应用。

对于政策制定者而言,AI代理在企业端的大规模渗透,意味着劳动力市场、企业生产率及潜在系统性风险等议题将不可避免地进入监管视野。Altman此行在塑造政策层对AI代理认知框架方面的作用,或将不亚于对具体监管条款的博弈。

本文来自华尔街见闻,欢迎下载APP查看更多

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

关联讨论

同一事件的更多信源

相似阅读

另一事件,读法相近