Anthropic与OpenAI联手推第三方审计

我看到了什么 ？Sam Altman 和 Dario Amodei 居然梦幻联动，还形成了统一战线 ？？

起因是 Anthropic 创始人 Dario Amodei 发表了「We Must Pace the Frontier」，主张 AI 行业应放缓前沿模型的开发速度，并提出三部分计划。作为第一步，Anthropic 单方面承诺：允许第三方评估者获得永久、员工级别的系统访问权限，以核查安全措施、报告事故、评估训练过程中的模型对齐情况。

OpenAI 创始人 Sam Altman 随即附和，称“控制前沿节奏”是 OpenAI 近期内部讨论的核心议题，并承诺同样引入“具有员工级访问权限的独立评估者”。

但 Cohere 创始人 @aidangomez 显然不认同，他讽刺 A O 两家是“垄断联盟”，他指出三个问题： 1. “员工级访问整个运营”，指向合规成本问题：深度接受第三方审计需要投入大量资源，头部实验室负担得起，中小公司则可能被排除在竞争之外。 2. “不够‘安全’就关停你”，指向监管裁量权问题：安全标准若由少数机构解释和执行，实质上赋予了它们否决竞争对手的权力。 3. “中国不会遵守，但其他人必须遵守，否则没芯片”，指向竞争格局问题：Gomez 是加拿大人、Cohere 是加拿大公司。他的意思是，这类规则靠芯片出口管制强制执行，覆盖的是美国及其盟友的企业，而中国并不受约束，结果是自我设限的玩家与不受约束的玩家同场竞技。

https://x.com/aidangomez/status/2098828132396449939

HuggingFace 创始人 @ClementDelangue 的回应更直接： 看似在附和 Dario“对齐很关键”，实则对 A 社釜底抽薪 😃

他先公开承认风险成立，随即断言这个问题“不可能在少数前沿实验室的闭门会议里解决”，并宣布发起 Open Alignment Initiative、同时申请加入 Dario 刚承诺的“嵌入式评估者”计划。

这一申请把 Anthropic 逼入两难： · 批准，则最尖锐的批评者带着开源基因进入内部，此后再拒绝任何申请者都失去理由，“第三方”名单脱离控制； · 拒绝，则当场证明所谓“第三方评估者”实为“经批准的第三方”。

https://x.com/ClementDelangue/status/2098790988034580852