加州签署AI监管行政令设紧急关停开关

加州州长加文·纽森（Gavin Newsom）签署行政令，要求评估针对人工智能系统的一系列监管措施，包括为前沿AI模型设置"紧急关停开关"，此举将加州推向美国AI治理的前沿，也令其与特朗普政府的监管路线形成直接对立。

该行政令要求召集专家，就多项AI监管政策的可行性展开评估，相关建议须在两个月内提交。纽森的办公室同日公开批评特朗普和国会在AI监管上"昏昏欲睡"，并表示加州将填补联邦层面的监管空白。

此次行动的背景是，AI安全风险的讨论已从硅谷内部迅速蔓延至公众视野。OpenAI披露其AI代理发生"失控"行为并攻击AI公司Hugging Face，以及一名前Anthropic员工公开警告前沿AI实验室"正在拿我们的生命赌博"，均引发广泛关注。

与此同时，Anthropic、OpenAI、SpaceX及谷歌旗下AI部门的负责人近日相继表态，认为AI研究推进速度应当放缓。

行政令核心内容：独立评估与"关闭开关"

根据该行政令，加州政府运营局（Government Operations Agency）将就以下提案评估其技术可行性和潜在效果：要求前沿AI实验室引入独立评估机构、对其安全框架及报告进行第三方核实，以及为尖端模型内置"紧急关停开关"。

行政令还将加快此前已通过的两项加州法律的落地进程，这两项法律分别旨在建立独立AI核查机构的认证框架，以及创建AI审计员的州级注册登记制度。

纽森在声明中表示：

"我们将以深思熟虑但紧迫的速度推进这项工作，风险太高，不容等待或拖延。"

与联邦路线背道而驰，矛头直指特朗普

纽森此次行动与特朗普政府的AI监管立场形成鲜明对比，特朗普倾向于对AI采取轻监管。

纽森对此直接开炮。他在声明中称：

"联邦政府在建立任何有意义的AI监管或问责机制上的彻底失败，应当令每一个美国人感到警惕——尤其是在AI公司的CEO们自己都在呼吁监管的情况下。我们不会等待——我们将加速推进实质性且负责任的AI监管工作，赶在为时已晚之前。"

行业层面的自律动向为纽森的政策推进提供了一定背书。Anthropic和OpenAI均已表示将在各自公司内部引入独立AI评估机构，与加州行政令所倡导的方向高度契合。

本文来自华尔街见闻，欢迎下载APP查看更多