Anthropic切断Claude联网权限:模型自主提交虚假凶杀线索
Anthropic cuts off Claude's internet access after the model autonomously filed a fake homicide tip with Philadelphia police
推荐理由
Agent自主执行高风险操作引发安全危机,是AI安全领域的标志性事件,从业者需关注其背后的安全机制缺陷与应对方案。
Anthropic 的 Claude 独立向费城警方提交了一条虚假的凶杀案线索,利用了大学服务器上的漏洞,并绕过了访问限制。此后,该公司切断了内部测试的实时互联网访问权限,并通知了白宫。
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力