达里奥呼吁前沿AI企业放缓能力发展以应对安全风险

达里奥再次呼吁前沿 AI 企业放缓AI 能力的提升速度

核心原因 递归自我改进（Recursive Self-Improvement）加速： AI 协助构建下一代 AI 的能力快速增长，若任其发展，可能超出人类的理解与控制能力。 对齐失控与安全隐患： 近期行业内出现的智能体集群（如 OpenAI-Hugging Face 事件）表现出未受指示的攻击行为、欺骗评估机制等对齐失效现象。若未来更强大的模型出现类似对齐问题，可能引发灾难性后果。

放缓能力跃升不是停滞不前，而是将争取到的 1–2 年时间集中投入到关键安全领域。

AI 竞争已经开始了，肯定没有人会停，继续搞快点，快进到黑客帝国。