月之暗面发布Kimi K3.1 Pro，参数达3万亿支持百万上下文

10月24日凌晨，北京月之暗面科技股份有限公司发布新一代开源模型Kimi K3.1 Pro。该模型为3万亿级参数规模，支持100万词元上下文窗口，继续成为全球参数规模最大的开源模型。

据悉，Kimi K3.1 Pro大幅增加了强化学习环节的算力投入，让模型在数百个领域的反复训练中越练越聪明，拥有智能“大脑”的基础上，长出更多“手”，具备更强的专业工具调用能力，在代码编写、3D创作、金融研究和其他长程Agent的能力明显提升，可完成更长时间的多步骤复杂任务。在代码、Agent和知识类基准上，K3.1 Pro达到或接近最强闭源模型的水平。

据企业相关负责人介绍，为了让每一份新增算力都转化为稳定、高效的产出，团队对训练框架、推理效率、调度系统等技术体系的每一层都做了优化。

在编程领域，Kimi K3.1 Pro能熟练使用专业的设计和开发工具，并结合网络搜索与3D生成做出完整体验，为游戏和网页带来更专业的视觉呈现，产出的页面和交互场景在构图、排版、动画效果和完成度上都有明显提升。

值得一提的是，该模型长程编码能力经大规模强化学习进一步增强。

在一次内部测试中，研发人员让Kimi K3.1 Pro搭建一个模拟人体行走的系统，通过持续分析实验结果、定位问题并迭代优化行走控制器，推动仿真人体从最初几步之内便倒地，进步到能够交替迈步、连续行走11.2秒，并修正了肩部肌肉力臂计算中的36处错误，随后重新训练控制器。

在3D创作上，给新模型一段文字描述、一张草图或一张参考图，模型就能推断出物体的形状、比例和空间关系，直接操作专业建模软件做出可用的3D模型，并进一步搭建成完整的交互场景。

随着Kimi K3.1 Pro能力不断提升，研发团队对其漏洞研究能力做了专项评估，并在训练中实施针对性控制，在降低潜在滥用风险的同时，保留模型的通用能力。

据悉，研发中团队发现，即使没有刻意加入相关数据，模型的网络攻防能力也会随训练规模扩大而自然提升。

查明来源后，团队从中期训练和强化学习两个阶段识别并移除了网络攻防的相关数据，今后每个训练阶段都将持续采取此类管控。

同时，研究团队明确了两项开放原则：不发布推进网络攻防能力绝对前沿的开放权重，并逐步提升开放权重中可用的网络攻防能力。

目前，在多项国际权威评测中，Kimi K3.1 Pro综合智能水平已接近全球领先的闭源模型，价格仅为GPT 6 Astra的五分之一。

月之暗面表示，完整模型权重将于11月4日前发布。

团队认为，开放K3.1 Pro模型权重，将更有利于出于防御目的而需要攻防能力的群体。当能力强大的模型以开放形式提供，并能在用户可控的基础设施上运行时，更多团队将得以审查自身维护的代码。让这一能力逐步扩散，而非集中在少数闭源系统中，最终将使所有软件更加安全。

作者：罗茂林 窦世平

作者: 上海证券报

查看原文 →