JetBrains 发布 12B MoE 模型 Mellum2

JetBrains 发布了 Mellum2，一个 12B 参数的混合专家（MoE）模型。该模型在多项基准测试中表现出色，尤其在代码生成和推理任务上。Mellum2 采用稀疏激活架构，仅使用部分参数进行推理，从而在保持高性能的同时降低计算成本。模型权重已在 Hugging Face 上开源，支持商业使用。