StarCoder2 与 The Stack v2 发布

Hugging Face 联合 ServiceNow 和 NVIDIA 发布了 StarCoder2 系列代码生成模型，包括 3B、7B 和 15B 三个参数版本。这些模型基于全新的 The Stack v2 数据集训练，该数据集包含超过 6000 亿个代码 token，覆盖 600 多种编程语言，并经过严格的去重和过滤。StarCoder2 在多项代码生成基准测试中表现优异，尤其在 Python、JavaScript 等语言上超越了同等规模的模型。模型采用 OpenRAIL-M 许可证，允许研究及商业使用。同时发布的还有配套的代码搜索工具和模型卡。