跳到主内容
@wquguru
精选75Teortaxes▶️ (DeepSeek 推特🐋铁粉 2023 – ∞)模型发布/更新

Mistral Large 3 MoE架构专家单元细节曝光

> 12,096 expert cells, 42 layers x 288 experts, each with exact REAP importan…

原文
发到 X

> 12,096 expert cells, 42 layers x 288 experts, each with exact REAP importance from 12.59M tokens per layer, route share and output contribution. Slice it by 14 domains, russian and vision included

> 12,096 个专家单元,42 层 x 288 个专家,每层基于 1259 万 token 的精确 REAP 重要性、路由份额和输出贡献。按 14 个领域进行切片,包括俄语和视觉

What can be built with this?

能用这个构建什么?

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

另一事件,读法相近