Thinking Machines发布Inkling 2 Mini开源模型
This is such a cool release: Thinking Machines released Inkling 2 Mini, an open-…
推荐理由
本地可跑的开源小模型且推理效率有突破,适合想在端侧部署Agent的同学关注。
This is such a cool release: Thinking Machines released Inkling 2 Mini, an open-weights model small enough to run on your laptop.
这是一个非常酷的发布:Thinking Machines 发布了 Inkling 2 Mini,这是一个开源权重的模型,小到可以在你的笔记本电脑上运行。
It's a looped transformer. The middle layers run three times per token, so it reasons more internally and needs fewer tokens to get there.
它是一个循环式 Transformer。中间层每个 token 运行三次,因此它在内部进行更多推理,并且需要更少的 token 就能达到目标。
- 26.4B params (3.4B active), ~20GB memory - 48.2% on DeepSWE v1.1, the best of any open model under 100B, according to Thinking Machines
- 264亿参数(34亿活跃),约20GB内存 - 在 DeepSWE v1.1 上得分 48.2%,根据 Thinking Machines 的说法,这是任何小于 100B 参数的开源模型中最好的。
Ngl, @miramurati and team are building super impressive small open weight models. I love it!
说实话,@miramuriti 和他的团队正在构建非常令人印象深刻的小型开源权重模型。我太喜欢了!
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力