Ollama v0.40.17-rc4:支持Inkling 2 Mini
v0.40.17
推荐理由
本次更新显著提升了 Apple Silicon 设备的并发处理能力,并修复了 Windows GPU 的关键内存分配缺陷,直接影响本地部署稳定性与性能,建议相关用户升级测试。
Inkling 2 Mini
Inkling 2 Mini from Thinking Machines is a 26B parameter model with 5.4B active.
来自 Thinking Machines 的 Inkling 2 Mini 是一个拥有 54 亿活跃参数的 260 亿参数模型。
Its looped layers give it more computation per token than its size suggests, and it still fits on a Mac at about 20GB. It handles text and images, tool calls, and thinking, and scores 79.2% on SWE-Bench Verified).
其循环层结构使其每个 token 的计算量超出其规模所暗示的水平,且仍可在约 20GB 内存的 Mac 上运行。它支持文本、图像、工具调用和思维链推理,在 SWE-Bench Verified 基准测试中得分 79.2%。
代码 · 1 行
ollama run inkling-2-miniWhat's Changed
变更内容
- ollama launch claude supports Claude Code's deferred tool loading, so MCP tools are loaded when needed instead of all at
- once
- Ollama on Apple silicon now serves multiple requests at once.
- ollama launch opencode sets thinking options from the model's metadata
- ollama launch pi refreshes Pi's model list after sign-in and passes along prompt arguments
- ollama launch chatgpt --restore asks before switching an active profile and preserves existing settings and chat history;
- quitting ChatGPT yourself now lets it exit through its own quit prompt
- Running ollama with no arguments in a non-interactive shell prints help instead of erroring
- Ctrl+C or Ctrl+G while in a multiline """ block leaves multiline mode instead of swallowing the next line
- Changing the context shift setting no longer reloads the model
- Vulkan now uses mmap for integrated GPUs, fixing Failed to allocate pinned memory load failures on shared-memory GPUs
- On Windows iGPUs, partially offloaded models no longer fail to allocate the KV cache
- Tool definitions passed through the API keep JSON schema keywords Ollama doesn't model instead of dropping them
- Disabling thinking now maps to the model's lowest supported reasoning level rather than being ignored
- Source builds can use prebuilt MLX-C and XGrammar binaries
- Full Changelog: v0.40.16...v0.40.17-rc3
- ollama launch claude 支持 Claude Code 的延迟工具加载功能,因此 MCP 工具会在需要时加载,而非一次性全部
- 加载
- Apple Silicon 上的 Ollama 现在可同时处理多个请求。
- ollama launch opencode 根据模型的元数据设置思维选项
- ollama launch pi 在登录后刷新 Pi 的模型列表,并传递提示词参数
- ollama launch chatgpt --restore 在切换活动配置文件前会进行询问,并保留现有设置和聊天记录;
- 用户自行退出 ChatGPT 现在会通过其自身的退出提示框完成退出
- 在非交互式 shell 中不带参数运行 ollama 将打印帮助信息,而非报错
- 在多重引号 """ 块内按 Ctrl+C 或 Ctrl+G 会退出多行模式,而不是吞掉下一行
- 更改上下文窗口大小设置不再重新加载模型
- Vulkan 现在为集成显卡使用 mmap,修复了共享内存 GPU 上因无法分配固定内存而导致的加载失败问题
- 在 Windows 集成显卡上,部分卸载的模型不再出现 KV 缓存分配失败的问题
- 通过 API 传递的工具定义会保留 Ollama 未建模的 JSON Schema 关键字,而不是将其丢弃
- 禁用思维链现在会映射到模型支持的最低推理级别,而不是被忽略
- 源码构建可以使用预编译的 MLX-C 和 XGrammar 二进制文件
- 完整更新日志:v0.40.16...v0.40.17-rc3
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力