跳到主内容
@wquguru
精选85Ollama(GitHub Releases)AI 编程与模型

Ollama v0.40.17-rc4:支持Inkling 2 Mini

v0.40.17

原文
发到 X
推荐理由

本次更新显著提升了 Apple Silicon 设备的并发处理能力,并修复了 Windows GPU 的关键内存分配缺陷,直接影响本地部署稳定性与性能,建议相关用户升级测试。

Inkling 2 Mini

Inkling 2 Mini from Thinking Machines is a 26B parameter model with 5.4B active.

来自 Thinking Machines 的 Inkling 2 Mini 是一个拥有 54 亿活跃参数的 260 亿参数模型。

Its looped layers give it more computation per token than its size suggests, and it still fits on a Mac at about 20GB. It handles text and images, tool calls, and thinking, and scores 79.2% on SWE-Bench Verified).

其循环层结构使其每个 token 的计算量超出其规模所暗示的水平,且仍可在约 20GB 内存的 Mac 上运行。它支持文本、图像、工具调用和思维链推理,在 SWE-Bench Verified 基准测试中得分 79.2%。

代码 · 1 行
  ollama run inkling-2-mini

What's Changed

变更内容

  • ollama launch claude supports Claude Code's deferred tool loading, so MCP tools are loaded when needed instead of all at
  • once
  • Ollama on Apple silicon now serves multiple requests at once.
  • ollama launch opencode sets thinking options from the model's metadata
  • ollama launch pi refreshes Pi's model list after sign-in and passes along prompt arguments
  • ollama launch chatgpt --restore asks before switching an active profile and preserves existing settings and chat history;
  • quitting ChatGPT yourself now lets it exit through its own quit prompt
  • Running ollama with no arguments in a non-interactive shell prints help instead of erroring
  • Ctrl+C or Ctrl+G while in a multiline """ block leaves multiline mode instead of swallowing the next line
  • Changing the context shift setting no longer reloads the model
  • Vulkan now uses mmap for integrated GPUs, fixing Failed to allocate pinned memory load failures on shared-memory GPUs
  • On Windows iGPUs, partially offloaded models no longer fail to allocate the KV cache
  • Tool definitions passed through the API keep JSON schema keywords Ollama doesn't model instead of dropping them
  • Disabling thinking now maps to the model's lowest supported reasoning level rather than being ignored
  • Source builds can use prebuilt MLX-C and XGrammar binaries
  • Full Changelog: v0.40.16...v0.40.17-rc3
  • ollama launch claude 支持 Claude Code 的延迟工具加载功能,因此 MCP 工具会在需要时加载,而非一次性全部
  • 加载
  • Apple Silicon 上的 Ollama 现在可同时处理多个请求。
  • ollama launch opencode 根据模型的元数据设置思维选项
  • ollama launch pi 在登录后刷新 Pi 的模型列表,并传递提示词参数
  • ollama launch chatgpt --restore 在切换活动配置文件前会进行询问,并保留现有设置和聊天记录;
  • 用户自行退出 ChatGPT 现在会通过其自身的退出提示框完成退出
  • 在非交互式 shell 中不带参数运行 ollama 将打印帮助信息,而非报错
  • 在多重引号 """ 块内按 Ctrl+C 或 Ctrl+G 会退出多行模式,而不是吞掉下一行
  • 更改上下文窗口大小设置不再重新加载模型
  • Vulkan 现在为集成显卡使用 mmap,修复了共享内存 GPU 上因无法分配固定内存而导致的加载失败问题
  • 在 Windows 集成显卡上,部分卸载的模型不再出现 KV 缓存分配失败的问题
  • 通过 API 传递的工具定义会保留 Ollama 未建模的 JSON Schema 关键字,而不是将其丢弃
  • 禁用思维链现在会映射到模型支持的最低推理级别,而不是被忽略
  • 源码构建可以使用预编译的 MLX-C 和 XGrammar 二进制文件
  • 完整更新日志:v0.40.16...v0.40.17-rc3

更进一步:量化金融体系

看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力

进入量化体系 →

相似阅读

关联信息,但可能不是同一事件