Intern-Decision 4B：基于Qwen3.5微调的多模态结构化决策
internlm/Intern-Decision 4B and 0.8B
提供全新架构思路，通过单 token 映射实现高效结构化决策，适合需要高精度输出而非自由生成的 Agent 场景，值得研究其工程实现。
https://huggingface.co/internlm/Intern-Decision-0.8B
Update: https://huggingface.co/internlm/Intern-Decision-2B
更新：https://huggingface.co/internlm/Intern-Decision-2B
Intern-Decision-4B
Demo | Model Weights | GitHub
演示 | 模型权重 | GitHub
Intern-Decision-4B is a multimodal structured decision model fine-tuned from Qwen3.5-4B. It accepts a shared state, a schema of named questions, and optional images, and returns an answer distribution for every question in one model forward pass.
Intern-Decision-4B 是一个多模态结构化决策模型，基于 Qwen3.5-4B 微调而成。它接受共享状态、命名问题的模式以及可选图像，并在一次模型前向传播中为每个问题返回答案分布。
How inference works
推理工作原理
- Preserve the question and option order, and map each question's options to single-token symbols A, B, …, Z, a, …, z, 0, …, 9.
- Render the original system prompt, state, decision schema, and a complete assistant JSON skeleton with one <decision> placeholder per field. Preserve the checkpoint's chat template and empty thinking block.
- Run one causal Hugging Face forward pass. For the masked-next-token decision objective, read logits at the position immediately before each placeholder.
- Take a softmax over only that field's allowed candidate-symbol logits, then apply the checkpoint's probability calibration.
- Map symbols back to the original option values and return typed JSON answers.
- 保持问题和选项的顺序，并将每个问题的选项映射为单令牌符号 A、B、…、Z、a、…、z、0、…、9。
- 渲染原始系统提示、状态、决策模式，以及包含每个字段一个 <decision> 占位符的完整助手 JSON 骨架。保留检查点的聊天模板和空的思考块。
- 运行一次因果 Hugging Face 前向传播。对于掩码下一个令牌决策目标，读取每个占位符位置之前的 logits。
- 仅对该字段允许的候选符号 logits 进行 softmax 运算，然后应用检查点的概率校准。
- 将符号映射回原始选项值并返回类型化的 JSON 答案。
This API performs structured candidate scoring. It does not call generate or sample free-form text. A request can contain multiple fields; no gold answers are inserted into the prompt. The inference compiler uses only state, questions, and optional images.
此 API 执行结构化候选评分。它不调用 generate 或采样自由文本。请求可以包含多个字段；提示中不插入黄金答案。推理编译器仅使用状态、问题和可选图像。
更进一步：量化金融体系
看懂新闻只是起点——沿量化金融路径，把它变成能交付的工程能力