@MemOS_dev 发布全球首个记忆原生大模型 MemT-1.0

全世界第一个“记忆原生”大模型 MemT-1.0 上线 ！

业界第一个这么做的324B总参数，激活参数20B！

不需要再给模型配图书馆了，可以直接让它长记性

用过 AI 助手的人都有过这种体验：昨天花半小时告诉它你的项目背景和代码习惯，今天再打开，它又是一张白纸，一切得从头再说。

这不是某一家产品的毛病，而是今天几乎所有记忆系统的共同缺陷：每一次对话好像都不是从零开始，经历好像沉淀，教训好像已经积累。明明记住的事情，但是检索出来又完全两样！

10 月 20 日，@MemOS_dev 团队发布了 MemT-1.0——全世界第一个“记忆原生”大模型，要解决的正是这个问题，而且解法和过去所有办法都不一样。

我们来讲清楚：过去怎么做、为什么不够好、MemT 换了什么思路、你拿到手的是什么、数据如何、还做不到什么。

过去的办法：给模型配一座图书馆模型记不住，就在旁边搭一套系统替它记。RAG、Mem0，以及 MemOS 团队自己此前的 MemOS 产品，走的都是这条路。

打个比方，这相当于给一个记性很差的专家配了一座图书馆和一个管理员。专家每次和你聊完，管理员负责把聊天里的要点抽取出来整理成卡片存进去；时间久了，有些卡片不那么重要了，管理员要给它们降权或者丢掉；下次你再来，管理员要根据你的问题去书架上检索，把相关的卡片找出来。

抽取、衰减、检索，是三套各管一摊的人工系统。而且找到卡片之后，还得把原文塞回专家面前，让他当场再读一遍，才能回答你。

这套办法能用，但有三个绕不过去的问题。

第一，成本随记忆量线性上涨。记得越多，每次要搬运和重读的文本就越多，越用越贵、越用越慢。

第二，它优化的是“代理指标”。管理员只能衡量“卡片找对了没有”，也就是检索命中率；但你真正关心的是“专家答对了没有”。找对卡片不等于答对题。

第三，也是最根本的：查资料的天花板，是检索算法。 模型再聪明，能用上的记忆也只取决于管理员的水平。

MemT 的办法：把记性做成器官 MemT-1.0 的思路是把上面三套系统合并成一件事，这件事叫训练。

存什么、忘什么、取什么，不再靠人工规则，而是全部变成参数，和模型其他能力一样训练出来。优化目标也从“检索命中率”换成了“任务答对”——这才是真目标。

还用前面的比方：不再给专家配图书馆和管理员，而是让他自己长记性。聊完知道哪些值得记，隔一阵知道哪些该忘，需要时自己想得起来，不用别人把原文念一遍。

这就是“记忆原生”的意思：记忆不是外面接上的插件，而是写进权重里的能力。

它是怎么“学会记笔记”的？ 训练进模型里的，不是记忆的内容，而是整理记忆的方法。 它不在训练时背任何人的资料，学的是一套本事：什么该记、什么该忘、需要时去哪找。

为什么这套本事只能训练出来、不能由人写规则？因为“什么值得记”没有通用答案——每个人、每个场景都不一样，没人写得出一套适合所有情况的规则。唯一靠得住的办法，是只给它一个分数：“题答对了没有”，让它自己反推出该怎么记。

具体怎么训练？用蒸馏：

老师是同一个底座模型，但能看全部原文，相当于开卷； 学生只有那块固定大小的记忆，相当于只能靠笔记。

目标是让“靠笔记答题”逼近“靠全文答题”。学生要追上老师，就只能自己悟出哪些该留、怎么用。记、擦、忘、找的每一步，最后都成了学出来的参数，而不是人写的规则。

底座不用动，还能两家通吃 MemT-1.0 不是从零训练的新模型，而是在现成大模型上做的改装。

它的关键选择是不改底座，只挂记忆：底座的结构一点不动，参数全部冻结，只在部分层旁边并联一个记忆块。真正训练的只有这块记忆的约 1.05 亿个参数，占总参数的 0.3%。

既然底座不用动，换底座就只是重新接一下。于是 MemT-1.0 直接用了两家不同架构的底座：

Nano：36B 总参数 / 3B 激活，基于 Qwen3.6-35B-A3B Flash：293B 总参数 / 17B 激活，基于 DeepSeek-V4-Flash（先用 12.65 万条轨迹强化过一轮）

两家架构不同，同一套记忆层都能接上，这本身就证明了记忆层是通用的。

你拿到手的到底是什么：一个大脑，一本你的笔记 讲完原理，回到使用者的视角。MemT-1.0 交付给你的是两样东西。

第一样是会记笔记的大脑，也就是模型权重。它人人相同，里面装的是“怎么记笔记”。

第二样是你的笔记本，也就是记忆状态文件。它是你专属的，初始为空，Nano 版本只有 40 MiB，里面装的是“你记了什么”。

一句话概括：你只管干活，笔记本由它边干边写；用得越多，笔记本越像你。

至于这本笔记本在机器里具体是怎么转起来的、为什么不需要 Agent，一张图说清：

用硬数字来说说： 只训练 0.3% 的参数，靠 40 MiB 的笔记答题，成功率 69.73%，反而略高于把全部原文塞进上下文的 69.13%——而且一个 token 都不花。128K 历史下存储缩小 66 倍，256K 上下文下首字响应快 4.19 倍，其余数据见图：

为什么说它开了先河 技术上，过去让模型变强只有堆参数、堆数据、堆上下文三条路，MemT-1.0 开了第四条——让经历沉淀成能力，模型在使用中变强。

商业上，记忆从一个谁都能搭的中间件，变成了能上基准、能当模型卖的新品类——企业买的不再是一套记忆系统，而是一个会积累经验的模型。

战略上，它在为 RSI（递归自我改进）铺地基——没有积累，就没有递归。

它也有边界： 记忆有上限、不能逐字回溯、短历史时略慢，和检索方案也互有胜负——它是印象，不是录音带。 但这正是两条路的分野：外挂记忆是“帮模型查资料”，天花板是检索算法；MemT 是“让模型长记性”，天花板是模型的理解力。 权重里是“怎么记笔记”，状态文件里是“你记了什么”。你只管干活，笔记本由它边干边写；

用得越多，笔记本越像你。

有条件的朋友，赶紧去试试👇🏻 Hugging Face：https://huggingface.co/collections/MemTensor/memt-1 GitHub：https://github.com/MemTensor/MemT-1.0