10:11·meng shao
HuggingFace与LiquidAI团队联合发布多Harness强化学习训练方案,旨在解决模型在单一框架RL训练后出现的“水土不服”与过拟合问题。该方案通过在框架与模型间部署记录代理(capture proxy),无需修改任何框架代码即可让同一模型同时在四个真实Agent框架中进行RL训练。实验显示,小模型LFM2.5-2.6B在多框架下准确率从42%提升至54%,工具调用减少31%。文章详细阐述了处理黑盒API、精确获取token ID与logprob的技术难点及OpenEnv解法,并对比了单框架RL、多框架RL与SFT的效果差异,为开发者提供了可复现的工程实践参考。
#HuggingFace#LiquidAI#强化学习
11:05·meng shao
CMU秋季课程11-768公开第12讲讲义,深入解析在真实多GPU集群上运行LLM Agent强化学习的系统工程。主讲人gneubig指出核心挑战在于协调优化目标相反的推理与训练引擎。推理侧涵盖KV Cache、Prefix Caching、Continuous Batching及Speculative Decoding;训练侧涉及Activation Checkpointing与Prefix Sharing以加速GRPO等长轨迹任务。
#CMU#AI Agents#强化学习
06:50·r/LLMDevs(Reddit)
开发者Vovala14发布实验性语言模型MICA的v0.3版本。该模型基于细胞自动机架构,推理过程无需Transformer或浮点网络。本次更新核心在于新增一个674 KB的整数记忆模块,可回溯最近64个单词,结合直接回忆与关联表示。实测显示,在8词距离处的上下文利用率从近乎零提升至约0.02-0.04,突破了作者设定的阈值;验证集困惑度从5.309降至5.268 bits/word;在Theory-of-Mind测试中准确率提升2.8个百分点,超越部分基准模型。但盲测表明句子生成质量无显著改善,说明记忆仅影响输出而未改变内部规则。作者正探索如何将长期状态注入规则选择以优化内部计算。
#MICA#Cellular Automaton#长上下文
23:42·r/LocalLLaMA(Reddit)
一位开发者搭建了免费的网页版魔兽世界私服 Jankcraft,并开发了自定义 MCP 和 Agent 框架,允许 LLM 通过 WebSocket 发送信号控制浏览器客户端进行游戏。目前平台提供部分现有 LLM 试用,但受限于服务器资源可能随时断开。对于希望本地部署的用户,作者提供了两种配置方案:约 24GB 内存可使用 Qwen3.8-27B-GPTQ-W4A16;约 16GB 内存可搭配 vLLM 运行经过特殊训练的 Gemma4-e4b-coder,该模型通过受限词表和 MTP 技术优化,在 4060Ti 上可达约 200 tok/s 的推理速度。
#LocalLLaMA#Agent#LLM应用
22:16·r/LocalLLaMA(Reddit)
作者基于ExLlamaV3开发Kyojin推理引擎,适配AMD Strix Halo(gfx1151)平台,在单台128GB内存的迷你PC上成功部署两个约300B参数的MoE模型。实测数据显示,GLM-5.3-Flash在3.5K上下文下预填充速度达580 tok/s,解码速度26-30 tok/s;MiMo-V2.6-Flash-MOPD解码速度最高44 tok/s。两者均使用EXL3量化权重,通过混合位宽层优化降低KL散度。项目提供OpenAI风格API接口及快速启动脚本,支持无审查变体切换,代码与模型权重已开源。
#LocalLLaMA#AMD Strix Halo#MoE
18:28·meng shao
斯坦福CS146S课程公开第二周内容,聚焦高级上下文工程与MCP工具调用。核心介绍RePPIT五步工作流(研究、提议、计划、实现、测试),通过克隆应用演示如何在不读代码前提下利用智能体开发,强调人类在方案选择中的杠杆作用及范围控制。实操层面给出上下文管理策略:建议在25万至45万token间压缩,避免过早压缩导致纠错率飙升;主张清空旧会话以防干扰,并按阶段分配模型以降本。此外解析MCP协议与企业级落地痛点,对比OpenSpec与Superpowers等规格驱动开发路线,提供可复用的工程化参考。
#斯坦福大学#AI原生开发#RePPIT
16:25·r/LLMDevs(Reddit)
本文系统梳理了 GraphRAG 的六大核心架构模式,涵盖从基础组件到复杂路由的完整设计。包括 Text-to-Cypher 直接查询、向量与图并行的混合检索、以图或向量为先的顺序混合检索、以及为降低 LLM 提取成本提出的稀疏图架构。此外还介绍了引入智能路由 Agent 动态选择路径,以及具备自主迭代能力的 Agentic GraphRAG。文章详细对比了各模式在实体关系抽取、数据库交互及上下文构建上的差异,为开发者应对不同查询复杂度提供了可落地的工程选型参考。
#GraphRAG#架构设计#RAG
14:49·r/LocalLLaMA(Reddit)
Reddit用户分享在Windows环境下,基于llama.cpp对Qwen3.8-Flash-Next 177B模型进行专家流式部署的优化实践。硬件配置为RTX 5070 12GB、32GB DDR4内存及Ryzen 5 5600GT处理器。通过修复Windows I/O队列深度问题、采用每工作进程单一文件句柄以及构建页面锁定热专家层,推理速度从约7 tok/s提升至基准测试11.5 tok/s,正常对话达14-15 tok/s。该方案成功生成完整代码,并开源了GitHub仓库包含失败尝试、基准脚本及方法论,旨在探索消费级显卡运行超大模型的极限性能与工程取舍。
#Qwen#LocalLLM#llama.cpp