DeepSeek全面开源内部推理框架DeepInfer
全线拉升!刚刚,DeepSeek重磅宣布!
DeepSeek再次开源重磅基础设施,直接面向开发者提供可复用的推理框架,对降低行业算力成本有实质推动,值得关注。
DeepSeek,传来重磅。
今日(10月20日)下午,DeepSeek宣布,将内部推理框架DeepInfer全面开源。
DeepSeek表示,面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了AI服务的算力成本与电力消耗。在此前开源一系列大模型、TileLang编译工具及推理算子库的基础上,决定进一步将内部推理框架DeepInfer全面开源。
DeepSeek还提到,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。
DeepSeek称,基于DeepInfer,已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。
三天前,DeepSeek宣布V4.1Flash更新至V4.1-Flash-1017版本,官方网页端、APP与API模型已同步变更为新模型,API调用方式与价格保持不变。对此,华龙证券指出,DeepSeek快速迭代验证国产大模型能力升级与持续降本逻辑,推理算力需求有望进一步提振;同时沿编程与Agent工具链完善带动AI应用层落地逻辑,建议重点关注AI应用中的垂类/通用智能体及AI编程公司。
A股市场方面,今日AI概念股集体拉升,博汇科技、凡拓数创、赛摩智能、迪安诊断等20%涨停,润建股份、日海智能、美格智能、博通集成、南威软件等10多只个股10%涨停。
消息面上,工信部总工程师王卫明10月20日在国新办发布会上表示,目前,工信部正在研究起草新一代智能制造有关政策措施,加快推动人工智能与制造业深度融合。
其中提到,支持企业围绕研发设计、生产制造等核心环节,建设高质量工业数据集,开发先进适用的垂域大模型和各类工业专用模型,探索工业智能操作系统研发,推动数据、模型、软件和装备相互适配、高效协同。围绕智能排产、参数调优、缺陷检测、设备运维等场景,实施模数共振行动,稳妥开展工业智能体研发与应用验证,成熟一个、推广一个。
华创证券表示,开源模型与Agent工具链的持续完善,有望降低应用开发成本,推动AICoding向游戏开发、3D内容制作、企业软件及自动化工作流等场景扩展,具备开发者入口和应用生态的平台有望优先受益。
责编:战术恒
排版:汪云鹏
校对:王蔚
百万用户都在看
A股,利好来袭!科技股,密集出手!国常会,最新部署
刚刚,利好来了!十一部门,重磅发布
韩国,“救市”!
做空美股!知名大佬,突然发声!
违法和不良信息举报电话:0755-83514034
邮箱:[email protected]
作者: 券商中国
查看原文 →
更进一步:量化金融体系
看懂新闻只是起点——沿量化金融路径,把它变成能交付的工程能力