光通信补存储缺口：AI算力架构新逻辑

AI 算力的狂奔，正在撞上一堵坚硬的墙 —— 内存。黄仁勋近期已将 HBM 短缺从 “季度错配” 重新定性为 “持续数年的结构性短缺”，SK 海力士方面更是将瓶颈窗口推至 2030 年。一边是 AI 行业词元处理量需求每年近乎 10 倍级增长，另一边是全球 DRAM 产能年增速仅 15%-19%，高端 HBM 产能建设周期长达 2-3 年，供需失衡已成定局。近日英伟达密集召开多场华尔街机构闭门交流会，黄仁勋、CFO 同步直面市场两大核心焦虑：HBM 成本持续上行挤压整机利润、存储寡头控产加剧 AI 基建成本压力，表示：“算力、网络、内存三者可以互相调剂，一类资源短缺时，可依靠另外两项技术优化弥补”。同时重点提及 Groq 芯片方案，这类芯片搭载片上 SRAM 缓存，早年 SRAM 成本远高于通用 DRAM，现在有了性价比。当存储产能无法短期跟上，全行业都在寻找 “变通方案” 保障算力交付。而光通信，正是其中最容易被市场低估、却最具规模化潜力的一条破局路径。用光通信补存储缺口的底层逻辑高带宽互联降低本地缓存需求 ：传统电互联带宽有限、延迟高，系统必须在 CPU/GPU 本地设置多级缓存，预加载大量数据避免算力空转。光互联（尤其是硅光、CPO/LPO）可以提供数量级提升的互联带宽和纳秒级延迟，数据在节点间、内存池之间的调取速度接近本地访问，系统不再需要在每个芯片、每台服务器上堆叠大量缓存和本地内存，直接降低 DRAM/HBM 的单位算力配置量。光互联产能弹性远优于存储 ：内存芯片扩产依赖晶圆厂、封装厂的重资产建设，周期 2-3 年起步；而光模块、光器件的产能扩张周期短得多，产业链成熟，良率提升快，产能弹性远高于 DRAM/HBM。在存储产能卡死的背景下，加码光互联带宽是边际成本最低、见效最快的优化手段。简单说：存储扩产难，光互联扩产相对容易；用更容易扩产的光带宽，去对冲难扩产的内存缺口，这是当前 AI 算力架构演进的必然选择。量化测算 （千亿级大模型、128K 上下文、分布式 KV 池化）大模型集群必须预留本地缓存冗余显存抵消远程访问等待：互联时延越高，GPU 本地必须驻留越多 KV Cache、激活张量、权重分片，避免频繁远程取数阻塞流水线；时延每下降 1 微秒，远程内存池可用度提升，本地 HBM 占用同步下降。 行业通用基准：跨节点 RDMA 基线时延 3μs；NVLink 单机内 0.8–1.2μs；CPO 光互联可压至 0.3–0.5μs。一、推理场景（KV Cache 主导显存占用）基准条件：跨节点互联时延 3μs，单卡预留本地 KV 缓存48GB HBM；时延每下降 1μs，单卡可减少本地 KV 驻留 14–18GB；区间均值：每降低 1μs，单卡节省约 16GB 显存（HBM）；集群换算：8 卡服务器整机可减少120–130GB存储需求；72 卡 NVL 机架合计减少1.1–1.2TB HBM 需求。二、训练场景（激活张量 + 优化器分片，缓存压力更大）训练需要同步传输海量激活、梯度张量，对远程内存时延更敏感：基线跨节点 3μs 时延，单卡本地激活 / 分片预留 64GB；时延每降 1μs，单卡可释放20–25GB HBM；均值结论：训练集群每降低 1μs 互联时延，单卡节省 22GB 左右 HBM；72 卡整机机架合计可减少1.5–1.8TB 高端存储需求。架构级的对冲与重塑需要明确的是，光通信不可能取代 DRAM 和 HBM，内存依然是算力系统的核心基础。但在存储长期紧缺、价格高企的大背景下，光互联的价值不再仅仅是 “让数据传得更快”，而是成为了缓解内存供给压力、提升算力交付能力的关键杠杆。每提升一倍的互联带宽，就能带来系统级的内存开销下降，最终转化为更多的可交付算力、更低的单位算力成本。从投资视角看，市场对光通信的认知，大多还停留在 “AI 算力爆发→带宽需求增长” 的线性逻辑上；而 “光互联对冲存储紧缺” 的架构级价值，尚未被充分定价。随着 AI 算力集群从 “堆硬件” 走向 “调架构”，光通信的产业权重还会持续抬升。投资机遇梳理光通信(光模块/NPO/CPO)龙头：中际旭创、东山精密、新易盛、剑桥科技、光迅科技光通信上游：源杰科技、东山精密、太辰光、长光华芯、英唐智控…内存池化龙头（CXL）：澜起科技风险警示：本文仅为产业逻辑与技术趋势分析，不构成任何投资建议。AI 技术迭代速度存在不确定性，光互联技术落地进度、内存产能释放节奏均可能不及预期。$中际旭创(SZ300308)$ $澜起科技(SH688008)$ $SK海力士 WI(SKHYV)$