天风证券：AI存储革命已至，“以存代算”开启存储新纪元

　　炒股就看，权威，专业，及时，全面，助您挖掘潜力主题机会！

　　天风研究

　　为突破算力瓶颈与“存储墙”制约，“以存代算”作为一种颠覆性技术范式应运而生。该技术通过将AI推理过程中的矢量数据（如KVCache）从昂贵的DRAM和HBM显存迁移至大容量、高性价比的SSD介质，实现存储层从内存向SSD的战略扩展，而非简单替代。其核心价值在于显著降低首Token时延、提升推理吞吐量，并大幅优化端到端的推理成本，为AI大规模落地提供可行路径。

　　“以存代算”发展背景：AI推理成价值核心，HBM瓶颈凸显产业痛点，“以存代算”应运而生。当前，AI推理已成为衡量大模型商业化价值的关键标尺，但在实际应用中仍面临“推不动、推得慢、推得贵”的严峻挑战。为突破算力瓶颈与“存储墙”制约，“以存代算”作为一种颠覆性技术范式应运而生。该技术通过将AI推理过程中的矢量数据（如KVCache）从昂贵的DRAM和HBM显存迁移至大容量、高性价比的SSD介质，实现存储层从内存向SSD的战略扩展，而非简单替代。其核心价值在于显著降低首Token时延、提升推理吞吐量，并大幅优化端到端的推理成本，为AI大规模落地提供可行路径。

　　“以存代算”核心技术：“以存代算”CachedAttention技术是一种通过将AI推理中历史对话的KVCache缓存到HBM+DRAM+SSD等外部存储介质。在该系统中，HBM作为GPU本地高速存储，负责存储当前活跃会话的KVCache，支撑LLM推理计算；DRAM作为中间缓存层，承接HBM的异步写入与SSD的预加载，平衡速度与容量；SSD则作为长期存储层，提供大容量持久化存储，承载非活跃历史数据。“以存代算”CachedAttention将首Token时延（TTFT）显著缩短了87%，并提升了Prefill阶段7.8倍的吞吐量，从而将端到端推理成本降低了70%。

　　“以存代算”硬件突破：在“以存代算”技术范式下，SSD不再是单纯的数据存储载体，而是深度参与AI推理的核心组件，其需承接从HBM、DRAM卸载的KVCache，因此被赋予大容量、高吞吐、低延迟的新要求，以缓解对高成本HBM的依赖。同时，SSD主控芯片作为“控制大脑”，需通过先进算法优化数据寻址调度，支撑AI推理中数据高效流转。在此背景下，AISSD技术将沿三大方向发展：颗粒上，向QLC颗粒演进，凭借技术升级实现高性能与大容量兼顾，满足AI大模型数据存储调用需求；接口协议上，以PCIe5.0/6.0接口搭配NVMe协议为基础，未来融入CXL技术，进一步提升带宽与降低延迟；功能上，向智能化升级，如铠侠计划推出软件让SSD自主处理AI检索任务，Solidigm探索液冷方案优化散热，实现存储与AI推理的深度协同。

　　“以存代算”企业布局：“以存代算”的核心实践已获产业龙头积极布局。

　　华为UCM作为“以存代算”产品化关键载体，构建智能分级缓存，数据可根据记忆热度在HBM、DRAM、SSD（固态硬盘）等存储介质中实现按需流动；同时融合多种稀疏注意力算法，实现存算深度协同。除了以HBM+DRAM+SSD构建的多级缓存体系外，还存以KVCache缓存技术为核心的多元实践。