Agentic AI时代的存储破局：解开AI推理的“内存枷锁”

来源：环球网

【环球网科技报道 记者 张阳】在9月17日举办的华为全联接大会2026上，华为正式推出了OceanStor M900 AI记忆存储，面向超大规模数据中心AI推理场景，进一步加强了Agentic AI时代基础设施，推动AI底座从以计算为中心走向算、网、存协同的新阶段。

AI下半程：从“训得出”到“推得快、准、省”

“AI的下半程在于数据。”这是全联接大会上华为存储团队反复强调的判断。

在华为分布式存储领域总裁杨文道看来，产业已经走过了大模型训练集中建设期，正加速迈向推理规模化落地的新阶段。“模型训练完以后我们最终要回答一个问题——它有什么用，对我们的生活带来什么好处。AI编程就是最好的例子，而且可以广泛应用。”杨文道表示，“当企业开始真正购买AI模型、用Agent来完成具体工作时，核心矛盾就从‘能不能训出来’变成了‘推理够不够快、够不够准、够不够便宜’。”

华为分布式存储领域总裁杨文道

这一判断的依据来源于当前大模型参数正迈向10万亿级别，智能体开始走进医疗、金融、软件研发等生产业务，上下文窗口突破百万词元，推理过程中产生的KV Cache（键-值缓存）规模持续增长，传统的显存和内存方案在容量和成本上均已难以为继。构建显存、内存与SSD协同的多级存储体系，打造大容量全共享记忆空间，已成为行业共识。

华为数据存储产品线副总裁吴俊杰表示，不同行业客户AI落地的堵点各不相同。部分企业原始数据归集不足，缺少高质量语料；部分机构拥有算力资源，但推理阶段知识检索准确率偏低，例如部分医疗场景知识获取准确率仅五六成，无法满足临床生产标准；还有AI编程、金融智能体业务，受限于KV Cache容量不足，推理吞吐与响应体验大打折扣。但共性是，靠打补丁式的存储扩容已经解决不了问题。

“很多客户习惯打补丁式建设，性能不够就扩容存储，时延高就叠加硬件，但AI基础设施需要全局规划，局部扩容很难解决系统性问题。”吴俊杰强调，大模型硬件逐步趋同，各家可获取的算力差距正在缩小，能否构建适配AI的高质量数据底座，已经成为企业AI落地的核心分水岭。AI DC数据基础设施全链路方案覆盖数据准备、模型适配、推理运行、智能体开发、数据保护全流程，企业需要结合自身业务做完整架构规划，而不是零散堆砌设备。

M900破局：三芯合一，让KV Cache一跳直通SSD

正因如此，华为选择在这个节点推出OceanStor M900 AI记忆存储，其面向超大规模数据中心AI推理场景，业界首创的CPU、网络、盘控“三芯合一”架构，它依托灵衢高速互联网络，实现KV Cache从NPU到SSD的“一跳直通”，避免了传统方案中繁琐的协议转换和CPU转发。在性能表现上，访问时延从毫秒级降至60微秒，缩短90%；单集群可提供40TB/s聚合访问带宽，相比业界方案提升1.5倍。在典型AI编程场景中，推理集群Token吞吐率实现翻倍，首Token时延缩短一半。

在大模型推理服务的工程实践中，业界已经逐步形成了的KV Cache四级分层存储体系的共识。但是，OceanStor M900 AI记忆存储却是瞄准在“3.5层”。对此，杨文道解释，显存读取速度是纳秒级、带宽TB级；内存仍是纳秒级，但带宽降为GB级；本地盘读取速度变为毫秒级、容量TB级。“这三层够不够？不够，因为KV太大了。”他强调，“3.5层”并非华为首创，而是全行业在推理容量、成本瓶颈后自然形成的技术演进方向，华为只是针对这一层率先推出了专业产品。

同时，对于市场十分关切异构算力兼容问题。杨文道明确表示“M900不会有新的生态壁垒。它与昇腾超节点加灵衢网络配套，作为整体超节点的一部分，对上层应用部署是无感的。”而对于非昇腾卡、非超节点场景，华为已上市的OceanStor M800，通过标准网络和硬件适配多种异构算力。

AI数据平台：“3+1”让知识、缓存、记忆协同

如果说OceanStor M900 AI记忆存储面向的是超大规模数据中心的推理场景，那么华为首创的“3+1”AI数据平台解决方案，则瞄准更广泛的企业级AI落地需求。

吴俊杰介绍，该方案基于OceanStor AI语义存储，集成了知识库、KV Cache库与记忆库三大核心组件，依托UCM（统一缓存管理）技术，发布至今，已在AI辅助诊疗、AI编程等20余个关键业务场景中取得显著成果。

他以医疗场景为例：“一些医疗客户做辅助诊疗时，知识获取准确率只有百分之五六十，数据语料无法进入临床。”国内某三甲医院采用华为AI数据平台后，将海量医学文献、疾病编码与患者病史转化为高精度知识库，AI辅助诊断报告采纳率从50%提升至90%，智能体每日调用次数从2000跃升至16000。

在AI编程场景中，某企业基于KV Cache库和UCM技术，通过“以查代算”的路径，将首Token时延降低80%至10秒以内，Token吞吐率提升2.2倍。

“记忆库的价值在于，AI在长期应用过程中，将过去做过的事情、回答过的问题形成记忆和经验积累下来，让AI越来越聪明。甚至可以有跨企业的开源记忆库进行导入和冷启动。”吴俊杰说。

三大创新方向，构建存算网协同的 AI 底座

面向未来，9月17日，在华为全联接大会2026“华为数据存储峰会”上，华为公司副总裁、数据存储产品线总裁袁远提出AI数据平台的三大创新方向：构建数据本体，将智能体任务正确率提升至90%以上；原生KV语义直通，单框提供TB级存储带宽，将I/O时延从350微秒降至55微秒，KV Cache加载速度提升2倍；打造智能体数据韧性，通过意图识别引擎实现秒级风险拦截、分钟级一致性恢复，并实现99%高风险操作拦截和99%勒索软件检测。

袁远曾表示，AI的下半程在于数据。从AI的发展趋势来看，未来的AI基础设施不再是算力的单点突破，而是算力、存力、运力的系统性工程。存储不再是算力的附属配件，而是决定 Agentic AI 能走多远、跑多快的核心底座。在这个赛道上，华为正用以开放生态的姿态，成为 AI 推理时代存储底座的定义者与共建者。