草稿 04 | 一手来源:Solidigm×Giga Computing 解决方案简报(PDF,4 页全文已下载解析)| 核实日期:2026-11-15 说明:原 solidigmtechnology.com 链接访问时重定向至 solidigm.com 同路径;web_fetch 不支持 PDF,已下载原文并用 pypdf 提取全文核实。PDF 元数据显示生成于 2026-09-03、修订于 2026-09-04。

GPU 利用率上不去,可能是存储的锅

Solidigm D5-P5336 官方产品照(E1.L、E3.S、U.2 规格)
Solidigm D5-P5336 官方产品照(E1.L、E3.S、U.2 规格)

训练集群里最贵的部件在空转,是最隐蔽的浪费。H100 按小时计价,而数据从数据湖到显存要经过存储读取、网络传输、预处理、拷贝好几道关,任何一道跟不上,GPU 就得等。这份 brief 的"客户挑战"部分说得很克制:存储必须跟上 GPU 的节奏,但网络、内存层次和预处理流水线同样影响效率,要整体看。这个态度比"换盘就解决一切"的营销可信得多——存储是常见瓶颈,但不是唯一瓶颈。

Solidigm(原英特尔 NAND 业务,2021 年 12 月起成为 SK 海力士旗下子公司)与从技嘉分拆的 Giga Computing 合作,用 MLPerf Storage v1.0 基准验证了 D7-PS1010+D5-P5336 的组合。下面按 brief 原文拆解。

MLPerf Storage v1.0:一场不用真 GPU 的"存储考试"

Solidigm 官方示意图:D5-P5336 迈向 122TB 容量
Solidigm 官方示意图:D5-P5336 迈向 122TB 容量

MLPerf Storage 由 MLCommons 维护,考的不是盘本身,而是"存储系统能不能把训练数据及时喂给加速器"。它的巧妙之处在于用软件模拟加速器:按真实训练的读取强度读真实数据,再按实测的每批计算时间"睡眠"(brief 称之为 think time),数据通路全程真实、只跳过算术。因此不需要真 GPU 就能复现存储压力,集成商也能低成本跑 PoC。

核心指标是加速器利用率 AU,brief 附录给出定义:AU = 总计算时间 ÷ 基准总运行时间 × 100%。v1.0 考三个工作负载:Unet3D(医学 3D 影像分割,大文件顺序读为主)、ResNet50(50 层残差网络图像分类,小文件高样本率)、CosmoFlow(宇宙学 3D 卷积网络,大样本带宽型)。补充来源(MLCommons 经 Blocks & Files 的解读)给出 v1.0 平均样本大小:ResNet50 约 114,660 字节、Unet3D 约 146.6MB、CosmoFlow 约 2.83MB——这解释了为什么三者对存储的压力形态完全不同。

brief 报告的 AU 成绩:Unet3D >90%、ResNet50 >90%、CosmoFlow >70%,与 MLPerf 以 AU 阈值判定"通过"的规则一致(MLCommons 官方页说明现行轮次 Unet3D 阈值为 90%;v1.0 三负载阈值见补充来源)。官方还有一条防作弊规则值得记住:数据集必须至少是客户节点总内存的 5 倍,防止"测的是内存缓存而不是存储"。

D7-PS1010+D5-P5336:分工与实测增益

Solidigm D7-PS1010 官方特写渲染图
Solidigm D7-PS1010 官方特写渲染图

分工在 brief 里写得很清楚:D7-PS1010 是 PCIe 5.0 性能层,主打直连存储的低延迟;D5-P5336 是 PCIe 4.0 QLC 容量层,主打网络挂载场景(官方中文产品简介:最高 61.44TB,读取性能对标 TLC)。一个管"快",一个管"大"。

实测数字(brief,ResNet50,模拟 NVIDIA H100):

指标Solidigm D7-PS1010Micron 9550(brief 引用)
AU92.68%90.33%
支持 GPU 数7058
吞吐115,805 样本/秒;12,663 MB/sbrief 称 Solidigm 高出近 24%

D5-P5336 一侧:ResNet50 吞吐较 Micron 6500 ION 高 22%(brief 原文)。

几个推算值(标注为推算):70 对 58 相当于多支撑约 20.7% 的 GPU;AU 差 2.35 个百分点;12,663 ÷ 70 ≈ 每 GPU 181MB/s 的持续读需求——按此口径,一台 8 卡节点仅 ResNet50 类训练就需要约 1.45GB/s(181 × 8 ≈ 1,448MB/s)的稳定读带宽,这就是存储配置的算账起点。

测试平台(brief 附录):技嘉 R163-Z35(1U,单路 AMD 9555P 64 核;AMD 官网确认其为 EPYC 9005 系列、64 核 128 线程、12 通道 DDR5、PCIe 5.0),三星 64GB DDR5 ×12(合计 768GB,推算),系统盘为英特尔 1.6TB U.2 ×2。

必须划重点的一句话:brief 附录明确注明,Micron 的成绩来自不同的服务器系统与调优配置,并非同条件对照实验。引用"领先 24%/22%"时如果不带上这个前提,就是把厂商简报读成了客观评测。这是全文最容易被忽略、也最影响结论可信度的一句。

补充官方发布稿(2024-08-06):PS1010 容量 1.92–15.36TB,1 DWPD/5 年,15.36TB 版终身写入量 28PBW,E3.S/U.2 形态;官方宣称能效较同类高最多 70%(其脚注口径为 7.68TB 版对三星 PM1743,IOPS/W 3,874 对 2,272)。

检查点与数据湖分层:让每块盘干对的活

MLCommons 官方页对检查点(checkpoint)的描述值得整段引用:写检查点时训练同步停摆,恢复时整个集群等待;fsync 强制数据落盘,写缓存掩盖不了慢介质。官方现行轮次以 Llama-3 家族为例,70B 级模型单次检查点约 911GiB。做个估算(推算):911GiB ≈ 978GB,若存储持续写 10GB/s,一次检查点约 98 秒;若只有 3GB/s,则约 5.4 分钟——每次故障恢复、每个保存周期,差出来的都是真金白银的训练时间。

所以分层逻辑是:检查点/缓存层要持续写与低延迟,交给 PS1010;写入更重的场景可选同门 PS1030(官方发布稿:写性能较前代翻倍以上,12.8TB 版 70PBW,明确推荐用于缓存与检查点)。数据集湖交给 P5336 这类大容量 QLC——它是读优化定位,别拿去当检查点目标盘,QLC 的持续写与耐久是短板(编辑判断)。再往下才是对象存储/HDD 冷层。brief 提到 BeeGFS、Mangoboost、NCHC 已对该方案表达兴趣,侧面印证"并行文件系统+分层 SSD"是主流落地形态。

AI 集群存储配置:给广州及珠三角集成商的清单

先算带宽再买盘:每 GPU 需求 × 卡数 × 冗余系数。注意负载差异——ResNet50 类约 181MB/s/卡(推算)只是小文件场景;MLCommons 现行轮次数据显示 Unet3D 类大文件负载单卡需求可达约 5.9GiB/s(v3.0/B200 口径,非本 brief 的 v1.0/H100),差一个数量级,拿错参照就会配错盘。

别盲目追 Gen5:容量层 Gen4 QLC 足够,Gen5 留给性能层;网络挂载场景还要同步算网络账——100GbE 理论约 12.5GB/s(推算),盘再快、网络只有 25GbE 也白搭。珠三角客户存量网络多为 10/25GbE,升级预算要把交换机和网卡算进去。耐久按 PBW 核对(PS1010 15.36TB 版 28PBW,官方),检查点频率高的集群先算年写入量。

交付前用 MLPerf Storage 做验收:开源、无需真 GPU,要求 AU 达标而不是只看峰值带宽。一个本地化提醒:brief 测试平台的 EPYC 9555P 在 AMD 官网区域供货中标注"中国:不适用",国内配置单不能照抄 BOM,需选国内可供的等效 SKU。风险提示:厂商基准不等于你的业务负载;AU 对数据集与缓存配置敏感(5 倍内存规则就是为此而设);"支持 70 GPU"是模拟结果,不是生产承诺;brief 的竞品对比非同条件,引用须注明。

来源

  1. Solidigm × Giga Computing《Optimizing AI Training with Solidigm™ SSDs and Giga Computing Servers》(Solution Brief,PDF)——https://www.solidigmtechnology.com/content/dam/solidigm/en/site/products/technology/gigabyte-solidigm-ai-training-solution-brief/documents/Solidigm-Giga-Optimizing-AI-Training-Solutions-Brief.pdf (访问重定向至 solidigm.com 同路径)——PDF 元数据:生成 2026-09-03、修订 2026-09-04;2026-11-15 下载并全文解析。
  2. MLCommons《MLPerf Storage》官方基准页——https://mlcommons.org/benchmarks/storage/ ——2026-11-15 访问(页面现行展示 v3.0 轮次规则;v1.0 负载构成以 brief 为准)。
  3. Solidigm Newsroom《Solidigm Extends AI SSD Portfolio Leadership with Lightning-Fast Additions to their D7 Product Line》(D7-PS1010/PS1030 发布稿)——https://news.solidigm.com/en-WW/240188-solidigm-extends-ai-ssd-portfolio-leadership-with-lightning-fast-additions-to-their-d7-product-line/ ——2024-08-06。
  4. Solidigm《D5-P5336 产品简介》(中文)——https://www.solidigmtechnology.cn/products/technology/d5-p5336-product-brief.html ——2023-06-27。
  5. AMD《EPYC 9555P》产品页——https://www.amd.com/zh-tw/products/processors/server/epyc/9005-series/amd-epyc-9555p.html ——2026-11-15 访问(产品推出日期 2024-10-10)。
  6. 技嘉《R163-Z35-AAH1 (rev. 3.x)》产品页——https://www.gigabyte.cn/Enterprise/Rack-Server/R163-Z35-AAH1-rev-3x ——2026-11-15 访问。
  7. DOIT(编译自 Blocks & Files,含 MLCommons 官方解读)《MLPerf Storage Benchmark:来自 MLCommons 的官方解读》——https://www.doit.com.cn/p/521156.html ——2023-07-13(补充来源:v1.0 样本大小与 AU 阈值)。