20240219_华福证券_服务器行业深度报告：AI和“东数西算”双轮驱动服务器再起航_38页.pdf

AI 和“东 数 西 算”双 轮 驱 动，服 务 器 再 起 航-服务器 行业深 度报告|2024 2 19 S0210523040003华福证券华福证券 2022 OpenAi ChatGPT AI AIGC AI AI CPU GPU,DRAM HBM SSD NIC PCIe CPU X86 ARM MIPS RISC-V AI AI AI GPU FPGA ASIC NPU HBM GPU CPU SoC PCB DDR GPU SiP GPU HBM DRAM CPU GPU ASIC HDD SSD SSD NAND Flash DRAM SSD SSD SSD AI AI 10424 2x Intel Sapphire Rapids Server CPU 17.7%50%AI 268495 Nvidia DGX H100 CPU 1.9%GPU 72.6%4.2%AI AI 2华福证券华福证券 YWAZzQqNtQqRrPtQqNpQqRaQ9R9PpNqQmOrNiNqQtRkPmOnN7NoPqMxNmNzRwMtPtR目录3 AI AI 华福证券华福证券 41.1 本地IT 部署 云端IT 部署 AI 特定算力需求 5G、物联网应用IT 部署形势仍以本地构建数据中心为主。只有政府、金融机构和大型企业能够负担。传统服务器2012年前后随着云技术成熟，下游云服务商深度定制化的云服务器成为市场增长的重要动力。传统服务器云服务器本地云端神经网络需要更特殊的计算架构。AI 极大的特定算力需求打开AI 服务器蓝海市场。传统服务器云服务器AI 服务器CPUGPU、FPGA、ASIC“云+边缘”的部署架构形势已成市场共识，边缘机房环境与传统数据中心迥异带来全新增量市场。传统服务器云服务器AI 服务器边缘服务器中心边缘2016年前后 2020 年之后 1 华福证券华福证券 3 2019-2023AI IDC 5 2022 OpenAi ChatGPT AI AIGC AI-Generated Content OpenAI 2020 Language Models are Few-Shot Learners 1746 GPT-3 3640PFlop/s-day AI AI AI IDC 2023 AI 211 2025 317.9 2023-2025 CAGR 22.7%TrendForce 2022 Microsoft Google Meta AWS AI 66%Microsoft Google 19%17%2:COMPUTE TRENDS ACROSS THREE ERAS OF MACHINE LEARNING Jaime 1.2 AI 0%5%10%15%20%25%30%0501001502002502019 2020 2021 2022 2023E YOY华福证券华福证券 5 NF5688M6 8 61.3 AI AI 2022 4.8%1360 2023 1.5%AI TrendForce 2023 AI 120 9%38.4%2026 AI 237 15%25%AI NF5688M6 AI NVIDIA NVLink GPU IB NVMe=1 1 1 GPU 400GB/s P2P UPI AI 4 2022-2026 AI:TrendForce 0%5%10%15%20%25%30%35%40%45%050010001500200025002022 2023E 2024E 2025E 2026EAI 服务器出货量 YoY华福证券华福证券 6 AI 71.4 AI AI IDC 2023H1 AI 54%AI CPU+H800GPU 32 DDR4 SAS/SATA 0/1/10/5/50/6/60RAID Atlas-800(9010)TaiShan 200 Pro-2480 NF5468-M7-A0-RO-00 L820-G30 X680 G55 PowerEdge R750 xa 4U AI 2U 4U AI 2U 8U 2U CPU 4*920 4*920 2 3B40002 2 3 40 AI/GPU/AI 8*-8 H800 A800 L40 PCle GPU 4 PCle 5.0 x16-NV HGX H800 8-GPU 80GB 4 150W 4300W 2 75W 32 DDR4 RDIMM 3200 MT/s 16GB/32GB/64GB32 DDR4-3200 DIMM 32 DDR5 4800MHz RDIMM 16 DDR4 RDIMMECC32 DDR5 4800MHz,ECC RDIMM LRDIMM 200(BPS)32 DDR4 DIMM DIMM 3200 MT/S 2*2.5SAS/SATA+3*2.5 NVMe2*2 5 SATA+3*2.5 NVMe 2*2.5SAS/SATA+6*2.5 NVMe2*2.5 SATA+6*2.5 NVMe2*2.5 SATA+8*2.5 SAS/SATA25 25 2.5 SAS/SATA SSD 8 8 2.5 SAS/SATA SSD 24 2.5 12 3.5 SAS/SATA 16 NVME E3.S 2 M.2 NVME/SATA SSD SATA 12 3.5(4 NVMe)+8 2.5 NVMe 2 M.28 2.5 SAS/SATA/NVMe(HDD/SSD)122.88 TB 6 25 NVMe(SSD)92.16 TBRAID RAID 0/1/10/5/50/6/60 RAID 0/1/10/5/50/6/60 RAID0 1 10 5 50 6 60 Cache RAID RAID RAID O/1/5 Cache RAID0 1 10 5 50 6 60 RAID Cache PERC H745 HBA355I H345 H755 H755N PERC H840 HBA355E S150PCle 2 PCle 4.0 4 PCle 4.0 8+2 PCle 4.0 16 2 PCIE 5.0 5 PCle+1 OCP 9 PCIe 5.0 1 OCP 1 RAID 8 PCIe 4.0 6 x16+2 x8 4 3 KW/2kW 2+2 2 2kW 1+1 4 1600W/2000W/2200W/3000W 80Plus/PSU N+N 550W CRPS 1+1 GPU 6*3300W 54V 3+3 CPU 2*2700W 12V 1+1 1400 W AC/240 HVDC 2400 W AC/240 HVDC 华福证券华福证券 目录8 AI AI 华福证券华福证券 9 GPU CPU,DRAM SSD PSU NIC PCIe BIOS BMC AI AI AI AI 10424 2x Intel Sapphire Rapids Server CPU 17.7%50%AI 268495 Nvidia DGX H100 CPU 1.9%GPU 72.6%4.2%AI AI AI AI AI 7 AI 8 AI AI 2x Intel Sapphire Rapids Server Nvidia DGX H100 CPU 1850 17.75%52001.94%8GPU+4 NVSwitch Baseboard-19500072.63%DRAM 3930 37.70%78602.93%NAND 1536 14.74%34561.29%SmartNIC 654 6.27%109084.06%395 3.79%5630.21%300 2.88%3600.13%+275 2.64%4630.17%300 2.88%12000.45%495 4.75%14850.55%Markup 689 6.61%4200015.64%10424 17.75%268495-2.1 AI AIGC 2023 华福证券华福证券 102.2 CPU X86 ARM CPU X86 ARM MIPS RISC-V 目前X86 架构 处 理器统治 着PC 和服 务器市场，Arm 架 构处理器 统治着 移 动市场和IoT 市 场，MIPS 是基于RISC 的 衍生架构 之一，从 工作站、桌面电 脑 到嵌入式 系统再 到 人工智能，一直 在 夹缝中求 生。近 年 来RISC-V 架 构则凭 借着开源、指令 精 简、可扩展等优势，在注重能 效比的 物联网 领域大 受追捧，并也 开始进 入更高 性能需 求的服 务器市 场。2022 年仍占 据全球 服务器 市场70.77%的份额。AMD 主要产 品是EPYC（霄 龙）系 列CPU，2022 年占 据19.84%的市场份额。海光信息通过与AMD 成立 合资公 司成都 海光集 成的方 式，变 相拥有 了X86 架 构的授 权，不 过海光 信息仅 获得AMD 第一代EPYC 的Zen 架构，没有获得Zen2、Zen3 系列架构授权。上海 兆芯通 过引入 台湾威 盛控股 获得了 部分X86 架构授 权，不 过盛威 与英特 尔的X86 合同 已 于2018 年4 月 到期，不 能 使用英特尔新的X86 专利，只 能在旧X86 架构 下继续 研发。海思半 导体的 鲲鹏处 理器和 天津飞 腾处理 器兼容 ARM 指令集；龙芯中科处理 器采用 LoongArch 指令集，主要产品与服务涵 盖处理 器及配 套芯片 产品；成都申 威处理 器采用 SW-64 指令集，主要应用于服 务器、桌面计 算机等 设备。X86 intel AMDIntel 2022 70.77%Xeon()AMD X86 Zen 7000 5000 3000 KH-40000 30000 20000 411 421 1621 Arm Cavium Amazon ARM Cavium MIPS ARM Amazon Annapurna Labs Graviton2 ARM 7nm ARM MIPS RISC-V RISC-V 64 CPU 9 CPU Counterpoint intel AMD Xeon8592EPYC9654 7285KH-40000 920-7260S2500 3C5000L 1621 X86 X86 X86 X86 ARM ARMLoongArchX86 64 96 32 32 64 64 16 16 128 192 64 32 3.9GHZ3.7GHZ 2.0GHZ 2.7GHz GHZ GHZ GHZ GHZ DDR5 DDR5 DDR4 DDR4 DDR4DDR4 DDR4DDR3 8 12 8 8 8 8 4 8 5600MHZ4800MHZ2666MHZ3200MHZMHZ MHZ MHZ MHZPCIe 128 128 128 128 40 17 32 16 10 CPU 华福证券华福证券 12 AI GPU FPGA ASIC NPU-3D GPU FPGA AMD 11 AI GPU AI AI GPU CPU AI AI GPU GPU Cache CPU Cache AI AI AI AI AI AI GPU FPGA ASIC NPU GPU ASIC FPGA AI PC AI PIN AIPHONE AI 11 AI CPU+GPU 2.3 AI AI 华福证券华福证券 12 13 AI 2.3 AI AI nm(W)GB/s(MHz)显存位宽（bit）CPU to GPU 互联带宽（GB/s）GPU to GPU 互联带宽 GB/s FP16 FLOPS FP32 FLOPS Int8 TOPS A100+GPU 7 312 19.5 624 40080GBHBM2e2039 1512 5120 PCIe 4.0 64 600A800+GPU 7 312 19.5 624 40080GBHBM2e2039-PCIe 4.0 64 400H100+GPU 4 1979 67 3958 70080GBHBM2e3300 1593 5120 PCIe 5.0 128 900AMDMI 250X+GPU 6 383 47.9 383 500128GBHBM2e3276.8 1.6GHz 8192 PCIe 4.0 16 100MI 250+GPU 6 362.1 45.3 383 500128GBHBM2e3276.8 1.6GHz 8192 PCIe 4.0 16 100-7-35032GB HBM21024 2.0 4096 PCIe 4.0 16 184 310+NPU12 8-16 8-910 NPU7 376 94-40064GBHBM2e200-PCIe 5.0 16 392 MLU370-X8+ASIC7 96 24 256 250 48GB 614.4-PCIe 4.0 16 200MLU370-X4+ASIC7 96 24 256 150 24GB 307.2-PCIe 4.0 16 200MTT S80 GPU 7-14.4-255 16GB 448-PCIe 5.0 16-华福证券华福证券 13 2.4.1 HBM GDDR AI HBM AI 55%10%GDDR5 CPU SoC GPU HBM High-Bandwidth Memory CPU SoC PCBDDR GPU SiP GPU HBM DRAM CPU GPU ASIC HBM GPU AI TPU HBM TSV HBM DRAM DDR 4 8 12 DDR 15 HBM GDD5 AMD 14 HBM 2.4 HBM AI 华福证券华福证券 16 TSV 14 2.4.2 HBM CoWos TSV HBM SIP TSV DRAM CoWoS-S HBM HBM HBM CoWoS 2.5D CPU/GPU CPU/GPU die FC GPU PCB I/O HBM TSV CMP TSV HBM TSV HBM 3D 3D GMC HBM 3D GMC HBM GMC low-low-17 TSV 2.4 HBM AI Wafer Attachment华福证券华福证券 15 2.5.1 AI HDD SSD HDD RAID redundant array of independent disks RAID SSD HDD Web SSD SSD HDD SSD NAND Flash DRAM SSD NAND Flash DRAM SSD DRAM PCIe+NVMe SSD IPO NVMe SSD NVMe PCIe IOPS 18 SSD 19 20202023NAND 2.5 AI 28.0%19.0%37.0%3.0%13%21.0%23.0%38.0%3.0%15%0.0%5.0%10.0%15.0%20.0%25.0%30.0%35.0%40.0%PC 2020 2023E华福证券华福证券 16 2.5.2 AI SSD SSD NAND 200 NAND SSD TLC 3/QLC-NAND PCIePCIe Gen5 Gen6 SSD 15GB/s 30GB/s PCIe Gen5 I/O PCIe Gen5 SSD IDC SSD 2026 272.6 20222026 CAGR+7.1%2022 SSD 38.8 18.3%SSD HDD SATA SSD PCIe SSD SSD SSD PCIe NVMe SSD 2.5 AI 4196147194270358477597586671921131229972-11.8%64.0%34.6%31.4%34.3%25.2%20.1%16.1%-20%-10%0%10%20%30%40%50%60%70%01002003004005006007008002019 2020 2021 2022 2023E 2024E 2025E 2026E SSD PCIE SSD SATA&SSD YoY%20 20192026E DRAM NAND/NOR 主控芯片 RAID 芯片 内存接口芯片 存储模组长鑫存储 长存科技 华澜微（排队上市）国芯科技 澜起科技江波龙兆易创新 兆易创新 得一微（排队上市）佰维存储北京君正 北京君正 忆芯科技 长存科技东芯股份 东芯股份 山东华芯 长鑫存储紫光国微 普冉股份 大唐存储 德明利晋华集成电路 恒烁半导体 宝存科技 忆恒创源（固件）江波龙 珠海博雅 宏芯宇 朗科科技康佳芯盈 芯天下 大普微电子（辅导）华澜微 长鑫科技同有科技喻芯半导体 聚辰股份 华存电子 万润科技宏芯宇电子 佰维存储 国科微电子 得一微晶存科技 时创意电子 德明利 大普微电子力积存储科技 喻芯半导体 联芸科技（上市 中止）英韧科技大为创芯微电子科技 得一微 得瑞领新 时创意电子 21 2023 华福证券华福证券 172.6 DRAM DRAM CPU DDR5 CPU 2022 2023 DDR5 JEDEC DDR5 SPD DDR5 EEPROM PMIC TS DDR5 UDIMM SODIMM SPD PMIC RCD+DB 2021 0.13 10.0 DIMM DDR4 98%DDR4 LRDIMM10%DDR5 2%DDR5 LRDIMM 0%2021 RCD+DB 6.9 2025 14.6 0.00%5.00%10.00%15.00%20.00%25.00%30.00%35.00%40.00%45.00%50.00%02468101214162021 年 2022年 2023年2024E 2025E服务器领域市场规模（亿美元）YOY（%）SPD TS PMIC 1 LRDIMM 1 2 1 2 RDIMM 1 2 1 3 UDIMM 1-1 4 SODIMM 1-1 23 DDR5 2022 22 2021-2025 华福证券华福证券 182.7 PCIe PCIe PCIe 2001 CPU PCIe PCIe PCIe PCIe 5.0 PCIe 4.0 16GT/s 32GT/s PCIe 6.0 64GT/s QYResearch PCIe 2023-2029 2029 PCIe 19.65 20222029 CAGR+12.1%PCIe PC PCIe Retimer PCIe PCB PCIe PCIe Retimer PCIe 32GT/S Retimer PCIe 5.0 PCIe Retimer Retimer Retimer PCIe CXL Retimer 4819101965050010001500200025002018 2022 202920182022 20222029E 25 PCIe Retimer 24 20182029E PCIe QYResearch 华福证券华福证券 192.8 AI 2200mm 600mm 1200mm(1400mm)21inch 19 inch 36 1U 18 2U 32U GPU CPU GPU 3RU 2N N+2 2+2 346V AC415V AC-3ph-50Hz 32A 220VAC 198V AC 264V AC 63A 240VDC 192V HVDC-288V HVDC 63A 2 3U 3RU 36 2N N+2 6+6 346V AC415V AC-3ph-50Hz 32A 220VAC 198V AC 264V AC 63A 240VDC 192V HVDC-288V HVDC 63A 5 48V+48V 5+5 AC AC Manifold Manifold Manifold 100%PDU 26 20222027 IDC 27 AI 5001000W GPU 60%90%PUE 1.2 PUE 1.1 IDC 2023 15.1 2027 89 2022-2027 CAGR+54.7%2023 90%2023 华福证券华福证券 202.9 IT Power Supply UPS/IC MOS 28 1 2 UPS UPS 3 4(DC)(AC)5 6 29 华福证券华福证券 21 31 2.10.1 TOSA ROSA PCB 73%40%50%,18PCB,5,4,73电路芯片 PCB 外壳 TOSA ROSA 尾纤 结构件 滤光片TOSA,48%ROSA,32%,9%,8%,3%Transmitter ReceiverTransceiver Transponder 30 2.10 华福证券华福证券 2.10.2 32 2.10 22华福证券华福证券 23 34 800G 1.6T CPO LightCounting C114 33 LightCounting C114 2.10.3 AI+CPO CPO CPO(co-packaged optics)CMOS SiP 2022 SiP 24%LightCounting 2028 44%AI AI LightCounting 2023 5%AI 400G 800G 10%5 176 285 CPO AI 10 CPO 50%LightCounting 2027 CPO 800G 1.6T 30%2.10 华福证券华福证券 目录24 AI AI 华福证券华福证券 35 2019-2022 Wind 253.1 AI 1996 2014 EDA 2019-2022 95.26 101.61 112.00 130.08 5.94 8.22 11.58 15.44 硅立方液体相变冷却计算机 6000 曙光6000系列高性能计算机 36 0%5%10%15%20%25%30%35%40%45%0204060801001201402019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY华福证券华福证券 37 2019-2022 Wind 38 CPU 263.2 CPU+DCU 2014 2022 x86 2019-2022 3.79 10.22 23.10 51.25-0.83-0.39 3.27 8.04 CPU DCU CPU DCU LLaMa GPT Bloom ChatGLM 26 CPU/PCle L3 Cache TDP 3250 8/16 3.0GHz 2666MHz DDR4 PCle 3.0 x32 2.8GHz BGA1515 16MB 90W 7285 32/64 3.0GHz 2666MHz DDR4 PCle 3.0 x128 2.0GHz LGA4094 64MB 190W 7265 24/48 3.0GHz 2666MHz DDR4 PCle 3.0 x128 2.2GHz LGA4094 64MB 180W 7255 16/32 3.0GHz 2666MHz DDR4 PCle 3.0 x128 2.2GHz LGA4094 64MB 180W 5285 16/32 3.0GHz 2666MHz DDR4 PCle 3.0 x64 2.5GHz LGA4094 32MB 135W 5231 8/16 2.8GHz 2666MHz DDR4 PCle 3.0 x64 2.35GHz LGA4094 16MB 90W 3285 8/16 3.2GHz 2666MHz DDR4 PCle 3.0 x32 3.0GHz BGA1515 16MB 105W-200%0%200%400%600%800%1000%-1001020304050602019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY华福证券华福证券 39 2019-2022 Wind 40 3 273.3 CPU 2008 2022 2019-2022 4.86 10.82 12.01 7.39 1.93 0.72 2.37 0.52 GPU SoC IP CPU 龙芯三号 3A4000 3A5000 3C5000L 3C5000 3D5000 产品型号及应用场景 3A4000 64 1.8-2.0GHz DDR4-2400 HT3.0 3A5000 64 2.3-2.5GHz 4 LA464 DDR4-3200 HT3.0 3C5000L 64 2.0-2.2GHz 3A5000 DDR4-3200 HT3.0 3C5000 64 2.0-2.2GHz 16 LA464 DDR4-3200 HT3.0 3D5000 64 2.0GHz 3C5000 DDR4-3200 HT3.0 配套芯片 7A1000 7A2000 3 产品型号及应用场景 7A1000 3 HT3.0 PCIE2.0 GMAC SATA2.0 USB2.0 7A2000 3 HT3.0 PCIE3.0 USB3.0 SATA3.0 2 HDMI 1 VGA PHY 3D GPU 32 DDR4 16GB-500%0%500%1000%1500%2000%2500%024681012142019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY华福证券华福证券 283.4 DDR2 1.5V TI()Inphi IDT 2004-2008 DDR3 1.25V 1866MT/s Inphi IDT Rambus TI()2008-2014 DDR4 1.2V 3200MT/s IDT Rambus 2013-2017 DDR5 1.1V 4800MT/s 5600MT/s 6400MT/s(IDT)Rambus 2017 2004 2019 7 CPU DDR2 DDR4/DDR4 1+9 2019-2022 17.38 18.24 25.62 36.72 9.33 11.04 8.29 12.99 DDR5 PCIe PCIe 4.0 Retimer PCIe 5.0/CXL 2.0 Retimer PCIe Serdes IP IP PCIe 5.0/CXL 2.0 Retimer CXL 2022 5 CXL MXC MXC MXC CXL 41 42 2022 华福证券华福证券 43 2019-2022 Wind 293.5 2019-2022 0.01 0.13 2.54 4.03-0.27-0.40-46.25-40.85 AFE DSP ESD 2.5G 29-500%0%500%1000%1500%2000%-1-101122334452019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY 2017 2023 44 YT8010A YT9218N YT8010AS YT6801 单口消费级YT8531DC单口工业级YT8511H YT8618C多口消费级YT8614H多口工业级 IEEE 802.31000Base-T100BaseTX10Base-Te PClexpress 1.1 Wake on Lan(Wol)华福证券华福证券 45 wind 46,303.6 SSD DRAM 2025 50 500 IDC IDC 0.002.004.006.008.0010.0012.0014.0016.0018.0020.002017 2018 2019 2020 2021 2022 2023H1闪存应用产品 闪存控制芯片及其他 移动存储产品 专利授权许可收入华福证券华福证券 47 2019-2022 Wind 313.7 FPC AI 31 2003 2017 FPC 2019-2022 24.70 26.45 32.03 27.92 1.78 0.78-2.68-3.08 FPC FPC FPC FPC FPC+48 2022 LCD TP CCM FPC FPC FPC LCD-500%-400%-300%-200%-100%0%100%-5051015202530352019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY华福证券华福证券 49 2019-2022 Wind 323.8 32 1993 2017 VC 2019-2022 26.15 29.29 30.58 41.25 3.51 2.09 0.3 0.96 5G 2023 50-150%-100%-50%0%50%100%150%200%250%0510152025303540452019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY华福证券华福证券 52 R2D-AVxxxx-W 51 2019-2022 Wind 333.9 33 1996 2020 2019-2022 13.13 20.83 25.72 27.03 1.12 1.94 1.11 0.90 5G AI 单体电源R2A-DVxxxx-NU1A-D1xxxx-DR U1A-C2xxxx-D U1D-B1xxxx-D/24 U2A-A2xxxx-D U2A-B2xxxx-SU1A-F0 xxxx-DR U1D-B1xxxx-DR-HYR3A-DVxxxx-NR3D-DVxxxx-NR2D-DVxxxx-NU1D-B1xxxx-DR单体电源冗余电源冗余模块U1A-D1xxxx-DRB U1D-D1xxxx-DRBU1D-A1xxxx-DR-60%-40%-20%0%20%40%60%80%100%0510152025302019 2020 2021 2022营业收入 归母净利润 营收YoY 净利润YoY华福证券华福证券 目录34 AI AI 华福证券华福证券 35 AI AI AI ChatGPT AI AI 华福证券华福证券 612 A 300 500 6 20%6 10%20%6-10%10%6-20%-10%6-20%6 5%6-5%5%6-5%36华福证券华福证券 37华福证券华福证券 1436 MT 20 200120 华福证券华福证券