• 灵骏超节点实例 GP9A
  • 实例规格
  • 产品优势
  • 适用场景
  • 客户案例

灵骏真武 M890 超节点实例

实例基于自研真武 M890 旗舰芯片,采用超节点架构 面向万亿参数规模模型高性能推理设计

立即开始

了解如何基于真武超节点实例训练模型,部署推理任务

超节点架构

64 卡全带宽互联 · HPN8.0 支持 12 万卡集群

万亿参数模型训推

高带宽、低时延芯片互联,超大规模集群扩展能力

MXFP4 精度支持

新增 MXFP4 精度,兼容 FP8 / BF16 / FP16 / FP32

主流生态兼容

全面兼容主流 AI 生态,业务代码无需修改

灵骏超节点 GP9A 实例规格对比

最新实例由真武M890芯片提供支持

实例

efg2.P16EN(810E)

efg3.GP9AS(M890L)

efg3.GP9A(M890P)

芯片代际

真武 810E(PPU 1.1)

真武 M890L(PPU 1.5)

真武 M890P(PPU 1.5)

显存容量

1536 GB

6144 GB

9216 GB 

支持精度

FP32 / BF16 / INT8

FP32 / FP16 / BF16 /  FP8 / MXFP4

FP32 / FP16 / BF16 /  FP8 / MXFP4

CPU

96 核 

1024 核

1024 核

内存

2 TB

18.4 TB

18.4 TB

本地存储

15.36 TB NVMe + 960 GB SATA SSD

122.88 TB NVMe

122.88 TB NVMe

前端网络

400 Gbps

3.2 Tbps

3.2 Tbps

Scale-up 卡间互联

11.2 TB/s

51.2 TB/s

51.2 TB/s

Scale-out 实例间互联

1.6 Tbps

12.8 Tbps

12.8 Tbps

每实例 GPU

16 卡

64 卡

64 卡

最小售卖单元

裸金属(16 卡)

超节点(64 卡 / 8 节点)

超节点(64 卡 / 8 节点)

开服地域

北京、杭州、上海、乌兰察布

中卫(邀测中)

乌兰察布(可用区 D),中卫(邀测中)

产品优势

超节点架构故障自愈

面向 ICN64 超节点架构,支持故障自愈能力,2^n卡持续可用。

 

万亿参数MoE模型训推

每卡 144 GB 显存,实例 64 卡共 9,216 GB 显存池,承载万亿参数级模型。

MXFP4 高效推理

新增 MXFP4 精度,相比 BF16 可提供数倍吞吐提升,适用于 LLM 推理、推荐系统等追求极致吞吐的场景。同时兼容 BF16 / FP16 / FP8 / FP32。

主流生态全兼容

T-Head SAIL™ 软件栈(Interface / SDK / OS 三层架构)全面兼容主流 AI 生态,业务迁移零代码修改。PyTorch / vLLM / SGLang / Megatron-LM / DeepSpeed 开箱即用。

适用场景

覆盖从大模型训练到自动驾驶的全场景 AI 工作负载。

高性能推理
原生支持 vLLM、SGLang 推理引擎,自研 HolmesLLM 提供极致加速。支持 PD 分离推理架构,满足不同推理阶段需求。
icon
自动驾驶
已验证兼容 50+ 自动驾驶模型(感知、预测、端到端)环境部署训练与推理。
icon
搜推广与多模态
支持推荐系统、搜索排序、广告模型等核心场景。同时支持视觉-语言模型、图像生成、视频理解等多模态任务。
icon
MXFP4 高效推理
MXFP4 精度相比 BF16 可提供数倍吞吐提升,适用于 LLM 推理、推荐系统、实时图像处理和自动驾驶等极致吞吐场景。
icon
客户案例
bannerbannerbannerbannerbanner
01
某头部造车新势力
裸金属部署,搭配优化训练、推理框架,显著提升自动驾驶感知 / 预测 / 端到端模型训练速度与推理效率。
模型训练
02
某具身智能公司
裸金属 M890P 部署,支撑 VLA/多模态大模型训练与仿真,加速具身智能本体模型迭代。
模型训练
03
某大型社交平台
ACS 容器服务部署,vLLM/SGLang 推理引擎,提升生成模型吞吐与延迟表现。
推荐系统
04
某头部电商平台
ACS 容器服务,HolmesLLM 专用推理框架,提升推荐响应速度与转化率。
商品推荐与搜索
05
某 AI 初创公司
裸金属 M890P 部署,vLLM/SGLang 运行 Qwen 系列,支持聊天机器人 / 智能客服等应用。
大语言模型推理