开服动态
灵骏真武 M890 超节点实例Day0 适配 Kimi K3.1 Pro，中卫地域开服
真武 PPU 云服务
- 内容甄选
- 产品动态
什么是真武 PPU？
真武 PPU（Parallel Processing Unit）一款为AI应用加速的芯片，具有高易用性，适用于各类大模型和传统模型的训练及推理场景。它支持主流AI框架和深度学习模型，提供编译器和多种开源加速库，同时配备完整的工具链，帮助您快速、低成本地迁移应用。PPU拥有自研的软件栈，通过 PPU SDK 能够最大化产品算力，显著提升计算效率。真武 PPU 在阿里云实现多个万卡集群部署。依托‘大模型+云+芯片’全栈AI能力，阿里云服务了小鹏汽车、新浪微博等 650+ 多家客户。
在真武 PPU 上部署您的模型
Qwen 3
训练推理
快速部署Qwen 3.8 27B、2.4T、Flash-Next 等模型
Kimi
推理
PD 分离部署 Kimi K3，K3.1 Pro 万亿参数MoE模型，支撑长上下文推理
DeepSeek
推理
PD 分离部署DeepSeek V4 Flash 与 Pro 最新模型
GLM
推理
部署 GLM 5.2/5.3 及 5.3 flash
真武 PPU 的优势
支持多种 AI 负载，包括预训练、后训练及推理场景，完全兼容 Qwen、LLaMa 等常见开源大模型，支持 Megatron、DeepSpeed、vLLM 等常见训练、推理框架无缝迁移。
全自研
● 硬件端到端全链路自研
● 自研并行计算架构
● 自研计算单元、片间互联等核心模块
高性能
● 高算力、高容量、高带宽
● 超强互联通信能力
● 丰富低精度数据格式支持
高易用性
● 自研全栈软件、兼容主流AI生态
● 完整工具链支持
● 业务迁移零代码修改
真武 PPU 的版本
版本 | |||
|---|---|---|---|
定位 | 高易用训推一体 AI 芯片 | 全场景训推一体 AI 芯片 | 下一代训推一体 AI 芯片 |
使用场景 | 广泛适用于各类大模型的训练与推理，如自动驾驶主流模型、生成类模型、多模态模型、感知类模型、搜推广模型等 | 广泛适用于各类大模型的训练与推理，覆盖从高精度计算到低精度推理的全场景需求 | 在大幅提升算力密度的同时显著降低推理成本，可应用于高精度训练、低精度和超低精度推理的全场景 |
单卡内存 | 96 GB | 96 GB/144 GB | 216 GB |
片间互联带宽 | 700 GB/s | 800 GB/s | 1200 GB/s |
特性 | ● 高带宽、低延迟片间互联技术 ICN
● 高速互联能力聚合整机 16 卡高算力
● 结合通信库提供灵活的 EP/TP/DP 等并行策略
● 源代码级别编译能力、提供软件栈统一编程接口
● 全面兼容主流AI生态，业务迁移零代码修改 | ● 并行计算架构与片间互联等自研核心模块全面升级
● 支持FP8/FP4低精度算力
● 支持64卡全带宽互联
● 源代码级别编译能力，提供软件栈统一编程接口
● 全面兼容主流AI生态，业务迁移零代码修改 |
● 深度迭代自研并行计算架构
● 3 倍性能提升
● 千卡全带宽 Scale-Up 互联，百 TB 级别统一显存
● 支持FP8/FP4低精度算力
● 全面兼容主流AI生态，业务迁移零代码修改
|
可用情况 | 北京、杭州、上海、乌兰察布等区域 | 乌兰察布（可用区 D），中卫（邀测中），通过灵骏超节点实例提供 | 尽请期待 |
应用场景
加速模型推理与服务构建
面向推理时代，提供多重优化手段
原生支持 vLLM、SGLang 等主流推理引擎，并提供自研 HolmesLLM 专用推理框架，提供 acext 算子库，结合大容量内存，为MoE、int8等推理场景提供针对性优化，以实现更高的吞吐与更低的时延。
支撑模型训练
支持微调与强化学习集群建设
通过人工智能平台 PAI 与 容器计算服务 ACS，可按需构建单机多卡、多机多卡模型后训练环境，搭配灵活、高性能的存储与网络方案，通稿使用您要求的训练数据，支持 Finetune 以及 Roll-out 强化学习集群建设，对模型进行后训练。
赋能自动驾驶
行业大规模实践经验沉淀
真武 PPU 通过长期生产实践，已验证兼容 50+ 自动驾驶领域常见模型，能够支持如感知模型、预测模型、端到端模型等多种模型架构的模型训练与推理。
通过云产品使用真武 PPU
您可以通过多样云产品进行部署，例如您需要完全掌控技术栈，可以选择智能计算灵骏真武超节点实例，如果您需要编排大规模 AI 工作负载，可以通过容器计算服务，获得开箱即用的算力与弹性可扩展能力，或直接一步使用人工智能平台PAI，获得一站式的平台体验。
基于超节点实例完成模型训练与模型部署
灵骏真武超节点实例，提供 GP9A 与 GP9AS 两款实例，提供64卡， 9TB 与 6TB 显存，已适配包括Qwen 3.8、Kimi、DeepSeek 多样规格的模型权重。
常见问题
- Q：在真武 PPU上如何通过pip安装软件，有哪些软件可以通过这种方案安装？
- A：在PPU上您可以通过pip安装在PPU上适配和打包好的pip软件包，用法和社区的使用方式类似，目前可用的PIP软件包可以在阿里云 真武 PPU 云服务网站获取PIP软件包清单。查看详情
- Q：配合 PPU 使用的容器镜像有哪些？我可以在哪里获取？
- A：适配和测试好的 PPU 容器镜像可以在阿里云真武 PPU 云服务网站获取，通过 PAI 平台使用真武 PPU 的场景您可以关注 PAI 官方容器镜像版本发布记录，通过 ACS 平台使用 PPU 的场景您可以关......查看详情
- Q：我希望在 PAI 上使用真武 PPU 资源，有哪些最佳实践和常见问题？
- A：请参见 PAI-PPU 的最佳实践。查看详情
- Q：在真武 PPU 上如何编译软件/算子/功能模块/pip 软件包？
- A：在真武 PPU 上编译各类软件和 GPU 上非常类似，PPU 提供了对等的编译器和开发工具（用法也没有区别，用户可以不用改变使用方式即可无缝切换到 PPU 平台），所有可用的容器镜像中都已经内置......查看详情
