PAI灵骏智算服务概述
产品架构 PAI灵骏 是软硬件一体化设计的算力集群服务，硬件涵盖了服务器、网络、存储以及集群的整体交付管理等，软件包括算力资源管控运维、AI加速套件、云原生任务管理，以及完善的AI开发作业平台，支持Pytorch、TensorFlow等常见AI框架。...
PAI发布基于Quota队列的4大调度策略功能
发布智能、遍历、均衡、FIFO 4大调度策略，提升客户AI算力利用效率 适用客户 拥有大规模AI算力资源的用户，人工智能、大模型、AIGC创业者，互联网AI业务等企业客户。新增功能/规格 PAI资源配额（Quota）代表了一组AI算力资源，基于PAI资源...
常见问题
3 安防行业龙头为了多卖设备，将AI算法固化到前端摄像机上，但仅靠摄像机芯片的算力来处理视频，AI的能力就被固化了，且升级困难，很难保证全局AI能力的统一性 如何帮助客户建立一套可统一维护，统一升级，整体拥有成本低的视频智能体系。...
应用场景
灵骏主要面向图形图像识别、自然语言处理、搜索广告推荐、通用大模型等大规模分布式的AI研发场景，适用于自动驾驶、金融风控、药物研发、科学智能、元宇宙、...支持云原生和容器化的AI和HPC应用生态，资源深度共享，普惠的智能算力触手可得。
阿里云异构计算产品总览
阿里云异构计算产品为您提供了软件与硬件结合的完整服务体系，助力您在人工智能业务中实现资源的灵活分配、弹性扩展、算力的提升以及成本的控制。什么是异构计算 异构计算（Heterogeneous Computing）是指使用不同类型指令集和体系架构的...
产品优势
神龙AI加速引擎AIACC 神龙AI加速引擎AIACC作为阿里云自研的AI加速器，在训练及推理场景下具有其显著的性能优势，能够提高计算效率同时降低使用成本。统一加速 提供对TensorFlow、Caffe、MXNet和PyTorch多种人工智能框架的统一加速。性能...
在GPU集群中加速AI模型训练
部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。容器服务ACK 该服务提供了高性能且可伸缩的容器应用管理...
配置共享GPU调度cGPU算力调度策略
本文介绍通过配置共享GPU算力分配策略，实现不同效果的算力分配。关于cGPU的更多信息，请参见 什么是GPU容器共享技术cGPU。前提条件 已创建ACK Pro版集群，且集群的Kubernetes版本≥1.18.8。关于Kubernetes的升级操作，请参见 升级ACK集群...
什么是GPU云服务器
超强计算能力 阿里云GPU云服务器配备业界超强算力的GPU计算卡，结合高性能CPU平台，单实例可提供高达1000 TFLOPS的混合精度计算性能。网络性能出色 阿里云GPU云服务器实例的VPC网络最大支持450万的PPS及32 Gbit/s的内网带宽。在此基础上，...
功能特性
灵骏满足AI、HPC等计算密集场景需要的高性能算力，可实现高性能、大规模的池化算力，满足自动驾驶、科研、金融、生物制药等多行业的异构算力需求。本文为您介绍灵骏的功能特性。高速RDMA网络架构 阿里巴巴2016年开始投入专项研究RDMA...
应用场景
神行工具包（DeepGPU）应用场景 神行工具包中的组件主要包括神龙AI加速引擎AIACC（AIACC-Training和AIACC-Inference）、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署工具FastGPU以及GPU容器共享...
使用FastGPU加速AI训练/推理
本文通过使用FastGPU工具一键构建阿里云上的AI训练/推理环境，并使用AIACC加速工具进行模型的训练或推理加速。使用FastGPU可快速搭建环境，使用AIACC可加快模型的训练/推理速度，两者协同使用，可有效提高AI模型的训练/推理效率和性能。...
历史功能发布记录（2023年）
ACK Serverless支持Spot实例创建加速，提升大批量Spot实例创建规模 ACK Serverless提供高达100万核/小时的实例创建能力，可以在短时间内快速创建大量Spark Job等任务型并发处理实例，降低Job任务的排队时长，支撑大数据存算分离场景下的算...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
GPU计算型
基于第三代神龙架构，通过CIPU云处理器进行云端资源管理，提供稳定可预期的超高计算、存储和网络性能 采用NVIDIA A16 GPU计算加速器提供GPU加速能力，支持图形加速、硬件转码和AI业务 说明 每块NVIDIA A16卡包含4个GA 107处理芯片。...
新建资源组并购买灵骏智算资源
功能简介 资源类型 灵骏智算类型的资源，是阿里云自主研发的新一代智能计算资源，提供：RDMA高速网络架构 高性能通信库 高性能加速软件 GPU虚拟化的技术方案 可以更好地满足高性能算力需求。资源组类型 阿里云PAI为您提供全托管的灵骏智算...
什么是AIoT客流分析算法
而企业要在新的智能化时代继续保持并提升自身的核心竞争力，就必须要在数字化的基础上，通过实现云边端一体的打通，从海量的数据中筛选有价值的部分，将人工智能的算法、算力在整个产业链条上进行灵活调用，以此提升产品质量和服务水平，...
使用EAIS训练PyTorch模型（EAIS内置AIACC-Training）
具备远端GPU算力的弹性调整，使得模型装载能力更强，可以为LLama7B-33B-65B等不同配置大语言模型提供不同的装载能力。原理说明 EAIS支持您根据自身业务场景选择不同的PyTorch框架版本，来使用EAIS实例进行PyTorch模型训练，目前支持如下两...
应用场景
异构GPU云服务器还参与实时家居渲染图片生成等业务，首次提供了大量算力强劲的ebmgn6v裸金属实例，支持淘宝渲染方提升几十倍的渲染性能，第一次实现秒级实时渲染，完成总计超过5000张大型家居渲染图。异构FPGA图片转码业务则以3K+片的超大...
游戏行业最佳实践
降低成本 您可以将更多的算力、带宽从中心服务器转移到边缘节点，降低您的成本。快速入门 您只需要按照以下流程，即可快速接入DCDN服务。场景 说明 相关文档 快速接入DCDN 快速开通DCDN服务，实现资源加速。开通DCDN服务 添加服务域名 配置...
零售行业最佳实践
降低成本 您可以将更多的算力、带宽从中心服务器转移到边缘节点，降低您的成本。快速入门 您只需要按照以下流程，即可快速接入DCDN服务。场景 说明 相关文档 快速接入DCDN 快速开通DCDN服务，实现资源加速。开通DCDN服务 添加服务域名 配置...
数据集加速器计费说明
本文为您介绍数据集加速器的计费规则。计费项 数据集加速器的计费项组成如下图所示：计费方式 数据集加速器的计费方式如下。计费项 计费主体 计费规则 计费方式 停止计费 加速实例容量 容量和购买时长。按容量和购买时长收费。预付费（包年...
概述
PolarDB for AI 功能通过一系列MLOps和内置的模型解决了数据、特征和模型的割裂状态，实现了基于数据库的数据智能的一站式服务。本文介绍了 PolarDB for AI 功能的相关特性。背景信息 随着数据的累积，数据驱动的智能应用（例如：搜索、...
政企安全加速
阿里云政企安全加速依托阿里云全球分布的加速网络，承载全面的安全防护能力。为政府、金融、传媒、零售和交通等企业，提供边缘安全和加速一站式服务。使用场景 场景 事件 政府 发生突发社会事件时，政府网站及应用产生高并发访问请求。面对...
功能特性
动静态加速规则概述 内容优化 Gzip 开启智能压缩功能，全站加速节点向您返回请求的资源时，会对文本文件进行Gzip压缩，可以有效缩小传输文件的大小，提升文件传输效率，减少带宽消耗。Gzip压缩 Brotli 开启Brotli压缩功能，全站加速节点向...
DCDN为淘宝App短视频场景加速的IETF QUIC最佳实践
手机淘宝在短视频、图片等多个场景下会用到CDN内容分发网络，手机淘宝技术和阿里云CDN技术有非常多的共建合作，其中包括在IETF QUIC加速产品方向。本文以CDN产品为例，为您介绍手机淘宝使用IETF QUIC加速产品的应用场景和效果，以及配套的...
通义千问大模型数据推理和交互
modelname 模型名称，需要根据 场景类型 指定，取值如下：情感分析：_polar4ai_tongyi_sa 生成正面/负面评价 生成正面评价：_polar4ai_tongyi_p_comment 生成负面评价：_polar4ai_tongyi_n_comment 总结：_polar4ai_tongyi_summarize 翻译...
章节速览
本文主要介绍章节速览的AI能力和实现方式。章节速览是将音视频内容，先按交流主题进行分割，再提炼总结每个内容分段的标题及摘要。通过章节速览，可快速了解内容的结构；并在较长的内容中，快速定位所需的主题。请求参数 参数名 类型 是否...
DCDN企业版为政企提供加速和安全一站式服务
阿里云DCDN企业版依托阿里云全球分布的加速网络，承载全面的安全防护能力，为政府、金融、传媒、零售和交通等企业，提供边缘安全和加速一站式服务。DCDN企业版商务模式 DCDN企业版产品与官网标准CDN或者DCDN产品不同，由于提供了额外的企业...
AI加速概述
PAI-AI加速器主要用于训练加速和推理加速，它通过数据集加速、计算加速、优化算法、调度算法和资源优化技术等多种手段，提高了AI训练和推理的速度、易用性和稳定性，全面提升了AI计算的效率。本文为您介绍AI加速器的功能亮点。AI加速器功能...
人工智能AI
本文列举了AI推理、AI训练、AI加速的最佳实践案例及人工智能AI的解决方案。AI推理 基于弹性计算的AI推理 AI训练 超级计算集群结合ACK快速实现NLP训练 基于机器学习PAI的云原生AI训练 GPU AI模型训练 基于NAS部署可更换模型的FC Stable ...
PAI使用引导
AI加速 模型开发者使用AI加速器完成训练加速和推理加速，全面提升AI加速效率，详情请参见 AI加速概述。管理AI资产 PAI支持将数据集、模型、镜像和代码等作为AI资产进行管理。在模型开发过程中，模型开发者可以根据使用场景创建AI资产，并对...
ACK集群实现弹性裸金属AI训练
本方案使用了SCC超级计算集群，采用弹性裸金属GPU服务器、并行文件系统CPFS、RDMA网络、阿里云容器服务Kubernetes版和飞天AI加速训练工具，提供性能稳定的训练环境，保障业务能力。解决问题 搭建AI图片训练基础环境。使用CPFS存储训练数据...
01-AI加速场景架构部署
本场景架构适用于AI加速应用场景。在线下IDC训练加速业务中，经常遇到计算和通信的瓶颈，本方案为您介绍如何借助阿里云上的优势，来支持客户业务，并且基于CADT快速部署进行POC，模板验证后可以直接转生产，大大提升工作效率。
什么是数知地球 AI Earth
数知地球 AI Earth（Analytical Insight of Earth）依托于阿里巴巴达摩院在深度学习、计算机视觉和地理空间分析方向上的技术积累，实现对多源遥感空间数据的智能计算与融合分析，为自然资源、水利水务、生态环保、智慧农业等多个领域提供...
增值服务计费说明
增值服务概述 AI Earth地球科学云平台面向科研和公众用户提供免费定量的遥感数据处理分析功能，单个用户存储资源空间默认为300GB，AI模型分析时长为10小时/月，数据下载流量为100GB/月，AI模型训练时长为20小时/月，开发者模式支持同时运行...
ACK集群实现GPU AI模型训练
本文介绍GPU AI模型训练的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于AI图片训练场景...使用飞天AI加速训练工具加速训练。使用Arena一键提交作业。架构图 参考链接 有关GPU AI模型训练的详情，请参见 GPU AI模型训练。
全球加速联动CDN实现回源加速
全球加速GA（Global Accelerator）依托阿里云优质BGP带宽和全球传输网络，通过联动内容分发网络CDN（Content Delivery Network），帮助您快速构建全球CDN回源网络，保障CDN业务实现动态内容的全面加速。背景信息 本文以下图场景为例。某Web...
ACK集群实现基于弹性计算的AI推理
本文介绍基于弹性计算的AI推理的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于使用GPU进行AI在线...使用飞天AI加速推理工具加速推理。架构图 参考链接 有关基于弹性计算的AI推理的详情，请参见 基于弹性计算的AI推理。
ack-ai-installer
同时，ack-ai-installer（cgpu-installer）还支持GPU算力隔离，并提供不同的分配策略（平均、抢占、权重等），可以更精细化地调度和使用GPU的算力资源。关于共享GPU调度与隔离的更多信息，例如安装方式、使用场景等，请参见 安装共享GPU...
- 产品推荐
- 这些文档可能帮助您