快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
在Serverless集群中提交作业
创建RAM角色时，可信实体类型为 阿里云服务，角色类型为 普通服务角色，受信服务为 云服务器；为角色授权时，请选择 AliyunOSSFullAccess 权限策略。NAS Volume Mount Path：挂载到容器的目录。NAS Mount Target：NAS的挂载点地址。NAS ...
【公告】vgn5i和vgn6i停售通知
尊敬的阿里云用户，阿里云将于2023年11月1日起停止售卖vgn5i和vgn6i产品，且2024年2月1日后该产品将全面关闭（即存量实例会被强制关机下线），为了您的业务不受产品关闭影响，建议您尽快将目前使用的vgn5i和vgn6i升配为vgn6i-vws、sgn7i-...
卸载Tesla驱动
警告 GPU实例必须配备了相关驱动才可以正常使用。如果您因某种原因需要卸载当前驱动，请务必再安装与您实例规格及操作系统相匹配的正确驱动，否则会因GPU实例与安装的驱动不匹配而造成业务无法正常进行的风险。在Windows操作系统中卸载...
一键诊断
您可以使用 PAI灵骏智算服务 提供的一键诊断功能，检查灵骏节点的网络和硬件状态，基于多种通信库和通信模型进行网络测试。本文为您介绍灵骏的一键诊断功能。自助诊断 网络诊断 网络诊断功能分为 静态配置类检查 和 动态运行类检查，支持...
安装并使用DeepGPU-LLM
在处理大语言模型任务中，您可以根据实际业务部署情况，选择在不同环境（例如GPU云服务器环境或Docker环境）下安装推理引擎DeepGPU-LLM，然后通过使用DeepGPU-LLM工具实现大语言模型（例如Llama模型、ChatGLM模型、百川Baichuan模型或通义...
GPU虚拟化型
本文介绍为您介绍云服务器ECS GPU虚拟化型实例规格族的特点，并列出了具体的实例规格。GPU虚拟化型实例规格族sgn7i-vws（共享CPU）GPU虚拟化型实例规格族vgn7i-vws GPU虚拟化型实例规格族vgn6i-vws GPU虚拟化型实例规格族sgn7i-vws（共享...
什么是云服务器ECS
云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS（Infrastructure as a Service）级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效...
GPU计算型
主售（推荐类型）GPU计算型实例规格族gn7e GPU计算型实例规格族gn7i GPU计算型实例...服务器实例规格族ebmgn7ex GPU计算型弹性裸金属服务器实例规格族ebmgn7e GPU计算型弹性裸金属服务器实例规格族ebmgn7ix GPU计算型弹性裸金属服务器实例规格...
应用场景
其中FPGA H.265高清编码、720P节省带宽21.6%，GPU云服务器支持高并发实时视频流5000路以上，并逐步上升到峰值6200路每分钟，且顺利度过洪峰。异构GPU云服务器还参与实时家居渲染图片生成等业务，首次提供了大量算力强劲的ebmgn6v裸金属实例...
如何选用云服务器
在阿里云电子政务云上，云服务器有很多不同的规格型号，例如都是4核8G内存的云服务器，在不同应用场景下的性能跑分不同，价格也不同。本文为您介绍阿里云云服务的常见参数类别，帮助您根据不同的业务需求选择合适的云服务。云服务器参数...
资源配额监控与报警
监控指标及说明 监控指标主要包括CPU、内存、磁盘、网络，以及GPU相关指标。全量指标列表及细节说明请参见 PAI-资源配额（Quota）指标列表。监控指标 描述 CPU使用率（Quota维度）指定Quota的CPU使用百分比。磁盘读取数据量（Quota维度）...
常用操作导航
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的操作方式。在使用云服务器ECS时，您可能会遇到各种问题，例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作，...
什么是计算优化编译器AIACC-AGSpeed
AIACC-AGSpeed（AIACC 2.0-AIACC Graph Speeding）是阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，用于优化PyTorch深度学习模型在阿里云GPU异构计算实例上的计算性能，相比原始的神龙AI加速引擎AIACC，AIACC-AGSpeed是...
安装和使用AIACC-ACSpeed
前提条件 已创建阿里云GPU实例，且GPU实例需满足以下要求：操作系统为Alibaba Cloud Linux、CentOS 7.x、Ubuntu 16.04或以上版本。已安装NVIDIA Driver和CUDA 10.0或以上版本。支持的版本列表 AIACC-ACSpeed（本文简称ACSpeed）v1.1.0支持...
已停售的GPU实例规格
vCPU 内存（GiB）GPU GPU显存（GB）网络带宽（Gbit/s）网络收发包PPS RoCE网络（Gbit/s）多队列 弹性网卡 单网卡私有IP ecs.sccgn6e.24xlarge 96 768.0 NVIDIA V100*8 32GB*8 32 480万 50 8 32 10 GPU计算型超级计算集群实例规格族sccgn6 ...
使用AIACC-Training PyTorch版
hostfile mpi_host.txt./train.sh 常见问题 模型数据存放位置冲突，导致报错 Input type(CUDAFloatTensor)and weight type(CPUFloatTensor)should be the same 通常情况下，是因为存在模型的参数不在GPU中，而输入数据在GPU中，遗漏了model...
安装和使用Deepytorch Training
Deepytorch Training是阿里云自研的AI加速器，面向生成式AI和大模型场景，提供了显著的训练加速能力。本文主要介绍安装并使用Deepytorch Training的操作方法。前提条件 已创建阿里云GPU实例，且GPU实例需满足以下要求：操作系统为Alibaba ...
常见问题
平台提供网管服务，对网关维度收取云资源费用，传感器节点通讯次数或流量不在此产品计费，用户可选择阿里云物联网平台或消息队列（MQ）处理数据，按照其产品收费方式计价。LoRa节点与LoRaWAN网关有绑定关系吗？没有，与Wi-Fi网络架构不同，...
产品优势
高可用性 E-HPC集群节点基于云服务器ECS、超级计算集群SCC和GPU云服务器组建，大大提高了集群的可用性。结果可视 E-HPC提供可视化服务功能，您可以通过可视化服务功能将计算结果转换为可读的图形化数据。例如您可以直接观看渲染后的动画...
通过密码或密钥认证登录Windows实例
关于不同网络类型说明，请参见 专有网络概述 和 经典网络的IP。认证方式 选择认证方式，支持的认证方式如下：密码认证：输入用户名（例如Administrator），需要继续输入登录密码。凭据认证：选择已定义好的凭据或者新增凭据。凭据用于存储...
GPU调度概述
共享GPU调度 阿里云容器服务Kubernetes版ACK（Container Service for Kubernetes）开源了GPU共享调度之后，您能在阿里云、AWS、GCE和自己数据中心的容器集群上通过GPU共享调度框架实现多个容器运行在同一个GPU设备上的目标。ACK开源GPU共享...
共享GPU调度概述
本文为您介绍阿里云共享GPU方案、共享GPU专业版的优势、共享GPU的基础版与专业版的功能对比及使用场景，帮助您了解和更好地使用共享GPU的能力。视频介绍 背景介绍 阿里云 容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）...
GPU节点调度属性标签
安装云原生AI套件的调度组件ack-ai-installer之后，您可以为GPU节点打上调度属性标签，帮助GPU节点启用共享GPU调度、GPU拓扑感知调度等能力。本文介绍GPU节点调度属性标签及如何切换标签的值。GPU节点调度属性标签说明 标签ack.node.gpu....
弹性加速计算实例EAIS安全性说明
说明 通过在ECS实例（非GPU实例）上绑定一个EAIS实例，即可生成一款新规格的GPU实例，该方式相比直接购买GPU实例，可以实现GPU资源的弹性使用，并为您降低部署成本和使用成本。因此，在使用EAIS前，您也需要关注ECS实例的安全性，更多信息...
在GPU实例上部署eRDMA容器镜像
eRDMA（Elastic Remote Direct Memory Access）是一种高性能网络通信技术，将eRDMA功能引入容器（Docker）环境可以实现容器应用程序绕过操作系统内核直接访问主机的物理eRDMA设备，从而提供更快的数据传输和通信效率，适用于在容器中需要大...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
通过密码或密钥认证登录Linux实例
关于不同网络类型说明，请参见 专有网络概述 和 经典网络的IP。认证方式 选择认证方式，支持的认证方式如下：密码认证：输入用户名（例如root或ecs-user），需要继续输入登录密码。SSH密钥认证：输入用户名（例如root或ecs-user），需要...
Serverless GPU概述
Serverless GPU是一种新兴的云计算GPU服务，它采用了服务器无感知计算的理念，通过提供一种按需分配的GPU计算资源，有效地解决原有GPU长驻使用方式导致的低资源利用率、高使用成本和低弹性能力等痛点问题。本文介绍Serverless GPU的详细...
监控面板说明
GPU监控2.0基于Exporter+Prometheus+Grafana体系打造更为丰富的GPU监控场景。本文介绍监控大盘中各个监控面板（Panel）的含义。Panel介绍 GPU监控2.0包含集群维度监控大盘和节点维度监控大盘。两种大盘的具体说明如下：集群维度监控大盘 ...
监控集群GPU资源最佳实践
出现该现象可能是指标产生的时间点到下一次产生的15s间隔时间内，有Pod完成了任务，释放了GPU资源，调度器感知后，将处于Pending的Pod调度到这个节点上。监控大盘只支持监控通过在Pod中配置 resources.limits 的方式申请的GPU资源。更多...
ACK支持的GPU机型
GPU计算型gn4 NVIDIA M40 GPU计算型gn5i NVIDIA P4 GPU计算型gn5 NVIDIA P100 GPU计算型gn6e NVIDIA V100 GPU计算型gn6i NVIDIA T4 GPU计算型gn6v NVIDIA V100 GPU计算型gn7i NVIDIA A10 GPU计算型gn7s NVIDIA A30 GPU计算型弹性裸金属...
开启集群GPU监控
新一代NVIDIA支持使用数据中心GPU管理器DCGM（Data Center GPU Manager）来管理大规模集群中的GPU，GPU监控2.0基于NVIDIA DCGM构建功能更强大的GPU监控体系。DCGM提供了种类丰富的GPU监控指标，有如下功能特性：GPU行为监控 GPU配置管理 ...
AIACC-Training常见问题
本章节汇总了使用AIACC-Training时的常见问题。...启动环节异常慢，查看系统的线程数非常多，有大量omp相关的线程 一般情况下，单GPU分配4个以内的omp线程是合适的，设置 export OMP_NUM_THREADS=4 或者更低可以解决此类问题。
使用云原生AI监控大盘
节点监控大盘有以下可供您查看的指标：GPU Node Details：以表格的形式展示集群节点的相关信息，包括：节点名称（Name）节点在集群中的IP（IP）节点在集群中的角色（Role）节点的状态（Status）GPU模式：独占或共享（GPU Mode）节点拥有GPU...
共享GPU调度
容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）开源了GPU共享调度之后，您能在阿里云、AWS、Google Compute Engine和自己数据中心的容器集群上通过GPU共享调度框架实现多个容器运行在同一个GPU设备上的目标。ACK开源GPU...
使用共享GPU调度（eGPU）
本文介绍如何在ACK灵骏托管版集群中的灵骏节点上使用共享GPU调度（eGPU），实现GPU的调度和隔离能力。索引 前提条件 步骤一：开启GPU共享调度能力 步骤二：使用GPU共享...kubectl get node<NODE_NAME>-oyaml 预期输出：allocatable:aliyun....
Python SDK使用说明
您可以通过FastGPU提供的Python接口，将FastGPU集成到您的人工智能训练或推理脚本中，从而快速地实现云上部署和资源管理。本文为您介绍FastGPU的Python SDK相关使用说明。前提条件 客户端已安装Python 3.6或以上版本。说明 您的ECS实例、...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
排查GPU监控常见问题
具体操作，请参见 开启阿里云Prometheus监控。如果已安装ack-arms-prometheus，执行以下命令查看ack-arms-prometheus的Pod状态。kubectl get pods-n arms-prom 预期输出：NAME READY STATUS RESTARTS AGE arms-prom-ack-arms-prometheus-...
- 产品推荐
- 这些文档可能帮助您