修复GPU实例重启或被置换后设备ID变更问题
以后集群中的GPU实例宕机后，重启或置换GPU实例时，GPUOps会保证存储的GPU设备ID与真实的GPU设备ID一致。步骤二：验证GPUOps修复GPU设备ID变更情况 GPUOps安装完成后，在GPU集群部署1个Pod。部署Pod的YAML文件样例如下：展开查看YAML详情 ...
在GPU集群中加速AI模型训练
本文适用于AI图片的训练场景，使用文件存储CPFS/NAS作为共享存储，使用容器服务Kubernetes版管理GPU云服务器集群实现AI图片的训练加速。方案优势 使用阿里云的容器服务ACK可快速搭建AI图片训练基础环境。使用CPFS存储训练数据，支持多个...
API参考
如果您熟悉网络服务协议和一种以上编程语言，推荐您调用API管理您的云上资源和开发自己的应用程序。GPU云服务器适用的API和云服务器ECS一致，详情请参见 ECS API简介 和 ECS API概览。
什么是推理引擎DeepGPU-LLM
DeepGPU-LLM是阿里云研发的基于GPU云服务器的大语言模型（Large Language Model，LLM）推理引擎，在处理大语言模型任务中，该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里云开发的一套推理引擎，具有易用性...
API概览
本产品（云数据库专属集群/2020-03-20）的OpenAPI采用 RPC 签名风格，签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK，开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能满足使用需求...
开启集群GPU监控
新一代NVIDIA支持使用数据中心GPU管理器DCGM（Data Center GPU Manager）来管理大规模集群中的GPU，GPU监控2.0基于NVIDIA DCGM构建功能更强大的GPU监控体系。DCGM提供了种类丰富的GPU监控指标，有如下功能特性：GPU行为监控 GPU配置管理 ...
GPU监控
请确保您已在云服务器ECS上安装云监控插件。具体操作，请参见 安装云监控插件。监控项说明 您可以从GPU、实例和应用分组维度查看GPU相关监控项。GPU的监控项如下表所示。监控项 单位 MetricName Dimensions（Agent）GPU维度解码器使用率%...
管理Redis集群
创建 专属集群MyBase 后，您可以查看、修改、删除专属集群。背景信息 关于 专属集群MyBase 的更多介绍，请参见 什么是云数据库专属集群MyBase。查看 专属集群MyBase 信息 登录 云数据库专属集群控制台。在页面左上角，选择目标地域。在 ...
管理MySQL集群
创建 专属集群MyBase 后，您可以查看、修改、删除专属集群。背景信息 关于 专属集群MyBase 的更多介绍，请参见 什么是云数据库专属集群MyBase。查看专属集群MyBase基本信息 登录 云数据库专属集群控制台。在页面左上角，选择目标地域。在 ...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
添加集群
根据业务需求或单个集群的主机数量达到限定值后，您可以在同一个实例下创建新的vSphere集群。然而，需要注意单个实例下的集群数量不能超过VMware服务产品的限定值。详细的集群数量限定值请参考 使用限制 前提条件 完成VMware服务的实例创建...
ReplaceDedicatedHost-替换专属集群的主机
调用ReplaceDedicatedHost接口替换专属集群的主机。接口说明 当 MySQL 主机故障策略选择手动替换，且 MySQL 主机状态为 故障中时，您可调用该接口替换主机。说明 您可通过调用 DescribeDedicatedHostAttribute 接口，根据返回参数 ...
原理优势
本文介绍专属集群 MyBase 的产品原理与综合优势。专属集群 MyBase 是由多台主机组成的集群，使用本地盘只需为主机支付费用，在集群内可自由分配部署数据库实例。同时，专属集群提供超配能力，提升资源利用效率，实现高性价比。MyBase 的...
使用云原生AI监控大盘
云原生AI的监控组件能够帮助您从不同的维度（比如：集群、节点、训练任务等）监控集群的GPU资源使用情况，以及集群的各命名空间下的资源配额使用情况。本文分别从集群、节点、训练任务和资源配额维度介绍监控大盘，以及介绍如何安装和使用...
多集群报警差异化配置
如下示例中，ack-cluster-1 为CPU集群，ack-cluster-2 为GPU集群，该示例可实现对 ack-cluster-2 即GPU集群的差异化配置，包括开启GPU报警、修改报警阈值和告警联系人。apiVersion:core.oam.dev/v1alpha1#定义分发目标集群，使用Cluster ID...
云数据库专属集群的审计事件
云数据库专属集群已与操作审计服务集成，您可以在操作审计中查询用户操作云数据库专属集群产生的管控事件。操作审计支持将管控事件投递到日志服务SLS的LogStore或对象存储OSS的存储空间中，满足实时审计、问题回溯分析等需求。操作审计记录...
ModifyDedicatedHostAttribute-设置专属集群的主机...
调用ModifyDedicatedHostAttribute接口设置专属集群的主机是否允许分配实例。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无...
主机集群托管
主机集群支持阿里云云服务器 ECS、其他云厂商提供的主机、以及企业自有主机。阿里云 ECS 通过服务连接授权云效即可使用。其他厂商主机或自有主机，需要主机公网可访问，在主机上安装 Agent 与云效 AppStack 建立连接即可使用。导入主机集群...
RestartDedicatedHost-重启专属集群的主机
调用RestartDedicatedHost接口重启专属集群的主机。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称...
接入NVIDIA GPU监控数据
如果您使用阿里云ECS的GPU实例，则GPU实例中已默认安装驱动，可跳过此步骤。步骤二：创建Logtail采集配置 登录 日志服务控制台。在 接入数据 区域的 监控数据 页签下，单击 NVIDIA GPU监控。选择目标Project和MetricStore，单击 下一步。...
接入Nvidia GPU监控数据
Nvidia GPU服务器中提供多项监控指标，您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中，进行可视化展示。前提条件 已创建实例。具体操作，请参见 创建实例。步骤一：安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...
使用RAPIDS加速机器学习最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速机器学习环境。使用容器服务Kubernetes版部署RAPIDS加速机器学习环境。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务器 该...
DescribeDedicatedHosts-查询专属集群的主机信息
可以来查询专属集群的主机信息。接口说明 添加主机后，您可以查看主机的详细信息，包括性能监控、CPU 总数、内存总量、存储总量等。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer...
使用RAPIDS加速图像搜索最佳实践
方案优势 阿里云GPU云服务器资源丰富，可灵活选择在GPU上搭建RAPIDS加速图像搜索环境。使用容器服务Kubernetes版可快速部署图像搜索环境和分发应用。共享存储NAS可提供强大的存储性能。部署架构图 选用的产品列表 产品名称 说明 GPU云服务...
云原生AI套件管理员运维指南
当部署一个云原生AI集群之后，集群管理员需要对集群资源进行划分，并从多个维度查看集群资源的使用情况，以便及时做出调整，使集群达到最佳的利用率。本文介绍云原生AI集群的基本运维操作，包括安装AI套件、查看资源大盘、管理用户和配额。...
连接数据库集群
如果确认PolarDB集群的连接地址没有问题，可以将DNS服务器地址修改为阿里云的DNS服务器地址。网络环境 阿里云DNS服务器地址 私网（经典网络）10.143.22.116 10.143.22.118 私网（VPC网络）100.100.2.136 100.100.2.138 公网 223.5.5.5 223....
连接数据库集群
如果确认PolarDB集群的连接地址没有问题，可以将DNS服务器地址修改为阿里云的DNS服务器地址。网络环境 阿里云DNS服务器地址 私网（经典网络）10.143.22.116 10.143.22.118 私网（VPC网络）100.100.2.136 100.100.2.138 公网 223.5.5.5 223....
连接数据库集群
如果确认PolarDB集群的连接地址没有问题，可以将DNS服务器地址修改为阿里云的DNS服务器地址。网络环境 阿里云DNS服务器地址 私网（经典网络）10.143.22.116 10.143.22.118 私网（VPC网络）100.100.2.136 100.100.2.138 公网 223.5.5.5 223....
Databricks Runtime
适用于启用GPU的集群的GPU库。与平台的其他组件集成的Databricks服务，例如笔记本，作业和集群管理器。Runtime 版本控制 Databricks Runtime 版本会定期发布：主要版本 以小数点之前的版本号递增表示（例如，从3.5跳到4.0）。当发生重大...
2022年
本章节介绍云数据库专属集群MyBase的产品功能和对应的文档动态。2022年7月 引擎 类别 功能名称 功能描述 发布时间 相关文档 SQL Server 新增 3D集群画像 MyBase SQL Server引擎支持3D集群画像功能。07-20 集群画像 SQL Server 优化 存储...
容器服务报警管理
报警配置功能提供统一管理容器报警场景的功能，包括容器服务异常事件报警、集群相关基础资源的关键指标报警、集群核心组件及集群中应用的指标报警。支持在创建集群时默认开启报警功能。容器服务的报警规则支持通过集群内部署CRD的方式配置...
将报警配置功能接入注册集群
event eviction-event sls.app.ack.eviction 集群GPU的XID错误事件 集群中GPU XID异常事件。event gpu-xid-error sls.app.ack.gpu.xid_error 集群节点下线 集群中节点下线。event node-down sls.app.ack.node.down 集群节点重启 集群中节点...
智能边缘一体机用户手册
1.1创建集群 使用阿里云账号 登录SI工作台 在 应用接入>集群管理 页面填写集群基本信息，如下图所示：参数名称 参数说明 边缘集群 支持脱离公网，实现集群与应用边对边通讯。智能边缘一体机集群 支持脱离公网，实现集群与应用边对边通讯，...
集群画像
MyBase集群画像展示了集群与主机的资源分布、资源优化建议和健康状态，方便用户获取集群与主机的资源信息并实现集群与主机资源的可视化管理。查看集群画像 前提条件 仅MyBase MySQL、MyBase SQL Server引擎支持集群画像。操作步骤 登录 云...
什么是GPU云服务器
对比项 GPU云服务器 GPU自建服务器 灵活性 能够快速开通一台或多台GPU云服务器实例。实例规格（vCPU、内存及GPU）支持灵活变更，并且支持在线升降配。带宽升降自由。服务器购买周期长。服务器规格固定，无法灵活变更。带宽一次性购买，无法...
常见问题
确保集群有出入公网双向权限 您需要确保集群具有出入公网的双向权限，否则会导致初始化公有云服务集群失败。访问公网权限，主要用来拉取BizWorks的相关镜像。被公网访问的权限，则是用来可以被BizWorks管控访问。关于如何配置集群访问公网...
异构计算集群概述
更多信息，请参见 创建GPU集群 和 创建专有GPU集群。支持以GPU卡为单位申请集群GPU资源。支持自动扩缩容集群GPU节点。更多信息，请参见 基于GPU指标实现弹性伸缩。支持GPU共享调度和算力隔离功能。阿里云自研的GPU共享调度将多个模型推理...
阿里云异构计算产品总览
神行工具包（DeepGPU）神行工具包是阿里云专门为GPU云服务器搭配的GPU计算服务增强工具集合，用户可以基于IaaS产品快速构建企业级服务能力。目前所有神行工具包中的组件都是免费搭配阿里云GPU服务器使用，帮助用户更方便、更高效地使用阿里...
快速创建入口
当您首次创建 专属集群MyBase 时，可以直接登录专属集群主机购买页来快速创建 专属集群MyBase，本文介绍如何快速创建专属集群和主机的相关操作步骤。操作步骤 登录 专属集群主机购买页。设置以下参数。参数 说明 地域 主机所在的地域。可用...
安装GPU拓扑感知调度组件
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。获取集群KubeConfig并通过kubectl工具连接集群。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上...
- 产品推荐
- 这些文档可能帮助您