从0快速搭建个人版“对话大模型”
本教程介绍如何在阿里云GPU云服务器上基于 Alpaca大模型 快速搭建个人版“对话大模型”。背景信息 Alpaca大模型 是一款基于LLaMA的大语言模型，它可以模拟自然语言进行对话交互，并协助用户完成写作、翻译、编写代码、生成脚本等一系列创作...
应用场景
推荐搭配使用：云服务器 ECS／GPU 服务器 EGS／高性能计算服务（Alibaba Cloud HPC）+容器服务+对象存储 OSS／文件存储 NAS／CPFS 相关文档：PyTorch分布式训练 TensorFlow分布式训练 微服务架构 实现敏捷开发和部署落地，加速企业业务迭代...
Designer中GPU服务器及对应算法组件下线
Designer中GPU服务器及对应算法组件下线，后续可使用云原生版本 停止服务内容 因当前提供服务的V100、P100服务器集群即将过保，PAI将在2024年3月1日正式下线Designer中的TensorFlow(GPU)、MXNet、PyTorch算法组件。您后续可继续使用云原生...
Tesla或GRID驱动安装指引
GPU实例本身并未配备相关驱动，只有安装了驱动的GPU实例，才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动，...如果GPU实例安装驱动后，在使用过程中遇到黑屏或其他问题，请参见 GPU云服务器常见问题。
神行工具包（DeepGPU）计费
使用神行工具包（DeepGPU）本身不需要额外支付费用，您只需要为执行计算任务过程中使用的阿里云资源（例如云服务器ECS或文件存储NAS）进行付费。神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch ...
解绑辅助弹性网卡
如果您的实例不需要绑定辅助弹性网卡，您可以解绑辅助弹性网卡。本文介绍如何解绑辅助弹性网卡。...相关文档 您可以对 待绑定 状态的弹性网卡执行以下操作：绑定辅助弹性网卡 删除辅助弹性网卡 修改弹性网卡属性 修改弹性网卡标签
GPU云服务器常见问题
为了有效排查和解决GPU云服务器的相关问题，本文为您汇总了使用GPU时遇到的一些常见问题。类别 相关问题 功能问题 为什么Windows操作系统不支持DirectX等功能？GPU实例支持安卓模拟器吗？我能变更GPU实例的配置吗？按量付费GPU实例支持节省...
EcsSpec
名称 类型 描述 示例值 object ECS 规格 InstanceType string 规格类型 ecs.gn6e-c12g1.3xlarge AcceleratorType string 加速器类型 GPU Cpu integer cpu 数量 12 Gpu integer gpu 数量 1 GpuType string gpu 类型 NVIDIA v100 Memory ...
GPU云服务器计费
GPU云服务器计费相关功能与云服务器ECS一致，本文为您介绍GPU云服务器涉及的计费项、计费方式、续费和退费说明等。计费项及其计费方式 一台GPU实例包括计算资源（vCPU、内存和GPU）、镜像、块存储等资源，其中涉及计费的GPU资源如下表所示...
基本概念
本文汇总使用GPU云服务器过程中涉及的基本概念，方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器（Graphics Processing Unit）。相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA ...
DescribeNetworkInterfaces-查看网卡列表
10.XXX.XXX.5 Type string 否 弹性网卡类型。取值范围：Primary：主网卡。Secondary：辅助网卡。默认值：空，表示查询所有类型。Secondary NetworkInterfaceName string 否 弹性网卡的名称。test-01 Status string 否 弹性网卡的状态。取值...
DescribeNetworkInterfaceAttribute-查询网卡属性
vpc-bp67acfmxazb4p*Type string 弹性网卡类型。可能值：Primary：主网卡。Secondary：辅助弹性网卡。Secondary Status string 弹性网卡的状态。可能值：Available：可用。Attaching：附加中。InUse：已附加。Detaching：分离中。Deleting...
在使用阿里云服务的过程中我应该避免哪些操作？
2)云服务器禁止更改网卡的MAC地址 云服务器禁止更改网卡mac地址。因服务器IP跟MAC地址都是固定的，底层对IP和MAC地址做了绑定，请不要随意更改主机MAC地址，更改以后会导致服务器网络出现异常。3)Linux系统不支持开启SELINUX服务 linux系统...
DescribeNetworkInterfaces-查看弹性网卡（ENI）列表
test-eni-name Type string 否 弹性网卡类型。取值范围：Primary：主网卡。Secondary：辅助网卡。默认值：空，表示查询所有类型。Secondary InstanceId string 否 弹性网卡当前附加的实例 ID。i-bp1e2l6djkndyuli*ServiceManaged boolean ...
命令行使用说明
您可以通过FastGPU的命令行，快速地部署云上GPU集群，管理资源的生命周期。还可以便捷地为集群安装深度学习环境，在集群运行代码，查看运行日志以及释放资源。前提条件 客户端已安装Python 3.6或以上版本。说明 您的ECS实例、本地机器、...
修改服务器名称
轻量应用服务器支持手动修改服务器的名称，便于您区分和管理不同的服务器。本文介绍如何修改服务器名称。操作步骤 登录 轻量应用服务器管理控制台。在左侧导航栏，单击 服务器。将鼠标悬浮在服务器卡片中的服务器名称上，单击 图标。说明 ...
连接方式概述
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的连接方式。ECS支持通过多种方式连接实例，包括阿里云提供的连接工具（例如Workbench、VNC等）和第三方客户端工具。您可以综合考虑目标实例的操作系统、本地设备的操作系统、...
管理后端资源
背景信息 支持绑定的后端资源类型 后端资源类型 说明 使用场景 传统型负载均衡CLB实例 依据转发策略可将访问流量分发到后端多台云服务器（ECS实例）。仅提供被动访问公网的能力。适用于访问量较高且对可靠性有一定要求的场景。Anycast EIP...
启动实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何在ECS管理控制台上启动实例。前提条件 实例满足以下条件之一：实例处于 已停止 状态。按量付费实例处于 已过期 状态，您已经结清欠费账单但自动重开机...
管理灵骏网卡
以下代码示例以主网卡bond0为例演示操作，请根据您的实际需求修改网卡标识符。登录灵骏节点实例，登录方式请参见 使用灵骏集群服务。通过以下方式查询子网掩码和默认网关。使用 ipconfig 命令查询子网掩码，并使用 route-n 命令查询默认...
安全组规则
安全组规则是您自定义的访问控制规则，用于控制安全组内ECS实例的出入站流量，可以实现对云资源的访问控制和网络安全防护。使用安全组规则时，您应了解以下信息：在VPC网络下，安全组规则分为入方向和出方向，规则同时控制公网和内网流量。...
ListElasticNetworkInterfaces-查询灵骏弹性网卡列表
Available Ip string IP 地址 10.0.0.13 VpcId string 专有网络 ID vpc-f8ziirfl9k25h2qn7*VSwitchId string 交换机 ID vsw-uf6u8473r84e9*Message string 错误信息 成功 Mac string mac 地址 E0:01:A6:4A:6A:D0 Type string 网卡类型，...
GetElasticNetworkInterface-获取灵骏弹性网卡详情
Available Ip string 弹性网卡 IP 203.107.*VpcId string 云上 VPC ID vpc-j6ctp4n75306*VSwitchId string 交换机 ID vsw-uf6u8473r84e9*Message string 错误信息 成功 Mac string mac 地址 00:22:6D:97:*:*Type string 网卡类型 枚举值：...
NLB服务器组概述
添加云服务器作为后端服务 IP类型 该类型服务器组支持添加IP地址作为后端服务。添加的IP地址不限于当前服务器组所在的VPC网段内，支持添加跨地域、跨VPC或本地IDC服务器的IP地址。IP地址作为后端服务，接收来自 NLB 转发的请求。添加当前...
使用GPU拓扑感知调度（Pytorch版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
Linux系统的ECS实例中缺少默认路由配置导致无法访问...
问题描述 在阿里云Linux系统的ECS实例中，访问部分或者全部的非本实例的网络地址，提示“Network is unreachable”错误。排查方法 ECS实例无法访问部分网络或者非本实例的网络的排查方法如下：执行以下命令，通过 curl 命令访问 ...
ECS安全组实践（安全组授权）
本文从授权和撤销安全组规则、加入和移出安全组讲解云服务器ECS的安全组最佳实践。网络类型 阿里云的网络类型分为经典网络和专有网络VPC，对安全组支持不同的设置规则：如果是经典网络，您可以设置内网入方向、内网出方向、公网入方向和...
查看服务器操作记录
您可以在操作记录页面查看轻量应用服务器的历史操作记录，包括启动服务器、停止服务器、重启服务器、修改服务器密码、重置系统等，便于您对历史操作进行分析和回溯。本文介绍如何查看轻量应用服务器的操作记录。操作步骤 登录 轻量应用...
如何查看服务器类型？
在服务器安装证书之前，您需要先了解服务器的类型，然后按照服务器类型选择对应的安装方式。本文介绍如何查看服务器类型。方式一：使用浏览器开发者工具查看服务器类型 使用浏览器访问您的域名。按F12，打开开发者工具，按照下图指引查看...
什么是AI通信加速库DeepNCCL
DeepNCCL是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信...相关文档 针对分布式训练或者多卡推理中的AI通信场景，在不同的GPU云服务器上安装DeepNCCL通信库，可以加速分布式训练或推理性能。具体操作，请参见 安装并使用Deepnccl。
功能特性
轻量应用服务器 轻量应用服务器（Simple Application Server）是可以快速搭建且易于管理的轻量级云服务器，面向单台服务器提供了一键部署应用、一站式域名解析、安全管理以及运维监控等服务。轻量应用服务器操作简单便捷，能让您快速上手...
使用GPU拓扑感知调度（Tensorflow版）
前提条件 已创建ACK Pro集群，且集群的实例规格类型选择为 GPU云服务器。更多信息，请参见 创建Kubernetes托管版集群。已安装 Arena。已安装GPU拓扑感知调度组件。系统组件版本满足以下要求。组件 版本要求 Kubernetes 1.18.8及以上版本 ...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
PAI-TF概述
警告 公共云GPU服务器即将过保下线，您可以继续提交CPU版本的TensorFlow任务。如需使用GPU进行模型训练，请前往DLC提交任务，具体操作请参见 创建训练任务。背景 TensorFlow是Google最新的开源深度学习计算框架，支持CNN、RNN及LSTM等多种...
网络安全
ALB（Application Load Balancer）交换机（vSwitch）中指定的ECS实例私网IP地址及目标端口 基础型 全球加速 实例 辅助网卡类型的弹性网卡 ENI（Elastic Network Interface）传统型负载均衡 CLB 云服务器 ECS 网络型负载均衡 NLB（Network ...
ALB服务器组概述
服务器组类型 后端服务器类型 说明 参考 服务器类型 该类型服务器组支持添加ECS、ENI、ECI实例作为后端服务。添加的云服务器需与服务器组所属同一VPC。云服务器作为后端服务，接收来自ALB转发的请求。关于ECS作为后端服务的教程，请参见：...
购买和管理基础带宽包
全球加速 实例：传统型负载均衡 CLB（原SLB）辅助网卡类型的弹性网卡 ENI 云服务器 ECS 网络型负载均衡 NLB 默认的加速区域和后端服务区域都位于中国内地 增强加速带宽 加速部署在阿里云上的应用 加速部署在非阿里云的应用 标准型 全球加速...
AuthorizeSecurityGroup-增加安全组入方向规则
经典网络类型安全组的网卡类型（NicType）可设置为公网（internet）或内网（intranet）。如以下请求示例：IpProtocol、PortRange、（可选）SourcePortRange、NicType、Policy 和 SourceCidrIp。http(s):/ecs.aliyuncs....
CreateLaunchTemplate-创建实例启动模板
10 HostName string 否 云服务器的主机名。半角句号（.）和短划线（-）不能作为首尾字符，更不能连续使用。Windows 实例：字符长度为 2~15，不支持半角句号（.），不能全是数字。允许大小写英文字母、数字和短划线（-）。其他类型实例...
ResourceAmount
名称 类型 描述 示例值 object 资源量 CPU string CPU 总量 100 Memory string Memory 总量 100Gi GPU string GPU 卡总量 16 GPUType string GPU 卡类型 GPU
- 产品推荐
- 这些文档可能帮助您