SLB负载均衡主备服务器组添加多个可用区资源
SLB负载均衡的主备服务器组挂载资源分布在多个可用区，视为“合规”。应用场景 主备服务器组挂载资源分布在多个可用区资源可以提高系统的容灾能力，减少业务中断风险。风险等级 默认风险等级：中风险。当您使用该规则时，可以按照实际需求...
创建GPU集群
NVIDIA GPU设备多用于科学计算、图形渲染等场景，为这些计算应用提供加速计算能力。容器服务 Kubernetes 版支持对各种型号的计算型GPU资源进行统一调度和运维管理，能够显著提高GPU集群资源的使用效率。本文介绍如何创建GPU集群及查看节点...
创建防护策略
说明 选择资产时，阿里云服务器支持单个策略内配置多个地域的服务器，非阿里云服务器仅支持单个策略中配置同一地域的服务器。为保证您的防护容量得到合理和有效地利用，每台服务器只支持添加到一条防护策略中。在 创建防护策略 面板，设置...
创建和管理服务器组
前提条件 在向服务器组添加云服务器ECS（Elastic Compute Service）实例前，确保您已创建了ECS实例并部署了相关应用，用来接收转发的请求，关于如何创建ECS实例和部署应用服务，请参见 自定义购买实例 和 手动部署LNMP环境（Alibaba Cloud ...
应用场景
云服务器ECS具有广泛的应用场景，既可以作为Web服务器或者应用服务器单独使用，又可以与其他阿里云服务集成提供丰富的解决方案。说明 云服务器ECS的典型应用场景包括但不限于本文描述，您可以在使用云服务器ECS的同时发现云计算带来的技术...
通过Docker安装并使用cGPU服务
cGPU服务可以隔离GPU资源，实现多个容器共用一张GPU卡。该服务作为阿里云容器服务Kubernetes版ACK（Container Service for Kubernetes）的组件对外提供服务，本文介绍如何通过Docker安装并使用cGPU服务。前提条件 在进行本操作前，请确保...
创建弹性裸金属服务器实例
背景信息 创建弹性裸金属服务器实例和创建普通云服务器实例的步骤类似，本文仅介绍弹性裸金属特有的基本配置项，如果您想了解其他通用配置，请参见 自定义购买实例。操作步骤 登录 ECS管理控制台。在左侧导航栏，选择 实例与镜像>实例。...
轻量应用服务器中网站备案数量的上限
每个网站可以绑定多个域名。例如，您备案了两个网站，第一个网站绑定域名为 aliyundoc.com ，第二个网站绑定域名 example.com ,example.org。备案审核通过后，可以使用每个绑定的域名正常访问网站。注意：假如第二个网站绑定了多个域名，您...
创建和管理主备服务器组
您可在云服务器的 操作 列单击 添加端口，为云服务器添加多个端口。在 创建主备服务器组 页面，在云服务器的 机器类型 列选择一台服务器作为主服务器。单击 创建，然后在弹出的对话框中单击 确定。七层监听不支持转发流量至主备服务器组。...
创建用户自定义标识机器组
一个服务器可配置多个用户自定义标识，标识之间以换行符分割。如果目录/etc/ilogtail/、C:\LogtailData 或文件/etc/ilogtail/user_defined_id、C:\LogtailData\user_defined_id 不存在，请手动创建。Linux服务器 在/etc/ilogtail/user_...
与云服务器ECS对比
如果您需要使用更丰富的实例类型，如通用型、计算型、大数据型、弹性裸金属服务器、GPU/FPGA/NPU异构计算型等，支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景，请使用云服务器ECS产品。关于云服务器ECS的更多实例...
修改服务器名称
轻量应用服务器支持手动修改服务器的名称，便于您区分和管理不同的服务器。本文介绍如何修改服务器名称。操作步骤 登录 轻量应用服务器管理控制台。在左侧导航栏，单击 服务器。将鼠标悬浮在服务器卡片中的服务器名称上，单击 图标。说明 ...
异构计算集群概述
阿里云自研的GPU共享调度将多个模型推理应用运行在同一个GPU上，能够显著降低成本。通过阿里云自研cGPU方案，在无需修改应用容器的前提下，提供GPU显存和算力的隔离能力，提高应用的稳定性。支持的GPU设备分配策略如下，更多信息，请参见 ...
轻量应用负载均衡概述
后端实例：一个或多个轻量应用服务器。轻量应用负载均衡只能添加轻量应用服务器作为后端实例，后端实例用于接收并处理轻量应用负载均衡分发的业务请求。健康检查：在绑定后端实例时，负载均衡会自动检查后端实例的业务可用性。如果检测到后...
准实时推理场景
场景介绍 在准实时推理应用场景中，工作负载具有以下一个或多个特征。调用稀疏 日均调用几次到几万次，日均GPU实际使用时长远低于8~12小时，GPU存在大量闲置。单次处理耗时长 准实时推理业务的处理耗时一般在秒级~分钟级。例如，典型的CV...
为伸缩组添加和移除负载均衡实例
说明 加入传统型负载均衡CLB（原SLB）的实例权重默认为50，您可以根据需要在对应负载均衡实例中调整权重，具体操作，请参见 在默认服务器组添加和管理云服务器。CLB实例概述 监听（Listeners）用来检查客户端请求并将请求转发给后端服务器...
指定GPU规格创建实例
默认情况下，多个容器可以共享使用GPU，配置时需确保单个容器内配置的GPU个数不超过指定的GPU规格所具备的GPU个数。OpenAPI 调用CreateContainerGroup接口创建ECI实例时，在通过InstanceType参数指定ECS GPU实例规格的基础上，必须通过容器...
异构服务型
云服务器ECS异构服务型实例video-trans适用于视频转码、图像与视频内容处理以及帧图像提取等场景。通过本文您可以具体了解该实例的特点以及包含的实例规格和指标数据等。video-trans特点 提供专属硬件资源和物理隔离 高密度转码，例如显示...
ALB服务器组概述
每个服务器组均用于将客户端的请求路由至一个或多个后端服务器。ALB会通过健康检查来判断后端服务器的业务可用性。在为ALB实例添加监听时您需要指定服务器组，监听会使用已配置的协议和端口检查客户端的连接请求，并将流量转发至相应的...
创建统一接入集群
统一接入集群承担统一接入和单元化网关的角色，在每个 K8s 集群内统一接入集群平行发布运维，多个平行的统一接入集群联合成一个联邦接入集群，是一个逻辑的集群实体。统一接入网关以集群的方式来承载业务负载均衡的流量，您需要根据流量的...
准实时推理场景
场景介绍 在准实时推理应用场景中，工作负载具有以下一个或多个特征。调用稀疏 日均调用几次到几万次，日均GPU实际使用时长远低于8~12小时，GPU存在大量闲置。单次处理耗时长 准实时推理业务的处理耗时一般在秒级~分钟级。例如，典型的CV...
重启实例
GPU实例作为云服务器ECS的一类实例规格，保持了与ECS实例相同的管理操作。本文介绍如何通过控制台重启实例。前提条件 待重启的实例必须处于 运行中 状态。背景信息 重启操作是维护云服务器的一种常用方式，如系统更新、重启保存相关配置等...
API概览
DescribeCloudAssistantStatus 查询云助手安装状态 查询轻量云服务器是否安装云助手。DescribeInvocationResult 查询单个命令的执行结果 查询单个命令的执行结果。RunCommand 执行命令 在轻量应用服务器上执行命令。DescribeInvocations ...
负载均衡调度算法介绍
同时由于算法只能统计到负载均衡服务与后端服务器之间的连接，后端服务器整体连接数无法获取，因此对于后端服务器挂载到多个负载均衡实例的场景，也可能导致负载分配不均衡。新增后端服务器时可能导致新服务器瞬间压力过大：如果存量的连接...
查看服务器信息
当您创建服务器后，可以通过管理控制台查看服务器的资源配置、到期时间、资源使用情况等详细信息。本文介绍如何通过管理控制台查看服务器的相关信息，并提供示例操作供您参考。背景信息 在管理控制台的不同界面，查看到的服务器信息也有所...
API概览
UnbindAegis 解除云安全中心绑定的非阿里云服务器 解除云安全中心绑定的非阿里云服务器。DescribeAgentInstallStatus 查询Agent安装状态 通过云助手执行Agent安装命令后，查询Agent安装状态。该接口仅支持查询2分钟内发起安装的安装状态。...
GPU调度概述
共享GPU调度 阿里云容器服务Kubernetes版ACK（Container Service for Kubernetes）开源了GPU共享调度之后，您能在阿里云、AWS、GCE和自己数据中心的容器集群上通过GPU共享调度框架实现多个容器运行在同一个GPU设备上的目标。ACK开源GPU共享...
NLB服务器组概述
每个服务器组均用于将客户端的请求路由到一个或多个后端服务器。NLB会通过健康检查来判断后端服务器的业务可用性。在为NLB实例添加监听时您需要指定服务器组，监听会使用已配置的协议和端口检查客户端的连接请求，并将流量转发至相应的...
快速搭建AI对话机器人
本文介绍如何使用阿里云GPU云服务器，基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型，它基于General Language Model（GLM）架构，具有62亿参数；并使用了和ChatGPT相似的技术...
产品优势
使用EAIS实例：您只需要购买如下计算资源：产品 实例规格 指标数据 云服务器ECS ecs.r6.6xlarge 24 vCPU 192 GiB 弹性计算加速实例EAIS eais.ei-a6.4xlarge 16 TFLOPS/FP32，32 GB/显存 综上所述，如果您购买GPU实例，则只能在已有的固定...
查看实例监控信息
通过查看轻量级应用服务器实例的流量、vCPU、内存和磁盘（系统盘）等监控信息，您可以及时了解服务器相关资源的使用情况，从而提高运维效率。操作步骤 您可以根据实际需求，选择通过轻量应用服务器控制台和云监控控制台查看实例监控信息。...
实例命名规则
命名规则 阿里云云服务器ECS提供了多种实例规格族，一种实例规格族又包括多个实例规格。其中，实例规格族名称格式为 ecs.<规格族>，实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示：ecs：云服务器ECS的产品代号。规格...
搭建LAMP开发环境（通过应用镜像）
全新创建服务器 如果您还没创建轻量应用服务器，建议您直接选择包含LAMP环境的应用镜像快速创建服务器。登录 轻量应用服务器管理控制台。在左侧导航栏，单击 服务器。在页面左上角，单击 创建服务器。在轻量应用服务器售卖页，完成资源配置...
使用VNC登录实例
无法使用Workbench和第三方远程连接工具（例如PuTTY、Xshell、SecureCRT等）连接实例时，您可以通过VNC远程连接方式登录实例，查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起，远程连接工具VNC无需单独设置VNC登录密码，即可...
服务器迁移指引
服务器迁移中心SMC（Server Migration Center）是阿里云自主研发的迁移平台，可将您的单台或多台源服务器迁移至阿里云上。SMC概述 服务器迁移中心SMC（Server Migration Center）能够将单台或多台源服务器迁移至阿里云上。源服务器包括IDC...
安装CUDA
如果您想要在GPU云服务器上进行GPU加速计算任务（例如科学计算或大规模并行计算等），则需要安装CUDA开发运行环境。CUDA提供了一整套工具和库，可以帮助您进行GPU加速的程序开发，以充分发挥NVIDIA GPU的计算潜力，提高计算性能和加速运行...
上传文件到轻量应用服务器
如果选择多个实例，将会上传同一文件至多个轻量应用服务器实例。单击 发送。在 文件发送结果 页签下，查看执行结果。查看文件发送结果 登录 轻量应用服务器管理控制台。在左侧导航栏，单击 命令助手。单击 文件发送结果 页签。在列表中查看...
什么是云服务器ECS
云服务器ECS（Elastic Compute Service）是阿里云提供的性能卓越、稳定可靠、弹性扩展的IaaS（Infrastructure as a Service）级别云计算服务。云服务器ECS免去了您采购IT硬件的前期准备，让您像使用水、电、天然气等公共资源一样便捷、高效...
使用FastGPU加速AI训练/推理
选用的产品列表 产品名称 说明 GPU云服务器 该服务提供了GPU算力的弹性计算服务，具有超强的计算能力，可有效缓解计算压力，提升您的业务效率，帮助您提高企业竞争力。对象存储OSS 是一款海量、安全、低成本、高可靠的云存储服务，多种存储...
为ECI实例配置负载均衡
准备工作 创建多个ECI实例。此处以创建两个运行Nginx服务的ECI实例为例，创建时请开启日志收集。具体操作，请参见 使用Nginx镜像创建ECI实例。创建CLB实例。创建一个具备公网能力的CLB实例。具体操作，请参见 创建CLB实例。说明 本文以CLB...
- 产品推荐
- 这些文档可能帮助您