什么是推理引擎DeepGPU-LLM

DeepGPU-LLM是阿里研发的基于GPU云服务器的大语言模型(Large Language Model,LLM)推理引擎,在处理大语言模型任务中,该推理引擎可以为您提供高性能的大模型推理服务。产品简介 DeepGPU-LLM作为阿里开发的一套推理引擎,具有易用性...

已停售的GPU实例规格

实例规格 vCPU 内存(GiB)GPU GPU显存 网络带宽(Gbit/s)网络收发包PPS 多队列(主网卡/辅网卡)弹性网卡 单网卡私有IP ecs.vgn6i-m4.xlarge 4 23 NVIDIA T4*1/4 16GB*1/4 2 50万 4/2 3 10 ecs.vgn6i-m8.2xlarge 10 46 NVIDIA T4*1/2 16...

基本概念

本文汇总使用GPU云服务器过程中涉及的基本概念,方便您查询和了解相关概念。GPU云服务器相关概念 概念 说明 GPU 图形处理器(Graphics Processing Unit)。相比CPU具有众多计算单元和更多的流水线,适合用于大规模并行计算等场景。CUDA ...

DeleteCustomImages-批量删除镜像

如果您在云服务器 ECS 中还需要使用该镜像,建议您在删除自定义镜像前,先复制镜像。具体操作,请参见 复制镜像。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码...

ImageItem

名称 类型 描述 示例值 object Docker Image 详情 ImageTag string Docker 镜像的 Tag tensorflow-training:2.3-cpu-py36-ubuntu18.04 ImageUrl string 镜像 URL 地址 registry....URL 的阿里 VPC 地址,访问速度更快。...

自定义镜像概述

导入镜像 更新镜像 基于 系统运维管理 OOS(CloudOps Orchestration Service)一键更新镜像,更新云服务器ECS实例内部的软件、配置等。更新自定义镜像 复制镜像 通过复制镜像跨地域部署ECS实例、同地域或者跨地域变更加密镜像与非加密镜像...

部署GPU云服务器

请按照标签顺序依次点击 新建>新建空白应用,构建如下图所示的包含GPU云服务器实例的应用架构:本文所选地域为 华北2(北京)可用区H。双击GPU实例,配置相关参数。参考 创建GPU实例,选择对应的实例规格、镜像及版本。需要修改自定义登录...

如何在轻量应用服务器安装应用或软件

概述 本文主要介绍如何在轻量应用服务器安装应用或软件。详细信息 阿里提醒您:如果您对实例或数据有修改、变更等风险操作,务必注意实例的容灾、容错能力,确保数据安全。如果您对实例(包括但不限于ECS、RDS)等进行配置与数据修改,...

接入Nvidia GPU监控数据

Nvidia GPU服务器中提供多项监控指标,您可以将Nvidia GPU服务器中的监控指标接入到全栈可观测应用中,进行可视化展示。前提条件 已创建实例。具体操作,请参见 创建实例。步骤一:安装NVIDIA GPU驱动 日志服务 使用 nvidia-smi 命令采集...

安装客户端

使用默认命令 安全中心为阿里云服务器外主机提供了默认安装命令,您可以按照服务器操作系统类型复制对应的默认安装命令,使用管理员账号在服务器中执行该命令安装客户端。说明 使用默认安装命令安装服务器分组为未分组,您可以在...

ListCustomImages-查询一个或多个自定义镜像信息

查询指定地域下一个或多个已创建的自定义镜像信息。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称...

导入自定义镜像

上部署业务时,您可以通过阿里ECS控制台导入本地镜像文件,也可以通过服务器迁移中心SMC自动为您的服务器生成ECS镜像。本文介绍这两种方法的应用场景和操作步骤。前提条件 通过ECS控制台导入镜像前,请您确认已完成以下操作:阿里...

什么是镜像构建服务(ImageBuilder)

镜像构建服务(ImageBuilder)是阿里提供的一站式镜像定制、构建、维护、验证、共享、分发服务。镜像构建服务的主要功能是镜像模板,您可以通过镜像模板完成镜像的定制、分发、共享等操作,实现镜像内应用的更新与回滚。本文介绍镜像构建...

创建自定义镜像

创建完成的自定义镜像可用于共享到云服务器ECS或者创建相同配置的轻量应用服务器。前提条件 您已创建了一份轻量应用服务器的系统盘快照。具体操作,请参见 管理快照。说明 如果您创建自定义镜像时需要服务器的数据盘数据,请先创建一份...

使用自定义镜像创建服务器

您可以通过已配置好的自定义镜像,创建一台或多台相同或更高配置的轻量应用服务器。前提条件 已创建自定义镜像。具体操作,请参见 创建自定义镜像。注意事项 您在操作前,请阅读以下注意事项:创建的轻量应用服务器仅支持使用相同地域下的...

使用自定义镜像创建轻量应用服务器失败

本文主要介绍使用自定义镜像创建轻量应用服务器失败的问题描述、问题原因及其解决方案。问题描述 在轻量应用控制台中,使用自定义镜像创建服务器失败。问题原因 不符合重置镜像的条件或者删除自定义镜像相关的资源。解决方案 检查是否满足...

使用VNC登录实例

无法使用Workbench和第三方远程连接工具(例如PuTTY、Xshell、SecureCRT等)连接实例时,您可以通过VNC远程连接方式登录实例,查看云服务器ECS操作界面的实时状态。重要 自2023年7月10日起,远程连接工具VNC无需单独设置VNC登录密码,即可...

轻量应用服务器之间的数据迁移

迁移场景 源服务器配置说明 目标服务器配置说明 同地域迁移轻量应用服务器 服务器名称:轻量应用服务器A 地域:华北2(北京)镜像:LAMP 7.4应用镜像 防火墙:已放行80、443、22端口 应用程序:默认已在轻量应用服务器A的网站根目录/data/...

新手指引

什么是轻量应用服务器 轻量应用服务器的产品优势 轻量应用服务器的应用场景 轻量应用服务器支持的镜像 轻量应用服务器的使用限制 轻量应用服务器云服务器ECS对比 快速使用流程 轻量应用服务器快速使用流程如下图所示。准备工作 您需注册...

Tesla或GRID驱动安装指引

GPU实例本身并未配备相关驱动,只有安装了驱动的GPU实例,才能实现计算加速或图形渲染等功能。根据不同GPU实例规格安装与之匹配的Tesla或GRID驱动,...如果GPU实例安装驱动后,在使用过程中遇到黑屏或其他问题,请参见 GPU云服务器常见问题。

常见问题

阿里云云安全中心结合阿里云云计算平台强大的数据分析能力,为您提供一站式安全服务,例如安全漏洞检测、网页木马检测、面向云服务器用户提供的主机入侵检测和防御DDoS流量攻击等。更多安全服务,请查看 安全产品 页面。如何检测服务器是否...

如何为Linux服务器安装GRUB?

通过服务器迁移中心SMC迁移Linux源服务器时,若Linux源服务器安装GRUB、系统版本较低(如CentOS 5和Debian 7)、自带的系统引导程序GRUB(GRand Unified Bootloader)版本低于2.02,日志文件提示Do Grub Failed时,您需要安装GRUB的2.02...

GPU实例上使用RAPIDS加速图像搜索任务

本文以使用RAPIDS加速图像搜索任务为例,介绍如何在预装镜像GPU实例上使用RAPIDS加速库。前提条件 使用本教程进行操作前,请确保您已经注册了阿里账号。如还未注册,请先完成 账号注册。背景信息 RAPIDS(全称Real-time Acceleration ...

重置轻量应用服务器的密码后未生效

不同操作系统的服务器管理员用户名信息不同,具体说明如下:Linux系统:服务器管理员用户名为 root。Windows系统:服务器管理员用户名为 Administrator。解决方案 您可以根据实际情况,参考以下操作排查。如果需要进行数据变更或重启实例等...

云服务器ECS对比

如果您需要使用更丰富的实例类型,如通用型、计算型、大数据型、弹性裸金属服务器GPU/FPGA/NPU异构计算型等,支持高并发网站、视频编解码、大型游戏、复杂分布式集群应用等业务场景,请使用云服务器ECS产品。关于云服务器ECS的更多实例...

自定义镜像概述

自定义镜像生命周期 当您通过服务器快照创建完成自定义镜像后,可以将镜像共享至云服务器ECS、将镜像复制到其他地域或者使用该镜像创建轻量应用服务器。当您不再需要该镜像时,可以将镜像删除。自定义镜像的生命周期如下所示:计费 轻量...

安装virtio驱动

为避免部分服务器、虚拟机或者主机的操作系统在导入镜像文件后,创建的ECS实例无法启动,您需要在导入镜像文件前在源服务器安装virtio驱动。您可以按照本文操作通过安装包为Windows系统安装virtio驱动。操作步骤 在源服务器上下载阿里...

镜像商品的版本管理

可以不做设置,不设置代表该镜像运行可以支持1核及以上GPU云服务器 内存配置 不做设置 0.5 GiB – 1024 GiB 可以不做设置,不设置代表该镜像部署和运行可以支持0.5GiB及以上内存的云服务器 VPC专有网络是否支持多网卡 支持 支持和不支持...

镜像介绍

阿里轻量应用服务器主要提供三种镜像:应用镜像、系统镜像和自定义镜像,在创建轻量应用服务器时,您可根据实际需求,选择对应的镜像。本文为您介绍轻量应用服务器支持镜像的类型及其具体镜像名称、镜像版本等信息。镜像类型 阿里轻量...

实例命名规则

命名规则 阿里云云服务器ECS提供了多种实例规格族,一种实例规格族又包括多个实例规格。其中,实例规格族名称格式为 ecs.<规格族>,实例规格名称为 ecs.<规格族>.<nx>large。实例具体命名含义如下所示:ecs:云服务器ECS的产品代号。规格...

无法远程连接Windows实例的排查方法

异常一:服务器侧自签名证书损坏 本地客户端如果是Windows 7以上版本的系统,会尝试与云服务器ECS建立TLS连接。若云服务器ECS侧用于TLS连接的自签名证书损坏,则会导致远程连接失败。使用VNC方式登录Windows实例。具体操作,请参见 通过...

Apache配置多域名访问不同网站

轻量应用服务器的LAMP应用镜像不同版本中的网站根目录也不同,具体说明如下:LAMP 7.4应用镜像默认的网站根目录为/data/wwwroot/default。LAMP 6.1.0应用镜像默认的网站根目录为/home/www/htdocs 。本示例选用的是LAMP 7.4应用镜像,因此...

删除自定义镜像

如果您不再需要某个自定义镜像,可以将其删除。背景信息 警告 自定义镜像被删除后,使用该...如果您在云服务器ECS中还需要使用该镜像,建议您在删除自定义镜像前,先复制镜像。具体操作,请参见 在ECS控制台复制轻量应用服务器共享的镜像

应用场景

云服务器ECS具有广泛的应用场景,既可以作为Web服务器或者应用服务器单独使用,又可以与其他阿里云服务集成提供丰富的解决方案。说明 云服务器ECS的典型应用场景包括但不限于本文描述,您可以在使用云服务器ECS的同时发现计算带来的技术...

什么是云服务器ECS

云服务器ECS(Elastic Compute Service)是阿里提供的性能卓越、稳定可靠、弹性扩展的IaaS(Infrastructure as a Service)级别计算服务。云服务器ECS免去了您采购IT硬件的前期准备,让您像使用水、电、天然气等公共资源一样便捷、高效...

远程连接非中国内地的轻量应用服务器提示连接超时

本文介绍远程连接非中国内地的轻量应用服务器提示连接超时的问题描述、问题原因及其解决方案。问题描述 通过远程连接登录非中国内地的阿里轻量应用服务器失败,并提示连接超时。问题原因 如果您在中国内地访问其他国家和地区地域下的轻量...

快速搭建AI对话机器人

本文介绍如何使用阿里云GPU云服务器,基于ChatGLM-6B语言模型快速搭建AI对话机器人。背景信息 ChatGLM-6B是一个开源的、支持中英双语对话的语言模型,它基于General Language Model(GLM)架构,具有62亿参数;并使用了和ChatGPT相似的技术...

Windows Server实例远程连接数以及License授权服务器...

免责声明:本文档可能包含第三方产品信息,该信息仅供参考。阿里对第三方产品的性能、可靠性以及操作可能带来的潜在影响,不做任何暗示或其他形式的承诺。概述 本文介绍在Windows Server实例中,远程桌面连接数以及...适用于 云服务器 ECS

重置系统

远程连接服务器安装:具体操作,请参见 安装和卸载监控插件。使用命令助手安装:具体操作,请参见 使用命令助手,安装监控的命令,您可以从 使用命令助手 文档的常用命令中获取。重置系统两种方式简介:重置当前系统:不改变当前镜像,...

通过阿里客户端管理托管实例

您可以在本地安装阿里客户端来便捷地对云服务器ECS、弹性容器实例ECI、轻量应用服务器和阿里托管实例进行浏览查询、远程连接等。本文为您介绍如何通过阿里客户端管理托管实例,主要包括查看和连接托管实例、注册新实例、注销托管实例...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
GPU云服务器 云服务器 ECS 轻量应用服务器 负载均衡 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用