负载均衡调度算法介绍
优点 灵活性：加权轮询算法可以根据服务器的性能和处理能力设置不同的权重，实现对不同服务器的灵活调度，使得性能较好的服务器能够处理更多的请求。均衡性：加权轮询算法仍然能够保持请求的均衡性，将请求按照权重进行分配，使得各个...
如何查看服务器日志
首先进入部署好的服务器。docker ps 查看所有镜像。进入到rpa-base镜像。docker exec-it 镜像CONTAINER ID/bin/bash 执行cd 切换到根目录 切换到rpa-base的logs文件夹下。cd rpa-base/logs/此路径下，无日期为今日日志，有日期为日期日志。...
通过NLB实现TCPSSL卸载（单向认证）
配置 说明 选择服务器组 选择此前已创建好的服务器组。在 配置审核 页面，检查配置参数是否有误，无误的话单击 提交，等待监听创建完成。步骤三：配置域名解析 登录 网络型负载均衡NLB控制台。在顶部菜单栏选择地域。选择要进行域名解析的...
使用ALB实现gRPC协议的负载均衡
配置 说明 选择服务器组 选择此前已创建好的gRPC服务器组。在 配置审核 页面，检查配置参数是否有误，无误的话单击 提交，等待监听创建完成。步骤三：配置域名解析 登录 应用型负载均衡ALB控制台。在顶部菜单栏选择地域。选择要进行域名...
EasyRec Processor（推荐打分服务）
EAS 内置的EasyRec Processor支持将EasyRec或TensorFlow训练的推荐模型部署为打分服务，并具备集成特征工程的能力。通过联合优化特征工程和TensorFlow模型，EasyRec Processor能够实现高性能的打分服务。本文为您介绍如何部署及调用EasyRec...
在文件存储 HDFS 版上使用TensorFlow
已根据目前使用的TensorFlow版本下载 源码。本文使用的TensorFlow版本为1.15.0。背景信息 TensorFlow是一个采用数据流图（data flow graphs），用于数值计算的开源软件库。说明 由于TensorFlow对文件系统的schema有特别的指定，因此在 文件...
提交命令
STRING 是 ps_spec 否 TensorFlow Parameter Server节点使用的服务器型号，默认值为空。STRING 是 worker_image 否 TensorFlow Worker节点的镜像，默认值为空。STRING 是 worker_spec 否 TensorFlow Worker节点使用的服务器型号，默认值为...
在GPU实例上部署NGC环境
NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习生态系统，方便您...docker commit-m"commit docker"CONTAINER_ID nvcr.io/nvidia/tensorflow:20.01-tf1-py3 重要 请您妥善保存修改后的TensorFlow镜像，否则会导致下次登录时配置丢失。
Windows IDC调研工具下载及使用
运行环境准备 Windows IDC 调研工具（简称 win-scanner）需要安装和运行在工具服务器上，最佳的工具服务器应该是传统运维系统中的跳板机，工具服务器与其他被调研服务器需要在同一网络域下。工具服务器操作系统要求为主流 Windows Server ...
一机一密概述
用户应用服务器将申请好的设备访问凭证下发给对应的MQTT客户端。MQTT客户端按照规范将设备访问凭证中的信息作为参数设置，连接MQTT服务器，服务端验证通过后客户端即可正常收发消息。使用限制 实例规格约束 设备访问凭证的配额与实例规格中...
TensorFlow（仅对存量用户开放）
Data Science集群内置Python 3的Tensorflow 1.15.0版本，可以直接使用。其中Master节点只支持购买CPU资源计算TensorFlow作业，Core节点支持购买CPU或GPU资源计算TensorFlow作业。本文主要介绍如何查看TensorFlow的版本、切换TensorFlow版本...
创建TensorFlow任务
前提条件 Fleet实例默认已安装Training Operator的TensorFlow CRD，支持的TensorFlow CRD APIVersion为kubeflow.org/v1。Fleet实例管理员可以通过以下命令查看CRD。kubectl get crd tfjobs.kubeflow.org 如有定制需求，Fleet实例管理员可以...
管理第三方库
更新第三方库 一些第三方库不支持卸载，比如 tensorflow-gpu，只能使用更新命令安装固定版本的 tensorflow-gpu，且新版本必须与CUDA版本（预付费实例的CUDA版本为10，后付费实例的CUDA版本为9）兼容。您可以使用以下命令更新已安装的第三方...
Tensorflow
EAS 内置的Tensorflow Processor支持将Tensorflow标准的Savedmodel格式的模型部署成在线服务。本文为您介绍如何部署及调用Tensorflow模型服务。背景信息 对于Keras和Checkpoint模型，您需要先将其转换为Savedmodel模型，再进行部署，详情请...
步骤二：部署vSGX端
切换到使用的工作目录下，下载本实践所用的TensorFlow Serving脚本代码。git clone https://gitee.com/cloud_cc/confidential-computing.git export CC_DIR=$(realpath./confidential-computing)复制客户端的ssl_configure和models目录到...
提交Tensorflow训练任务和定时任务
历史记录数量：集群中会保留该定时任务创建Tensorflow训练任务数量，超过该数量，会自动删除创建时间最早的Tensorflow训练任务。在 任务资源配置 区域，配置模型训练的 实例数量 和 镜像，以及训练任务需要的 CPU（核数）（默认值为4）、...
安装Blade
您可以安装TensorFlow社区提供的包，安装命令如下：#GPU 版本的 Tensorflow pip3 install tensorflow-gpu=1.15.0#或者：pip3 install tensorflow-gpu=2.4.0#CPU 版本的 Tensorflow pip3 install tensorflow=1.15.0#或者 pip3 install ...
部署Tensorflow模型推理服务
kubectl apply-f Tensorflow.yaml 执行以下命令，启动名称为 bert-tfserving 的 tensorflow serving 实例。arena serve tensorflow \-name=bert-tfserving \-model-name=chnsenticorp \-gpus=1 \-image=tensorflow/serving:1.15.0-gpu \-...
示例代码
公网地址调用的TensorFlow示例（调用Caffe可以参考该示例，二者的输入输出一致）。VPC地址调用的TensorFlow示例（调用Caffe可以参考该示例，二者的输入输出一致）。服务调用Python SDK 服务调用的Python SDK封装了多线程连接池、请求数据...
预置Processor使用说明
TensorFlow1.15 Processor（内置PAI-Blade敏捷版优化引擎）EAS 提供的TensorFlow1.15 Processor可以加载SavedModel（推荐）或SessionBundle格式的TensorFlow模型。对于Keras和Checkpoint模型，需要先将其转换为SavedModel模型，再进行部署...
PAI官方镜像
官方镜像名称示例 镜像名称解读 各个产品支持使用的镜像类型 tensorflow:2.11-gpu-py39-cu112-ubuntu20.04 tensorflow:2.11：表示训练框架为2.11版本的TensorFlow。gpu：表示适用GPU类型的机型。py39：表示开发语言为3.9版本的Python。cu...
优化TensorFlow模型
已有训练完成的TensorFlow模型，本文使用一个公开的ResNet50模型。优化TensorFlow模型 本文以一个公开的ResNet50模型为例，演示如何优化TensorFlow模型。您也可以对自己的TensorFlow模型进行优化。导入PAI-Blade和其他依赖库。import os ...
搭建FTP服务器（Linux）
vsftpd（very secure FTP daemon）是Linux操作系统下的一款小巧轻快、安全易用的FTP服务器软件。本文介绍如何在Linux服务器中安装、配置vsftpd，并测试连接FTP服务器。前提条件 已创建Linux轻量应用服务器。具体操作，请参见 创建轻量应用...
使用Kubernetes默认GPU调度
本文以运行GPU的TensorFlow任务为例，介绍如何快速部署一个GPU应用。注意事项 针对纳入K8s集群管理的GPU节点，建议您按照本文示例中标准的K8s扩展资源申请方式为应用申请GPU资源。为业务应用申请和使用GPU资源时，请关注以下注意事项。请勿...
TensorFlow常见问题
本文为您介绍TensorFlow的相关问题。如何开通深度学习功能？如何支持多Python文件引用？如何上传数据到OSS？如何读取OSS数据？如何为OSS写入数据？为什么运行过程中出现OOM？TensorFlow有哪些案例？如何查看TensorFlow相关日志？配置两个...
使用救援连接Linux服务器
当您的Linux服务器因为修改SSH配置等其它原因导致无法远程连接时，可以通过管理控制台的救援功能临时登录服务器进行问题修复。背景信息 仅Linux服务器支持救援功能。选用以下镜像创建的服务器均为Linux服务器：Linux系统的应用镜像 CentOS...
步骤一：部署客户端
同时，客户端机器还将部署密钥提供服务，主要用来对阿里云vSGX实例进行认证，确保运行在云上的TensorFlow Serving推理服务应用的完整性及云上SGX环境的可行性。验证通过后，会将密钥发送给在阿里云vSGX实例中运行的TensorFlow Serving推理...
修改服务器名称
轻量应用服务器支持手动修改服务器的名称，便于您区分和管理不同的服务器。本文介绍如何修改服务器名称。操作步骤 登录 轻量应用服务器管理控制台。在左侧导航栏，单击 服务器。将鼠标悬浮在服务器卡片中的服务器名称上，单击 图标。说明 ...
远程连接Windows服务器
您可以通过轻量应用服务器管理控制台或本地Windows系统自带的远程桌面连接工具连接Windows轻量应用服务器，本文为您提供具体的操作指引。前提条件 待连接的Windows服务器的状态为 运行中。已设置服务器密码。具体操作，请参见 设置或重置...
最佳实践概览
服务器迁移中心SMC功能强大、优势明显，能够实现方便快捷的迁移服务器，更多信息，请参见 什么是服务器迁移中心。场景介绍 服务器迁移中心提供了以下场景迁移的最佳实践：场景 场景说明 各源环境迁移至阿里云 SMC支持多种Windows以及Linux...
TensorFlow服务请求构造
本文为您介绍如何为基于通用Processor的TensorFlow服务构造请求数据。输入数据 EAS 预置了TensorFlow Processor，为保证性能，其输入输出为ProtoBuf格式。调用案例 EAS 在华东2（上海）的VPC环境中部署了一个Public的测试案例，其服务名称...
最佳实践概览
轻量应用服务器提供了部分最佳实践，包括搭建环境、搭建网站、数据传输、迁移服务器以及高可用架构等。您可以根据实际需求，参考相应文档完成服务器的搭建。搭建环境 阿里云轻量应用服务器提供了多种镜像，您可以通过应用镜像快速部署应用...
使用WinSCP连接服务器
如果您的本地主机为Windows操作系统，可以使用WinSCP工具远程连接Linux服务器进行文件管理。前提条件 已下载并安装了WinSCP文件传输工具。具体的下载与安装方式，请参见 WinSCP官网。背景信息 本文将介绍WinSCP连接Linux服务器的两种方式，...
ASP.NET程序网站如何在多个站点之间实现Session共享
服务器之间Session数据同步 假设Web服务器A是所有用户登录的服务器，那么当用户验证登录后，Session数据就会写到A服务器里，那么就可以自己写脚本或者守护进程来自动把Session数据同步到其他Web服务器，那么当用户跳转到其他服务器的时候，...
查看服务器信息
当您创建服务器后，可以通过管理控制台查看服务器的资源配置、到期时间、资源使用情况等详细信息。本文介绍如何通过管理控制台查看服务器的相关信息，并提供示例操作供您参考。背景信息 在管理控制台的不同界面，查看到的服务器信息也有所...
轻量应用服务器之间的数据迁移
如果轻量应用服务器无法通过升级配置满足当前业务需求或者需要将轻量应用服务器迁移至其他地域，您可以将同一阿里云账号下待迁移服务器中的网站数据迁移至同地域或者其他地域。本文介绍同地域和跨地域下，迁移轻量应用服务器的操作。前提...
无法更换轻量应用服务器的操作系统
问题描述 重置系统可以重新安装服务器的应用或者操作系统，达到重新初始化服务器的目的。若您在阿里云轻量应用服务器控制台中，无法更换轻量应用服务器的操作系统，可参考本文进行操作。解决方案 阿里云提醒您：如果您对实例或数据有修改、...
服务器迁移
服务器迁移可将您的服务器、虚拟机、云服务器的业务迁移到阿里云，提高业务迁移到阿里云的效率。本视频指导您如何迁移服务器到阿里云。
使用Blade EAS Plugin优化并部署模型
背景信息 目前 EAS 的TensorFlow和PyTorch Processor已经集成了Blade运行时SDK，因此如果您使用这两种Processor进行模型部署，则可以通过配置 EAS 服务配置文件的方式进行模型优化。说明 启用Blade EAS Plugin将在 EAS 服务之前对您提供的...
重置系统
重置系统可以重新安装轻量应用服务器的应用或者操作系统，达到重新初始化服务器的目的。重置系统有两种选择，重置当前系统和重置为其他镜像。背景信息 警告 重置或更换系统会清除轻量应用服务器上的磁盘数据，请您根据需要做好数据备份。...
- 产品推荐
- 这些文档可能帮助您