什么是AI通信加速库Deepnccl
多机优化 多机优化体现在通信算子编译优化、TCP多流优化、多机CPU-Reduce优化三个方面，具体说明如下：通信算子编译优化：针对阿里云上不同机型，以及网卡与GPU的不同拓扑连接等特点，相比较基于全局拓扑结构实现的Allreduce、Allgather或...
什么是Deepytorch Training（训练加速）
多机优化 多机优化体现在通信算子编译优化、TCP多流优化、多机CPU-Reduce优化三个方面，具体说明如下：通信算子编译优化：针对阿里云上不同机型，以及网卡与GPU的不同拓扑连接等特点，相比较基于全局拓扑结构实现的Allreduce、Allgather或...
什么是AI分布式训练通信优化库AIACC-ACSpeed
提升空间 ACSpeed主要针对通信进行优化，通信瓶颈越大，性能提升越大。如果机器本身是多卡或多机的加速比接近高线性度（即线性度接近于1），说明通信不是瓶颈，则ACSpeed的性能提升空间就会比较小。使用ACSpeed训练时，您需要了解以下特性...
分布式训练加速TorchAcc概述
通过半精度通信、通信压缩、通信overlap等通信优化技术来提高通信效率。提供自动和半自动分布式策略，支持大模型高效训练。训练数据读取优化：Prefetcher：进行数据预取，让数据预处理和训练能够同时进行，从而减少数据处理的等待时间，...
阿里云异构计算产品总览
AI分布式训练通信优化库AIACC-ACSpeed：是阿里云推出的AI分布式训练通信优化库AIACC-Training 2.0版本，基于模块化的解耦优化设计方案。更多信息，请参见 什么是AI分布式训练通信优化库AIACC-ACSpeed。AI训练计算优化编译器AIACC-AGSpeed：...
神行工具包（DeepGPU）计费
神行工具包中的组件主要包括 AI训练加速器Deepytorch Training、AI推理加速器Deepytorch Inference、AI通信加速库Deepnccl、推理引擎DeepGPU-LLM、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署...
产品优势
AI分布式训练通信优化库AIACC-ACSpeed AIACC-ACSpeed（AIACC 2.0-AIACC Communication Speeding）作为阿里云自研的AI训练加速器，专注于分布式训练场景的通信优化功能，在训练场景下具有其显著的性能优势，提高计算效率的同时能够降低使用...
安装并使用Deepnccl
Deepnccl是为阿里云神龙异构产品开发的用于多GPU互联的AI通信加速库，能够无感地加速基于NCCL通信算子调用的分布...使用Deepnccl Deepnccl（包括aiacc-nccl-plugin）安装成功后，您可以直接使用Deepnccl的通信优化功能，无需再进行其他配置。
什么是神行工具包（DeepGPU）
神行工具包主要包括以下组件：什么是Deepytorch Training（训练加速）什么是Deepytorch Inference（推理加速）什么是AI通信加速库Deepnccl 什么是推理引擎DeepGPU-LLM AI分布式训练通信优化库AIACC-ACSpeed 计算优化编译器AIACC-AGSpeed ...
什么是GPU云服务器
AI分布式训练通信优化库AIACC-ACSpeed 阿里云推出的AI分布式训练通信优化库。可实现分布式训练在兼容性、适用性和性能加速等方面的升级。计算优化编译器AIACC-AGSpeed 阿里云推出的一个基于PyTorch深度学习框架研发的计算优化编译器，可以...
安装ACCL库
其中$BDF为相应PCI桥的总线地址：setpci-s$BDF 0xf28.l=0x207f RDMA管控服务 宿主侧的rdma-service提供了集群信息，ACCL可利用该信息进行拓扑感知的通信优化。进行容器化训练时建议把管控服务提供的信息文件（/etc/sysconfig/rdma/cluster...
应用场景
神行工具包（DeepGPU）应用场景 神行工具包中的组件主要包括神龙AI加速引擎AIACC（AIACC-Training和AIACC-Inference）、AI分布式训练通信优化库AIACC-ACSpeed、AI训练计算优化编译器AIACC-AGSpeed、集群极速部署工具FastGPU以及GPU容器共享...
基于eRDMA增强型实例部署AI训练集群
搭建NCCL环境 NVIDIA集体通信库（NCCL）是英伟达基于NVIDIA-GPU的一套开源的集体通信库，实现了针对NVIDIA GPU性能优化的多GPU和多节点集体通信原语。NCCL提供了诸如all-gather、all-reduce、broadcast、reduce、reduce-scatter等实现，...
基本概念
本文为您介绍灵骏中用到的基本概念，帮助您正确理解和使用。使用灵骏的过程中，您可以根据业务需求规划多...优化套件 灵骏提供的适合大规模并行计算集群优化组件的集合，包括数据加载优化、集合通信优化、计算资源优化、网络优化等几个组件。
AI加速概述
TorchAcc（模型训练加速框架）支持数据并行训练，优化计算和通信overlap，提升分布式训练效果。支持AMP训练加速。支持自动显存优化等。EPL（大规模分布式训练框架）支持数据并行，算子拆分流水并行。支持自动并行策略，得到最优分布式训练...
发布日志
V1.14@2019-09-20 上行弱网环境的对抗策略优化，提升弱网视频发布的通信质量。音频首帧回调，摄像头管理，自定义渲染，更丰富的数据监控。V1.2@2018-08-25 优化弱网体验，丢包网络下，延时更低、视频更清晰 V1.1@2018-08-07 首次发布。...
功能发布记录（2.0）
V1.14@2019-09-20 上行弱网环境的对抗策略优化，提升弱网视频发布的通信质量。音频首帧回调，摄像头管理，自定义渲染，更丰富的数据监控。V1.2@2018-08-25 优化弱网体验，丢包网络下，延时更低、视频更清晰 V1.1@2018-08-07 首次发布。...
应用场景
音乐教学 针对音乐教学和陪练场景定制优化的实时音视频通信服务，满足乐器、人声的高清音质追求，同时保证音画超低延迟传输。家长能够同时进入课程房间实时互动，或者通过旁路直播隐身观摩，了解孩子的学习情况。支持课程录制、回放并将...
2019年
无 优化 Server端性能优化，和客户端通信同步改成异步，并优化了akka默认 dispatcher 的配置。使用1.1.0版本客户端，心跳性能优化提高3倍。前端任务管理列表重新设计，可以看到更多信息。修复分布式拉模型，全局子任务可能不起作用。修复...
Java SDK
无 优化 Server端性能优化，和客户端通信同步改成异步，并优化了akka默认 dispatcher 的配置。使用1.1.0版本客户端，心跳性能优化提高3倍。前端任务管理列表重新设计，可以看到更多信息。修复分布式拉模型，全局子任务可能不起作用。修复...
历史记录
优化 Server端性能优化，和客户端通信同步改成异步，并优化了akka默认 dispatcher 的配置。使用1.1.0版本客户端，心跳性能优化提高3倍。前端任务管理列表重新设计，可以看到更多信息。1.0.9，2019-11-28 新特性 增加 BlockAppStart 配置。...
阿里云首批通过《可信云·云成本优化工具能力要求》...
为了帮助企业选择更适合的云成本优化工具，中国信息通信院推出了《云成本优化工具能力要求》系列标准。其中《可信云•云成本优化工具能力要求-第1部分原生工具》的评估对象是云服务商提供的云成本优化工具，重点考察能力包括：成本监测能力...
PAI灵骏智算服务概述
支持加速库，主要对 PAI灵骏 集群的通信进行了深度的定制优化。计算系统支持任务的界面化提交和任务日志查看，支持主流的AI计算框架，例如：PyTorch、TensorFlow等。为什么选择PAI灵骏 选择 PAI灵骏，您可以轻松构建具有以下优势的智能集群...
版本发布说明
发布日期：2024-03-20 大版本：V5.4.18 小版本：17108394 类别 说明 新增&优化 新增Online Modify Column 2.0功能。新增 show full binary logs、show full master status 等binlog相关运维指令。优化存储过程的创建和删除流程，避免出现...
发布日志
V1.14@2019-09-20 上行弱网环境的对抗策略优化，提升弱网视频发布的通信质量。音频首帧回调，摄像头管理，自定义渲染，更丰富的数据监控。V1.2@2018-08-25 优化弱网体验，丢包网络下，延时更低、视频更清晰 V1.1@2018-08-07 首次发布。...
分布式通信框架gRPC+
gRPC+通过Sharing Nothing架构、BusyPolling机制、用户态零拷贝及Send/Recv融合等多种优化技术，降低了E2E的通信延时，提高了Server的吞吐能力，从而可以支持更大的训练规模和训练性能。针对典型业务场景，其训练性能比原生TensorFlow提升...
资源使用优化
合理规划网络 当使用网络服务时，在架构优化层面可以尽量使用内网进行应用间的通信；在做跨账号或跨VPC之前的流量互通时规划好跨地域跨国家之间的网络产品。重新评估公网出口的规划设计，推荐使用NAT网关等服务做网络出入流量的统一管理并...
控制面核心组件
性能优化离不开细节，其中部分优化是通用的，也有部分优化是面向业务场景定制的，接下来会介绍一下蚂蚁团队优化的一些细节点。首次请求优化：社区方案里 Pilot 是通过 Pod.Status 来获取 Pod 的 IP 信息，在小集群的测试中，这个时间基本秒...
功能发布记录（2023年）
ACK微服务应用接入MSE治理中心 微服务治理应用列表体验优化 优化 微服务治理优化应用列表加载速度，优化流量防护策略默认值、输入校验规则等。无 2023-04-30 云原生网关 功能名称 功能类型 功能描述 相关文档 NLB绑定 新增 网关控制台支持...
Android
当监控到弱网环境时，为保证基础通信体验，建议您使用 SDK 对应的方法分别在发布端和订阅端进行如下优化：调整视频流规格：通过设置较低档位规格的 VideoProfile，减少视频通信的网络资源占用。切换视频为小流：小流有着与大流相同的宽高比...
高性能计算优化型实例概述
高性能计算优化型实例规格族hpc8ae 高性能计算优化型实例规格族hpc7ip 高性能计算优化型实例规格族hpc6id 高性能计算优化型实例介绍 高性能计算优化型实例（以下简称HPC优化实例）是专为提升HPC工作负载性能，同时优化大规模运行成本而打造...
iOS
当监控到弱网环境时，为保证基础通信体验，建议您使用 SDK 对应的方法分别在发布端和订阅端进行如下优化：切换订阅低档位视频：低挡位的视频和高档位的视频有相同的宽高比，但是分辨率和码率相对较低，网络资源占用的需求较低。仅发布音频...
Android
当监控到弱网环境时，为保证基础通信体验，建议您使用SDK对应的方法分别在发布端和订阅端进行如下优化：调整视频流规格：通过设置较低档位规格的VideoProfile，减少视频通信的网络资源占用。切换视频为小流：小流有着与大流相同的宽高比，...
iOS
当监控到弱网环境时，为保证基础通信体验，建议您使用SDK对应的方法分别在发布端和订阅端进行如下优化：调整视频流规格：通过设置较低档位规格的VideoProfile，减少视频通信的网络资源占用。切换视频为小流：小流有着与大流相同的宽高比，...
常见问题FAQ
优化求解器当前可以快速求解大规模线性规划LP、混合整数线性规划MILP、凸二次规划QP问题，目前支持命令行和C、C++、Python、Java的API调用，可在Windows，macOS和Linux系统下使用。有示例代码和案例分析讲解如何使用，免费。运行产生异常请...
标准版
【新增】Modbus驱动支持LoRa LAN通信信道。【新增】支持对LoRa子设备进行OTA升级。【优化】优化消息路由配置，消息来源支持多选产品和设备。【优化】Modbus驱动支持只读和按位解析寄存器功能。【修复】修复v2.4.0版本以来发现的问题。
专业版
【新增】Modbus驱动支持LoRa LAN通信信道。【新增】支持对LoRa子设备进行OTA升级。【优化】优化消息路由配置，消息来源支持多选产品和设备。【优化】Modbus驱动支持只读和按位解析寄存器功能。【修复】修复v2.4.0版本以来发现的问题。
功能特性
高性能数据主动加载加速软件KSpeed 灵骏基于高性能网络RDMA和高性能通信ACCL，研发高性能数据主动加载加速软件KSpeed，进行智能数据IO优化。计算存储分离架构广泛存在于AI、HPC、大数据业务场景中，但大量训练数据的加载容易形成效率瓶颈。...
功能发布记录
全部 ACK Edge发布Kubernetes 1.26版本说明 云边通信方案升级 从v1.26起，ACK Edge集群 新增支持云边节点池维度的网络通信，相比于原有方案实现了高可用、弹性伸缩能力，提供云边容器级别监控运维。新方案中由Raven组件负责云边通信，可...
求解器用户手册
优化求解器的用户手册，介绍求解器的调用方式、如何输入问题和求解器的APIs清单。说明 由于本软件APIs比较多，且还在高频增加功能中，因此APIs的介绍会较多地引导至另一个《MindOpt用户使用手册——完整版》上查看细节，给您带来的不连贯...
- 产品推荐
- 这些文档可能帮助您