什么是AI分布式训练通信优化库AIACC-ACSpeed

多流通信优化 问题分析 通常情况下,单流通信无法打满TCP网络带宽(使用iperf工具可以快速验证这一现象),导致上层allreduce集合通信算法的跨机性能无法达到最优。优化方法 ACSpeed设计实现了基于tcp/ip的多流功能,提升分布式训练中并发...

SSH代理功能

步骤三:设置代理 将代理机P设置为服务器T的代理后,可打通本地服务器到服务器T的网络通信。具体步骤如下:在 Host 页签中选择服务器T右侧 Action 列的 More>Properties。在 Properties 对话框中单击 Advanced 页签。在 Advanced 页签中的 ...

名词解释

解决方案相关 RTC 实时通信,一种主要面向语音、视频领域的网络通信方式。目前比较主流的应用场景是语音通话、视频通话、视频会议等。RTC服务器 阿里云音视频通信RTC提供的音视频相关媒体通道服务。音视频业务管控服务器 音视频通信系统中...

启动方式与环境变量说明

当同时满足以下两种条件,可以考虑设置更高的流数:带宽较高,例如GPU计算型实例规格族gn6v,带宽为32 Gbit/s,或者在SCC网络下采用tcp通信方式。每张卡有超过200 MB以上空闲显存,若显存富裕,性能的可扩展性不及预期,可适当增大流数至8...

MCU+支持TCP的模组

应用场景:设备的硬件由一个MCU加上一个通信模组构成,设备的应用逻辑运行在MCU上,模组上支持了TCP但是并不支持MQTT,MCU通过模组提供的AT指令来控制模组何时连接云端服务以及收发数据。说明 本示例中:示例app+SDK+TCP模组驱动一起消耗...

基于eRDMA增强型实例部署AI训练集群

在NCCL底层通信链接上,有多种不同的传输方式,例如单机内部多卡P2P通信以及多机上的传统socket通信(如VPC网络)和高性能的InfiniBand(IB)通信,其中eRDMA是一种基于RDMA的传输方式,具有极低的延迟,并且在性能上接近RDMA网络的优势。...

eRDMA

众多应用都是基于TCP/IP构建的,但随着数据中心相关的业务蓬勃发展,应用对于网络的性能需求(如延迟、吞吐)越来越高,受限于TCP/IP的局限性(如拷贝开销大、协议栈处理厚、CC算法复杂、上下文切换频繁等),TCP/IP的网络通信性能已经成为...

eRDMA概述

众多应用都是基于TCP/IP构建的,但随着数据中心相关的业务蓬勃发展,应用对于网络的性能需求(如延迟、吞吐)越来越高,受限于TCP/IP的局限性(如拷贝开销大、协议栈处理厚、CC算法复杂、上下文切换频繁等),TCP/IP的网络通信性能已经成为...

堡垒机无法连接ECS排查步骤

网络通信异常,建议您检查网络ACL、安全组、云防火墙、以及服务器内的iptables或主机防火墙的相关策略是否阻拦【可能原因二】堡垒机的相关配置影响 包含资产管理的主机信息(基本信息、服务端口、主机账户),运维规则(基本信息、资产/...

VPC通信常见问题

VPC是否可以直接与经典网络通信?同一VPC内不同交换机可以通信么?只要安全组规则允许,同一VPC内的ECS实例均可以互相通信,无论交换机是否相同。不同VPC之间能否内网互通?不同VPC之间逻辑上完全隔离,您可以使用高速通道、VPN网关、云...

Sidecar Acceleration using eBPF

Sidecar Acceleration using eBPF组件基于eBPF的Sockops技术,可以实现同节点下Sidecar和Sidecar之间、同Pod下业务容器和Sidecar之间的TCP网络通信加速。使用限制 ASM实例版本需为1.10及以上。ACK集群节点内核的版本需为5.10及以上。建议...

Sidecar Acceleration using eBPF

Sidecar Acceleration using eBPF组件基于eBPF的Sockops技术,可以实现同节点下Sidecar和Sidecar之间、同Pod下业务容器和Sidecar之间的TCP网络通信加速。使用限制 ASM实例版本需为1.10及以上。ACK集群节点内核的版本需为5.10及以上。建议...

系统设置

网络设置 启用网络通信:设置指令系统与授权主机之间的通信状态,启用网络通信服务。授权地址:设置网络通信后端服务地址。服务主机:设置网络通信后端服务主机。服务路径:网络通信后端服务路径。消息设置 启用消息通信:启动网络消息通信...

ListInstancesByNcd-通过网络通信距离筛选实例

lni SourceInstanceId string 源实例 ID lni-1234*InstanceInfos object[]与源实例 ID 间网络通信距离不超过 maxNcd 的实例集合 InstanceId string 实例 ID lni-1235*Ncd integer 网络通信距离 2 示例 正常返回示例 JSON 格式 {"Code":0,...

边缘网络自治

边缘网络自治可以保证在异常状态下应用恢复后,应用间的网络通信自动恢复。本文主要为您介绍边缘节点上的网络自治功能。背景信息 边缘节点接入云端集群后,默认具备边缘网络自治能力。具备网络自治能力的节点,节点上应用Pod IP与Pod Name...

云边通信组件Raven概述

云边协同架构的 跨地域网络通信 ACK Edge集群 采用中心云管理边缘IDC以及边缘设备的云边协同架构。分散在边缘侧的IDC以及边缘基础设施通过多种网络形态,例如SD-WAN、VPN、专用通道等,与云上搭建的ACK集群控制面进行交互,从而以云原生的...

迁移介绍

通过自动路由分发及学习,CEN可以提高网络的快速收敛和跨网络通信的质量,实现全网资源的互通。迁移过程 在完成所需的迁移前准备工作后,您只需要将使用对等连接的VPC和VBR连接到CEN实例中,然后进行路由管理即可。CEN会自动学习分发已连接...

迁移介绍

通过自动路由分发及学习,CEN可以提高网络的快速收敛和跨网络通信的质量,实现全网资源的互通。迁移过程 在完成所需的迁移前准备工作后,您只需要将使用对等连接的VPC和VBR加载到CEN实例中,然后进行路由管理即可。CEN会自动学习分发已加载...

查询网络通信距离(NCD)

PAI灵骏提供了统一的网络通信距离NCD(Network Communication Distance)查询接口,供您对GPU节点(或网卡)间的通信距离进行查询,以实现更优的任务调度,获得最佳的训练性能。本文为您介绍NCD的基本概念、使用NCD的原因以及如何使用NCD。...

组播概述

背景信息 什么是组播 组播是一种网络通信模式,通常应用于一个服务器同时向一组客户端(点对多点)发送相同数据报文的网络通信场景。例如在线直播、视频会议、金融交易行情数据同步、远程教育和网络电视等。组播的优势 在点对多点的网络...

概述

关于如何通过MQTT和CoAP协议接入中国移动和中国联通的NB-IoT设备,请参见 MQTT-TCP连接通信 和 CoAP连接通信。下文以智能水表产品为例,介绍如何通过云网关接入中国电信的NB-IoT设备。设计思路 首先在中国电信AEP平台,创建产品、设备和...

通过云企业网实现跨账号跨地域挂载NAS

云企业网通过转发路由器TR(Transit Router)帮助您在跨地域专有网络之间,专有网络与本地数据中心间搭建私网通信通道,为您打造一张灵活、可靠、大规模的企业级云上网络。转发路由器分为基础版和企业版。企业版转发路由器是基础版转发路由...

功能特性

阿里云通过通信库ACCL实现了GPU和网卡的智能匹配、节点内外物理拓扑自动识别及拓扑感知的无拥塞通信算法,彻底消除网络拥塞,提升网络通信效率,提高分布式训练系统的扩展性。在万卡规模下,可达80%以上的线性集群能力。在百卡规模下,有效...

网络规划

同一地域不同可用区之间的网络通信延迟很小,但也需要经过业务系统的适配和验证。由于系统调用复杂、跨可用区调用等原因可能会增加系统的网络延迟。建议您对系统进行优化及适配,以满足您对高可用和低延迟的实际需求。具体使用多少个交换机...

什么是高速通道

物理专线和VPN网关对比 您可以通过高速通道物理专线或VPN网关打通本地IDC和云上VPC的网络通信。物理专线连接在网络质量、安全性、传输带宽等方面都优于VPN网关连接。更多信息,请参见下表。对比项 物理专线连接 VPN连接 网络质量 通过专用...

移植概述

SDK默认使用同步通信机制与设备上的TCP/IP协议栈交互,如果目标硬件平台的TCP/IP协议栈是异步方式(例如Nucleus),需要将SDK配置为使用异步协议栈。更多信息,请参见 SDK的同步与异步通信步骤二:实现HAL函数 根据选择的功能不同,您...

VPC与外部网络连接概述

当您需要将VPC内的资源高效连接到公网、其他VPC或本地数据中心(IDC)时,阿里云为您详细介绍了各种网络连接的选项,帮助您构建灵活且高效的网络通信。连接公网 您可以使用下表中的产品或功能,将专有网络和公网(互联网)进行连接。产品 ...

入门概述

操作步骤 创建和使用一个集群包含以下操作:准备工作 步骤一:注册阿里云账号 步骤二:开通灵骏 步骤三:开通必要的其他云产品 创建集群 步骤一:创建集群分组 步骤二:配置集群网络 步骤三:确认集群配置 查看集群信息

使用Modbus TCP连接Modbus从设备

Modbus通信协议遵循主设备和从设备的通信步骤,边缘网关中Modbus驱动使用Master角色(主设备),采取主动询问方式,发送Query Message给Modbus从设备,然后由Modbus从设备依据接到的Query Message内容准备Response Message回传给网关。...

使用云企业网实现跨地域跨账号VPC互通(基础版)

VPC1与VPC2之间可以正常通信,VPC3与VPC1之间、VPC3与VPC2之间为跨地域网络,云企业网默认提供1 Kbps的跨地域互通带宽(IPv4),仅供测试跨地域网络的连通性,跨地域的网络资源无法正常通信步骤三:购买带宽包 为实现VPC3与VPC1、VPC3与...

经典网络和专有网络互通

经典网络和VPC网络是阿里云的两种网络类型,它们之间不能直接进行网络通信。ClassicLink可以实现经典网络和VPC网络的连接,使得用户可以实现跨网络访问和通信。更多信息,请参见 ClassicLink概述。使用限制 在使用ClassicLink功能前,请...

如何选择私网类产品?

云企业网 云企业网帮助您在VPC间建立私网通信通道,通过自动路由分发及学习,提高网络的快速收敛和跨网络通信的质量和安全性,实现全网资源的互通,帮助您打造一张具有企业级规模和通信能力的互联网络。更多信息,请参见以下文档:使用云...

共享内存通信(SMC)使用说明

数据传输过程如下图所示:应用场景 基于SMC-R的高性能、透明替换等优势,适用于网络通信占比高的场景,该技术的典型应用场景示例如下:时延敏感的数据查询和处理 Redis、Memcached、PostgreSQL等高性能数据查询与处理的场景,对网络性能有...

共享内存通信(SMC)使用说明

数据传输过程如下图所示:应用场景 基于SMC-R的高性能、透明替换等优势,适用于网络通信占比高的场景,该技术的典型应用场景示例如下:时延敏感的数据查询和处理 Redis、Memcached、PostgreSQL等高性能数据查询与处理的场景,对网络性能有...

通信网络加速的审计事件

通信网络加速已与操作审计服务集成,您可以在操作审计中查询用户操作云通信网络加速产生的管控事件。操作审计支持将管控事件投递到日志服务SLS的LogStore或对象存储OSS的存储空间中,满足实时审计、问题回溯分析等需求。操作审计记录了...

Windows实例中带宽使用率较高问题的排查及解决方法

本文主要介绍Windows实例中带宽使用率较...在Conversations页面上,您可以看到所有网络通信,从链路层、IP层、TCP层分别给出了流量的具体情况和通信两端的流量情况。通过抓取一段时间的网络包可以分析究竟是哪些连接、端口占用了较高的流量。

应用场景

在线教育 提供高可用、高品质、高并发的实时音视频通信网络,轻松实现老师与学生、学生与学生之间的音视频连麦互动,提升课堂教学体验。支持课程音视频流实时推送至直播中心实现大规模直播分发,并支持服务端同步录制,对接OSS实现课程存档...

ECS安全组实践(入方向规则)

ToPort":"65535","SourceCidrIp":"10.0.0.0/24","Priority":2},修改安全组规则步骤 修改安全组规则可能会影响您的实例间的网络通信。为了保证必要的网络通信不受影响,您应先尝试以下方法放行必要的实例,再执行安全组策略收紧变更。说明 ...

网络最大传输单元MTU

理论上MTU越大,可在单个数据包中传递的数据越多,网络通信越高效。本文介绍巨型帧相关功能以及如何修改ECS实例网卡的MTU。巨型帧(Jumbo frames)巨型帧是指有效负载超过IEEE 802.3标准所限制的1500字节的以太网帧,增大的有效载荷百分比...

在容器(Docker)中配置eRDMA

eRDMA(Elastic Remote Direct Memory Access)是一种高性能网络通信技术,将eRDMA功能引入容器(Docker)环境可以实现容器应用程序绕过操作系统内核直接访问主机的物理eRDMA设备,从而提供更快的数据传输和通信效率,适用于在容器中需要大...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
弹性公网IP 短信服务 共享流量包 高速通道 负载均衡 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用