什么是AI分布式训练通信优化库AIACC-ACSpeed

优化方法 多机CPU-Reduce的实现继承了单机CPU-Reduce高效的异步流水线,将跨机通信过程也设计为流水线形态,同时避免存储在CPU侧的中间数据在CPU和GPU之间往返拷贝。为进一步提升跨机通信的性能,可使用闲置资源增加相应跨机流水线的个数。...

什么是Deepytorch Training(训练加速)

多机CPU-Reduce:该优化继承了单机内CPU-Reduce高效的异步流水线,并将跨机Socket通信也设计为流水线形态,实现机通信全过程流水化,有效减少通信延迟,提高整体训练性能。例如,在通信量较大的Transformer-based模型的多机训练场景下,...

云安全中心反弹Shell多维检测技术详解

该类型反弹Shell通过重定向 bash-i 的标准输入、标准输出、标准错误到/dev/tcp Socket 进行网络通信。下图可以帮助您理解重定向过程。这类反弹Shell的检测可以通过检测Shell的标准输入、标准输出是否被重定向到Socket或检测一些简单的主机...

使用云边通信Raven组件

在 ACK Edge集群 中,跨网络域通信组件Raven提供了基础的多地域网络通信能力,以实现云边运维能力。您可以配置Raven组件,选择云边通信模式(代理模式、隧道模式),也可以增删访问控制白名单条目,放行边缘网关节点以使其与云上构建隧道。...

EBA设备接入方案介绍

方案对原有的硬件设备基本不侵入,只需使设备网网关入口连接到物业管理一体,即可实现对设备的监控以及操作管理,提升管理效率。2.系统框架图 图解说明:①云端:包括物联网云平台和应用。云平台向物业管理一体提供物模型及边缘端...

使用ACK Net Exporter定位网络问题

type=PACKETLOSS pod=hostNetwork namespace=hostNetwork protocol=TCP saddr=10.1.17.172 sport=6443 daddr=10.1.17.176 dport=43018 stacktrace:skb_release_data+0xA3_kfree_skb+0xE tcp_recvmsg+0x61D inet_recvmsg+0x58 sock_read_...

什么是AI通信加速库Deepnccl

多机CPU-Reduce:该优化继承了单机内CPU-Reduce高效的异步流水线,并将跨机Socket通信也设计为流水线形态,实现机通信全过程流水化,有效减少通信延迟,提高整体训练性能。例如,在通信量较大的Transformer-based模型的多机训练场景下,...

基本概念

它是在传输通信协议(TCP/IP)上实现的一种安全协议,采用公开密钥技术为TCP/IP连接提供数据加密、服务器认证、消息完整性以及可选的客户认证。SSL证书采用公钥体制,即利用一对互相匹配的密钥对进行数据加密和解密。每个用户自己设定一...

共享内存通信(SMC)常见问题

如果Mode列显示的回退编号为两个(例如0x05000000/0x03030001),其中第一个回退编号为本地的回退原因,第二个回退编号为对端的回退原因,通常是由于对端回退导致了本机无法正常建立SMC连接而回退。根据回退编号,从下表中查看可能的原因和...

Windows系统挂载SMB协议文件系统

确保端口445处于打开状态,SMB协议文件系统将通过TCP端口445通信。如果端口445未打开,请在目标ECS实例的安全组中添加关于端口445的安全组规则。具体操作,请参见 添加安全组规则。背景信息 默认情况下,一般挂载文件系统是以登录系统的...

SDK获取

IoT移动通信模组与互联网进行通信,并且您的产品业务需要在MCU上实现:如果外接模组支持MQTT协议,请参见 MCU+支持MQTT的模组 了解移植过程 如果外接模组不支持MQTT、但是支持TCP协议,请参见 MCU+支持TCP的模组 了解移植过程 模组/SOC上...

ASM网关概述

ASM网关可以为网格内应用提供统一的流量入口和出口,实现端到端安全加密和流量控制。本文介绍ASM入口网关和出口网关的相关功能。入口网关 入口网关为Kubernetes集群提供了七层网关功能,根据HTTP请求的内容将来自同一个TCP端口的请求分发到...

移植概述

SDK默认使用同步通信机制与设备上的TCP/IP协议栈交互,如果目标硬件平台的TCP/IP协议栈是异步方式(例如Nucleus),需要将SDK配置为使用异步协议栈。更多信息,请参见 SDK的同步与异步通信。步骤二:实现HAL函数 根据选择的功能不同,您...

目标规则(Destination Rule)CRD说明

目标规则是服务网格ASM实现流量路由功能的关键资源之一。目标规则定义在路由发生后,发往目标服务的流量策略。目标规则指定了负载均衡、来自Sidecar的连接池大小以及异常检测设置的相关配置,以便从负载均衡池中检测并清除不健康的主机。...

共享内存通信(SMC)使用说明

Alibaba Cloud Linux 3提供的共享内存通信SMC(Shared Memory Communication)是一种兼容socket层、使用共享内存技术实现的高性能内核网络协议栈。根据共享内存技术的不同,SMC又可以细分为基于Internal Shared Memory(ISM)技术的SMC ...

共享内存通信(SMC)使用说明

Alibaba Cloud Linux 3提供的共享内存通信SMC(Shared Memory Communication)是一种兼容socket层、使用共享内存技术实现的高性能内核网络协议栈。根据共享内存技术的不同,SMC又可以细分为基于Internal Shared Memory(ISM)技术的SMC ...

ECS实例数据传输的实现方式

当您需要为云服务器ECS进行软件部署、数据备份和恢复、数据导入和导出等操作时,您可以使用类Unix/Linux平台上常用的文件传输工具实现。本文通过介绍文件传输的基本原理,以及常用的NETCAT、SCP和Rsync文件传输工具,您可以根据实际需要...

基于eRDMA增强型实例部署AI训练集群

NCCL是由NVIDIA开源的GPU多多卡实现,旨在提供高效的大数据流通信。因此,它在性能优化方面具有得天独厚的优势,被广泛应用于主流AI框架中,并成为推荐的通信后端。在NCCL底层通信链接上,有多种不同的传输方式,例如单机内部多卡P2P通信...

网络最大传输单元MTU

使用非TCP(UDP/ICMP)的巨型帧在MTU不匹配的场景下进行通信时,可能因为分片而导致网络性能下降。更多信息,请参见 ECS互访链路MTU限制 和 云网络产品MTU限制。因此,建议在使能巨型帧的ECS内部署业务之前,先测试业务场景下是否存在因为...

启动方式与环境变量说明

当同时满足以下两种条件,可以考虑设置更高的流数:带宽较高,例如GPU计算型实例规格族gn6v,带宽为32 Gbit/s,或者在SCC网络下采用TCP通信方式。每张卡有超过200 MB以上空闲显存,若显存富裕,性能的可扩展性不及预期,可适当增大流数至8...

典型应用

5 tcp 0.0.0.0/0 32768/65535 允许 允许来自任意IPv4的地址访问端口范围为32768~65535的TCP流量。此端口范围仅为示例。有关如何选择适当的临时端口的更多信息,请参见 临时端口。6 all 0.0.0.0/0-1/-1 拒绝 拒绝所有入方向IPv4流量。表 2....

HAL说明

HAL_UptimeMs 是 时钟函数,获取设备从加电以来到目前时间点已经过去的毫秒数。HAL_Kv_Set 是 写入指定KV数据。HAL_Kv_Get 是 读取指定KV数据。HAL_Kv_Del 是 删除指定KV数据。HAL_Kv_Erase_All 是 擦除所有的KV数据。多线程 函数名 是否...

产品功能

通过流量控制、网格观测以及服务间通信安全等功能,服务网格 可以全方位地简化您的服务治理,并为运行在异构计算基础设施上的服务提供统一的管理能力,适用于Kubernetes集群、ACK Serverless集群、ECS虚拟以及自建集群。关于ASM更多信息...

负载均衡SLB产品家族介绍

支持gRPC协议,实现海量微服务间的高效API通信。NLB:支持TCPSSL协议,可对SSL证书进行集中管理及卸载,有效提升后端业务处理效率。多层次容灾 提供多层次的容灾策略与高可用保障体验。健康检查:定时检测后端服务器运行状况,一旦检测到后...

基本概念

设备 一般指IP网数通类网络通信设备,比如交换、路由器、防火墙等,根据业务场景也可以涵盖无线网络AP/AC的管理和运维。电路(链路)根据管理域链路包括单端链路和双端链路,业务类型包括自有业务或者对接外部的如专线等。安全域 设备等...

容器网络FAQ

使用Terway网络的ENI模式出现网络异常 容器服务Kubernetes的Terway网络场景中交换的IP资源不足 Terway网络模式下,Pod分配的IP不在虚拟交换网段中怎么办?Terway网络模式扩容vSwitch后,依然无法分配Pod IP怎么办?如何选择Kubernetes...

API概览

产品(边缘节点服务 ENS/2017-11-10)的OpenAPI采用 RPC 签名风格,签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK,开发者可通过 下载SDK 直接调用产品OpenAPI而无需关心技术细节。如果现有SDK不能满足使用需求...

通过NLB实现TCPSSL卸载(单向认证)

这种方式可以提高后端业务的处理效率,简化了后端服务器和SSL的配置,同时仍然保证了通信的安全性。前提条件 已创建NLB实例。具体操作,请参见 创建和管理NLB实例。已创建NLB后端服务器组。具体操作,请参见 创建和管理服务器组。重要 ...

常见问题

SOFAStack 是否可以部署在虚拟、物理上?可以,SOFAStack 部署支持物理、虚机 VM。SOFAStack 当前是否只支持阿里云飞天 ACK?SOFAStack 部署支持多云异构、目前支持华为云、开源 Openstack 等。分布式事务支持哪些数据库?目前支持...

物联网平台相关问题

下载云端SDK:使用物联网平台云端SDK来调用云端API,以实现物联网平台的云端能力,例如产品管理、设备管理、Topic管理、数据流转规则管理、消息通信等。调用API:按照API请求结构,结合具体API功能传入请求参数来调用API。物联网平台提供的...

弹性网卡概述

主网卡有一个关联的安全组控制从Internet(或者公网负载均衡器的TCP 80和443端口)对服务器的访问,而私有网卡关联的安全组只控制来自VPC内允许的私有子网的访问。外部流量只能从公共外部客户端通过主网卡的虚拟防火墙(安全组)强制卡点...

基于ACK创建Ray Cluster

NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S)AGE myfirst-ray-cluster-head-svc ClusterIP 192.168.36.189<none>10001/TCP,8265/TCP,8080/TCP,6379/TCP,8000/TCP 82s 查看Ray Cluster的Pod信息。kubectl get pod-n${RAY_CLUSTER_NS} 预期输出...

审计SCP命令操作的最佳实践

当个人电脑配置ProxyJump后,您在使用SCP命令上传或文件操作时,SSH客户端会先与堡垒建立安全连接,然后再通过堡垒与目标主机通信,从而实现堡垒对SCP命令的审计。前提条件 请确保本地客户端与堡垒网络连接正常且可以正常登录堡垒...

云边通信组件Raven概述

节点之间三层网络互通,选择一个主机作为网关节点(图例为绿色),通过NAT公网网关与云上网关节点构建隧道,所有跨节点池的请求均由网关节点代理通过隧道实现跨域网络通信。节点池D:一组边缘设备。通常自带公网IP,这些节点均被作为网关...

M2M设备间通信

章节以智能灯和手机App连接为例,分别使用规则引擎数据流转和Topic消息路由来实现M2M设备间通信,主要介绍如何基于物联网平台构建一个M2M设备间通信架构。智能灯与手机App的连接和通信请求都交由物联网平台承担,您不用担心高并发场景下...

Sidecar Acceleration using eBPF

Sidecar Acceleration using eBPF组件基于eBPF的Sockops技术,可以实现同节点下Sidecar和Sidecar之间、同Pod下业务容器和Sidecar之间的TCP网络通信加速。使用限制 ASM实例版本需为1.10及以上。ACK集群节点内核的版本需为5.10及以上。建议...

Sidecar Acceleration using eBPF

Sidecar Acceleration using eBPF组件基于eBPF的Sockops技术,可以实现同节点下Sidecar和Sidecar之间、同Pod下业务容器和Sidecar之间的TCP网络通信加速。使用限制 ASM实例版本需为1.10及以上。ACK集群节点内核的版本需为5.10及以上。建议...

NAT场景下的堡垒运维最佳实践

管理员可以将公网NAT网关的IP地址作为代理服务器地址,然后在堡垒内添加代理服务器,并通过堡垒导入资产,以实现堡垒在NAT网关场景下对资产运维的行为管控及审计。方案二:直连方式 堡垒支持新建多个相同IP的资产,并通过设置不同...

安装ossftp

ossftp运行后会默认打开本机的以下端口:TCP 2048端口:FTP服务端口,用于接收FTP请求。TCP 8192端口:Web服务端口,用于打开ossftp的图形化管理界面。说明 如果您需要将ossftp服务提供给他人使用,在防火墙配置中开放TCP 2048端口和TCP ...

iOS

通过阅读本文,您可以了解iOS端集成SDK的方法。前提条件 环境中已安装最新版本的 Xcode,更多信息,请参见 Xcode。...环境要求 类型 说明 终端...后续步骤 完成集成SDK操作后,您可以实现音视频通信的基本功能。具体操作,请参见 实现基本功能。
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
弹性公网IP 物联网无线连接服务 短信服务 高速通道 边缘网络加速 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用