分布式通信框架gRPC+
本文介绍如何开启分布式通信框架gRPC+。gRPC+通过Sharing Nothing架构、BusyPolling机制、用户态零拷贝及Send/Recv融合等多种优化技术，降低了E2E的通信延时，提高了Server的吞吐能力，从而可以支持更大的训练规模和训练性能。针对典型业务...
概述
协议支持 SOFARPC 支持不同的通讯协议，目前主要包括：BOLT：是蚂蚁集团开放的，基于 Netty 开发的网络通信框架。RESTful：基于 HTTP 一种设计框架。Dubbo：开源分布式服务框架 H2C：开放的网络通信框架。实现原理 SOFARPC 中的远程调用是...
端云互联版本说明
支持应用内域名请求进行云端DNS解析 支持全链路流控 支持多级代理模型 支持Gradle项目 适配专有云环境 toolkit-intellij-2021.3.1.zip 2020-08-02 端云互联1.0 支持基于Java BIO的网络通信框架端云互联 toolkit-intellij-2020.8.2.zip 说明...
端云互联版本说明
支持应用内域名请求进行云端DNS解析 支持全链路流控 支持多级代理模型 支持Gradle项目 适配专有云环境 toolkit-intellij-2021.3.1.zip 2020-08-02 端云互联1.0 支持基于Java BIO的网络通信框架端云互联 toolkit-intellij-2020.8.2.zip 说明...
端云互联版本说明
支持应用内域名请求进行云端DNS解析 支持全链路流控 支持多级代理模型 支持Gradle项目 适配专有云环境 toolkit-intellij-2021.3.1.zip 2020-08-02 端云互联1.0 支持基于Java BIO的网络通信框架端云互联 toolkit-intellij-2020.8.2.zip 说明...
基本概念
T TaobaoRemoting（TR）TR 框架指基于蚂蚁集团提供的供 RPC 使用的底层通信框架。推送目标 ID 指要推送的目标，可能是 Android 设备的 Ad-token、iOS 设备的 Device Token、用户标识（userId），需要联系上下文的判断是哪种类型。推送证书 ...
合作伙伴及开源生态
主要工具：网络通信框架 SOFABolt、生产级高性能 Java 实现 SOFAJRaft、自动化测试框架 SOFAActs、轻量级类隔离容器 SOFAArk。生态项目：高性能可扩展安全网络代理 MOSN、简单可扩展自治事务框架 Seata。同时，SOFAStack 也积极参与了多个...
基本概念
高速服务框架 高速服务框架HSF（High-speed Service Framework）是一款面向企业级互联网架构的分布式服务框架，以高性能网络通信框架为基础，提供了诸如服务发布与注册、服务调用、服务路由、服务鉴权、服务限流、服务降级和服务调用链路...
配置 Bolt 服务
Bolt 服务的名称源自 RPC 使用的底层通信框架 Bolt。相对于传统的 WebService，Bolt 支持更加复杂的对象，序列化后的对象更小，且提供了更为丰富的调用方式（sync、oneway、callback、future 等），支持更广泛的应用场景。在 SOFA 中，Bolt...
什么是AI分布式训练通信优化库AIACC-ACSpeed
说明 NCCL是NVIDIA GPU的集合通信库，能实现集合通信和点对点通信，基本上所有AI开源框架通信底层都是NCCL。优化方法 基于上述问题，ACSpeed充分利用高带宽的nvilnk互联来实现AllReduce算法（例如GPU0与GPU3等），可以在单机通信出现瓶颈时...
RDMA：使用高性能网络进行分布式训练
您可以根据训练框架、通信框架以及模型特点进行必要的调整。强烈建议您使用平台预置系统内的默认变量，可以获得较优性能。默认变量（平台预置）根据不同的灵骏规格，平台已经在系统中预置了默认变量，具体请参照下表内容：灵骏规格 NCCL...
适配硬件链路和操作系统
在适配硬件链路时，仅需设置AT模组驱动框架与模组通信之间的输出和输入接口。接口类型 接口说明 适配示例 输出接口 从处理器到模组传输数据的接口，用于发送数据。仅需设置一次。aiot_at_setopt(AIOT_ATOPT_UART_TX_FUNC,at_uart_send);...
基本概念
微服务应用 提供服务注册发现和服务治理的能力，例如使用SpringCloud、Dubbo、Motan、Mesh以及K8s Service框架来开发和通信的应用。更多信息，请参见 SAE微服务相关概念和能力。Web应用 提供HTTP服务的应用，例如SpringBoot、多语言网站类...
蓝牙连接开发指南
对于蓝牙设备，阿里物联网平台提供了一套完整的解决方案，即蓝牙设备接入框架。概述 蓝牙设备接入框架的流程图如下所示。蓝牙设备接入框架可支撑以下两种形式的蓝牙接入。阿里云IoT定义一套蓝牙通用规范，简化了厂商进行复杂蓝牙设备的开发...
第三方蓝牙通信插件适配指南
因此，阿里云IoT在蓝牙接入框架中引入了蓝牙通信插件管理系统（即Link Protocol Bridge System，简称LPBS）。蓝牙通信插件管理系统（LPBS）定义了一套抽象的接口，可以将不同的蓝牙协议设备接入到统一框架中，从而可以按阿里云IoT定义的 物...
基于eRDMA增强型实例部署AI训练集群
主流AI框架底层通过多种不同的通信后端进行多机或多卡通信，例如：MPI/Gloo后端多用于CPU的控制流通信。NCCL是由NVIDIA开源的GPU多机多卡实现，旨在提供高效的大数据流通信。因此，它在性能优化方面具有得天独厚的优势，被广泛应用于主流AI...
示例二：Linux+L610模组使用AT框架
通信模组完成AT模组驱动框架的适配后，需进行测试。以Linux环境下的L610模组设备为例，本文介绍该类型的设备，通过C Link SDK接入物联网平台的测试步骤。背景信息 通信模组与AT模组驱动框架适配的详细说明，请参见 概述。本文示例设备的...
示例一：STM32+EC200S模组
通信模组完成AT模组驱动框架的适配后，需进行测试。以STM32+EC200S的设备为例，本文介绍该类型的设备，通过C Link SDK接入物联网平台的测试步骤。背景信息 通信模组与AT模组驱动框架适配的详细说明，请参见 概述。本文示例设备的单片机为...
使用Spring Cloud框架收发消息
Spring Cloud是用于构建消息驱动的微服务应用程序的框架，提供服务发现、配置管理、消息传递、负载均衡等微服务相关的解决方案，可以更容易地构建分布式系统和进行服务间通信。本文介绍如何使用Spring Cloud框架接入 云消息队列 Kafka 版 ...
接入方案概述
说明 根据通信模组的系统、硬件、模组型号的实际情况，您需配置与AT模组驱动框架相对应的具体接口。at/*AT模组驱动框架目录,不需要修改*/│├─aiot_at_api.c│├─aiot_at_api.h│├─module/*模组指令及特性定义，自有其他类型模组可参照...
AI加速概述
TorchAcc（模型训练加速框架）支持数据并行训练，优化计算和通信overlap，提升分布式训练效果。支持AMP训练加速。支持自动显存优化等。EPL（大规模分布式训练框架）支持数据并行，算子拆分流水并行。支持自动并行策略，得到最优分布式训练...
使用ALB实现gRPC协议的负载均衡
gRPC是一种高性能、开源的远程过程调用框架，当您使用gRPC进行后端服务通信时，您可使用应用型负载均衡ALB（Application Load Balancer）实现gRPC协议的负载均衡，统一流量入口。gRPC基于HTTP/2协议进行通信，目前ALB仅支持前端加密（通过...
什么是云云对接（原泛化协议）SDK
服务架构 云云对接SDK是协议自适应的框架，用以构建与阿里云物联网平台进行高效双向通信的桥接服务。适用场景 由于网络环境或者硬件限制，设备无法直接接入阿里云物联网平台。设备只支持某种类型协议，而阿里云物联网平台目前不支持该协议...
优势
微服务框架 深度集成蚂蚁 SOFA Mesh 做异构语言的服务注册发现及通信。网络模式 支持 VPC 和经典网络两种网络模式。高可用和容灾 支持经典的同城双活、两地三中心容灾方案。支持阿里云沉淀多年的单元化高可用容灾方案。
ECS实例数据传输的实现方式
z 使用0输入/输出模式，只在扫描通信端口时使用-n 直接使用IP地址，而不通过域名服务器 常用示例 NC是NETCAT的简写，NC的常用示例如下：端口扫描21~24（以IP192.168.2.34为例）。nc-v-w 2 192.168.2.34-z 21-24 返回示例：nc:connect to ...
产品优势
AI分布式训练通信优化库AIACC-ACSpeed AIACC-ACSpeed（AIACC 2.0-AIACC Communication Speeding）作为阿里云自研的AI训练加速器，专注于分布式训练场景的通信优化功能，在训练场景下具有其显著的性能优势，提高计算效率的同时能够降低使用...
通信时长
通信时长查询功能可以查询指定AppID下通信时长数据。通过阅读本文，您可以了解通信时长的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 用量查询>通信时长，进入通信时长查询界面。选择待查询的AppID、区域及时间，单击 ...
通信时长
通信时长查询功能可以查询指定AppID下通信时长数据。通过阅读本文，您可以了解通信时长的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 用量查询>通信时长，进入通信时长查询界面。选择待查询的AppID、区域及时间区域，...
通信监测
通信监测功能可以查询指定AppID下全链路通话数据（包含通信质量和频道数据）。通过阅读本文，您可以了解通信监测的查询方法和通信监测作用。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 观星台>通信监测，进入通信监测界面。选择...
通信监测
通信监测功能可以查询指定AppID下全链路通话数据（包含通信质量和频道数据）。通过阅读本文，您可以了解通信监测的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 观星台>通信监测，进入通信监测界面。选择待查询的AppID...
控制台介绍
音视频通信控制台提供了观星台、用量查询、统计分析、应用管理、接入工具、配置管理、服务授权管理的配置与使用。通过阅读本文，您可以了解控制台概览及各功能的简介。操作步骤 登录 音视频通信RTC控制台。查看控制台概览。功能区名称 说明...
概览
功能区名称 说明 昨日用量 昨日音视频通信服务使用的总时长、日活跃用户数、并发频道峰值和并发通信峰值。通信时长趋势 最近七日通信时长的趋势图。使用指南 一些常见问题及使用说明的文档链接。资源包 音视频通信时长包（国内版）购买入口...
应用管理
操作列由用量监控、通信记录、查询AppKey及更多功能组成，如下所示：功能 描述 用量监控 查询该应用下不同音视频规格的通信时长，具体操作，请参见 通信时长。通信记录 查询该应用下全链路通话数据（包含通信质量和频道数据），具体操作，...
应用管理
操作列由用量监控、通信记录、查询AppKey及更多功能组成，如下所示：功能 描述 用量监控 查询该应用下不同音视频规格的通信时长，具体操作，请参见 通信时长。通信记录 查询该应用下全链路通话数据（包含通信质量和频道数据），具体操作，...
统计分析
统计分析功能可以查询指定AppID下的活跃用户、频道、并发频道峰值及并发通信峰值，方便您监控和分析应用的使用情况。通过阅读本文，您可以了解统计分析的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 统计分析，进入...
统计分析
统计分析功能可以查询指定AppID下的活跃用户、频道、并发频道峰值及并发通信峰值，方便您监控和分析应用的使用情况。通过阅读本文，您可以了解统计分析的查询方法。操作步骤 登录 音视频通信RTC控制台。在左侧导航栏选择 统计分析，进入...
简介
观星台是阿里云音视频通信为开发者提供的通信质量监测平台，分为通信监测、用量统计、质量统计和异常诊断模块，通过提供全链路的质量监控，帮助您及时发现并定位问题，可以有效的降低业务运维成本，并提高产品的使用体验。应用场景 应用...
简介
观星台是阿里云音视频通信为开发者提供的通信质量监测平台，分为通信监测、用量统计、质量统计和异常诊断模块，通过提供全链路的质量监控，帮助您及时发现并定位问题，可以有效的降低业务运维成本，并提高产品的使用体验。应用场景 应用...
API服务变更
表 5.RTC 3.0 应用通信监测 变更类型 API 描述 新增 DescribeCallList 分页查询时间范围内通信信息。新增 DescribeCall 查询单次通信详情。新增 DescribePubUserListBySubUser 订阅端获取通信中发布端用户列表。新增 ...
创建应用
操作步骤 登录 音视频通信RTC控制台。在左侧导航栏单击 应用管理，进入应用管理配置界面。单击 创建应用。在 音视频通信（按量付费）页面，选中 服务协议。选项 说明 服务类型 RTC服务类型默认为 通用服务。计费方式 RTC计费方式默认为 按...
- 产品推荐
- 这些文档可能帮助您