使用SDK示例代码消费订阅数据
必填参数说明 参数 说明 获取方式 brokerUrl 数据订阅通道的网络地址及端口号信息。说明 如果您部署SDK客户端所属的ECS实例与数据订阅通道属于经典网络或同一专有网络，建议通过内网地址进行数据订阅，网络延迟最小。在DTS控制台单击目标...
使用SDK示例代码消费订阅数据
在完成数据订阅通道的配置（创建好订阅任务和消费组）后，您可以自行编写SDK示例代码或使用DTS提供的SDK示例代码来订阅数据变更信息，本文介绍示例代码的使用方法。操作步骤 重要 如果数据源是PolarDB-X 1.0或DMS LogicDB，消费订阅数据的...
独享资源组
如何查看数据源的网络环境？添加独享资源组白名单 独享资源组商业化行为 如何对资源组进行续费？如何对资源组进行扩容、缩容和规格变更操作？独享资源组使用细则 如何切换任务执行时使用的调度资源组？如何切换数据集成任务执行时使用的...
常见问题
支持的数据库部署位置（接入方式）阿里云实例 有公网IP的自建数据库 通过数据库网关DG接入的自建数据库 通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 阿里云实例 通过数据库网关DG接...
Napatech案例
业务挑战 随着网络数据流量的爆增以及业务可用性要求的不断提升，Napatech公司的用户可以将数据包采集和分析的能力提升至200G，然而上层软件产生的流量数据包元数据也爆增，给后台数据库（比如开源的HBase/ElasticSearch）的存储和索引能力...
独享数据集成资源组
网络连通方案 独享数据集成资源组与其他独享资源组类似，本质上为一组阿里云ECS实例，在数据集成任务运行时，需保障资源组与数据源之间的网络是连通的，且不会因为白名单等特殊安全访问设置阻断资源组与数据源之间的网络连通性。...
网络连通解决方案
添加数据源时需要根据数据源所在网络环境，通过对应的网络解决方案，实现Dataphin与数据源的网络连通。本文为您介绍数据源在不同网络环境中与Dataphin的网络连通方案。网络连通方案 根据数据源所在的网络环境，在下图中选择对应的网络连通...
内置时空数据引擎Ganos
提供拓扑网络路径分析和大规模点云存储与查询支持 Ganos所包含的几何网络数据库引擎支持Node-Edge拓扑网络构建，支持Turn、U-Turn等概念，支持TSP（旅行商问题）、KSP（多条线路最短路径）、TRSP（转向限制的最短路径）等一系列路径规划...
新增和使用独享数据服务资源组
购买独享数据服务资源组时需要进行网络配置，您可以为独享资源组绑定一个可与目标数据源连通的VPC和该VPC下对应可用区中的V-Switch，实现自动添加路由至整个VPC网段，从而保障独享数据服务资源组与该VPC环境中的数据源之间的网络连通性。...
系统管理
说明 您可在配置数据源时，测试数据源与资源组的网络连通性。测试网络连通性，详情请参见 配置数据源。所选资源组需绑定至待接收数据的表所在的DataWorks工作空间。操作详情请参见 使用公共资源组、新增和使用独享调度资源组、新增和使用独...
配置资源组与网络连通
在数据同步任务配置前，您需要确保用于执行同步任务的独享数据集成资源组与您将要同步的数据来源端与目的端数据库的网络连通性，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。本文为您介绍数据库在不同网络环境中...
功能特性
功能集 功能 功能描述 参考文档 资源计费 读流量 按照实际传输的数据量计费 产品定价 存储容量 按照实际的存储量计费 产品定价 公网流量 使用阿里云公网进行的网络传输数据流量 产品定价 活跃shard租用 Shard租用只统计当前状态为活跃...
数据集成概述
您需要确保数据集成用于执行数据同步的资源组与您将同步的数据来源端与目标端网络环境的连通，数据集成支持您根据数据源所在网络环境，选择对应的网络同步任务，关于网络连通方案选择与配置资源组与数据源的网络连通，详情请参见：配置资源...
独享调度资源组
网络连通方案 独享调度资源组与其他资源组类似，本质上为一组阿里云ECS实例，在进行数据开发等任务运行时，需保障资源组与数据源之间的网络是连通的，且不会因为白名单等特殊安全访问设置阻断资源组与数据源之间的网络连通性。说明 如果独...
数据集成：全领域数据汇聚
数据集成资源组与网络连通 如上图所示，进行数据同步前，需通过合适的网络连通方案将数据库和数据集成资源组间的网络打通。DataWorks当前支持使用独享数据集成资源组或自定义数据集成资源组，不同资源组的属性与适用场景不同，网络连通方案...
查询诊断
您也可以根据需求选择按照占用内存、磁盘读取数据量、磁盘读取数据耗时、网络传输数据量、网络传输数据耗时对算子排序以及计算整体比例。算子统计信息介绍如下：名称 说明 算子名称 算子名称与编号，在计划树中唯一。类型ID 算子类型编号。...
同阿里云主账号访问
在进行数据同步前，您需要确保用于执行同步任务的独享数据集成资源组与您将要同步的数据来源端与目的端数据源的网络连通性。本文为您介绍数据源与DataWorks工作空间同阿里云主账号时如何进行网络连通。背景信息 网络连通方案选择取决于数据...
添加实时数仓Hologres数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。参数 说明 VPC ID Hologres实例绑定的指定VPC的VPC ID。进入 Hologres管理控制台 的实例详情页，从 网络信息 的...
通过DataV展示数据
参考 配置数据库白名单，根据您数据库的网络类型，将DataV的白名单添加到您的RDS数据库中。登录 DataV控制台。选择 我的数据>添加数据。填写RDS实例的相关信息，单击 确定。说明 进入 云数据库RDS控制台，单击RDS MySQL实例链接，进入实例...
添加实时数仓Hologres数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。参数 说明 VPC ID Hologres实例绑定的指定VPC的VPC ID。进入 Hologres管理控制台 的实例详情页，从 网络信息 的...
新建 TiDB 数据源
新建数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 TiDB 数据源。前提条件 已获取相关数据库的 IP 地址和端口号。已存在用于数据迁移的数据库用户。建议您为数据迁移项目创建一个专属的数据库用户，该用户...
自建数据库与RDS性能对比的注意事项
您可以通过测试来对比自建数据库与RDS的性能差异，但是对比时需要保证二者具有相同的条件，如相同的网络环境、性能规格、数据库版本等。本文介绍具体的注意事项。您可以自行搭建数据库，或者购买阿里云RDS实例。推荐您购买RDS实例，因为它...
自建数据库与RDS性能对比的注意事项
您可以通过测试来对比自建数据库与RDS的性能差异，但是对比时需要保证二者具有相同的条件，如相同的网络环境、性能规格、数据库版本等。本文介绍具体的注意事项。您可以自行搭建数据库，或者购买阿里云RDS实例。推荐您购买RDS实例，因为它...
自建数据库与RDS性能对比的注意事项
您可以通过测试来对比自建数据库与RDS的性能差异，但是对比时需要保证二者具有相同的条件，如相同的网络环境、性能规格、数据库版本等。本文介绍具体的注意事项。您可以自行搭建数据库，或者购买阿里云RDS实例。推荐您购买RDS实例，因为它...
添加RDS for PostgreSQL数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。说明 如果您需要新建数据库，请参见 创建数据库。参数 说明 名称 数据源的显示名称，可以自由命名。VPC ID VPC实例...
添加RDS for PostgreSQL数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。说明 如果您需要新建数据库，请参见 创建数据库。参数 说明 名称 数据源的显示名称，可以自由命名。VPC ID VPC实例...
新建 Oracle 数据源
配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 Oracle 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏，单击 数据传输>数据源管理。在 数据源列表 页面，单击右上角的 新建数据源。在 ...
新建 MySQL 数据源
配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输新建 MySQL 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏，单击 数据传输>数据源管理。在 数据源列表 页面，单击右上角的 新建数据源。在 新建...
MySQL节点
网络联通说明 网络连通说明 MySQL节点需要访问MySQL服务，您需要确保独享调度资源组和MySQL数据库的网络已连通，关于独享调度资源组网络连通方案，详情请参见：绑定专有网络。配置白名单 若MySQL数据库存在白名单访问控制，您需要在MySQL...
添加RDS for SQLServer数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。参数 说明 名称 数据源的显示名称，可以自由命名。VPC ID VPC实例的ID，此VPC为您的RDS for SQLServer实例所在的...
添加RDS for SQLServer数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。参数 说明 名称 数据源的显示名称，可以自由命名。VPC ID VPC实例的ID，此VPC为您的RDS for SQLServer实例所在的...
添加RDS for MySQL数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。说明 如果您需要新建数据库，请参见 创建数据库。参数 说明 名称 数据源的显示名称，可以自由命名。VPC ID VPC实例...
添加RDS for MySQL数据源
选择内网数据库的网络类型（包括 专有网络 和 经典网络）。专有网络 打开 VPC 开关，进入 专有网络 模式。填写数据库信息。说明 如果您需要新建数据库，请参见 创建数据库。参数 说明 名称 数据源的显示名称，可以自由命名。VPC ID VPC实例...
专有网络VPC的数据源连通独享数据集成资源组
本文以阿里云RDS数据库为例，为您介绍专有网络VPC的数据源如何连通独享数据集成资源组。前提条件 购买RDS MySQL实例。本文以购买MySQL 5.7版本的MySQL实例为例，您可以根据业务需求进行配置。详情请参见 快速创建RDS MySQL实例。在目标实例...
数据集成概述
数据集成是基于Dataphin构建的简单高效的数据同步平台，致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量...
EMR Hive数据整库离线同步至MaxCompute
准备独享数据集成资源组并与EMR Hive网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。如果您的独享数据集成资源组和EMR数据源属于同一地域，可使用同地域VPC内网连通独享资源组和...
EMR Hive数据整库离线同步至MaxCompute
准备独享数据集成资源组并与EMR Hive网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。如果您的独享数据集成资源组和EMR数据源属于同一地域，可使用同地域VPC内网连通独享资源组和...
迁移 PolarDB-X 1.0 数据库的数据至 OceanBase 数据库...
在 预检查 环节，数据传输会检查数据库用户的读写权限、数据库的网络连接等是否符合要求。全部检查项目均通过后才能启动数据迁移项目。如果预检查报错：您可以在排查并处理问题后，重新执行预检查，直至预检查成功。您也可以单击错误预检查...
分组聚合查询优化
因为数据已经经过了局部聚合，所以需要网络传输的数据较少，网络压力较小。数据重分布完成后，执行最终聚合，在最终聚合节点，需要把一个分组的值及其聚合状态维护在内存中，直到所有数据处理完成，以确保某个特定的分组值没有新的数据需要...
新建 OceanBase 数据源
新建数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 OceanBase 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏，单击 数据传输>数据源管理。在 数据源列表 页面，单击右上角的 新建数据源。在 ...
- 产品推荐
- 这些文档可能帮助您