管理网络配置
参数 说明 专有网络 选择用于工作空间机器与待绑定的EMR集群、待添加数据库连通专有网络，需与后续添加使用的EMR集群、数据库专有网络保持一致。交换机 选择用于工作空间机器与待绑定的EMR集群、待添加数据库连通的交换机，仅支持选择特定...
管理数据库
本文为您介绍如何新建、编辑或删除数据库。前提条件 已创建工作空间，详情请参见 管理工作空间。已创建EMR on ECS形态下的集群或Serverless StarRocks实例，详情请参见 创建集群 或 创建实例。支持的集群类型为DataLake、Hadoop和自定义...
HttpFile数据源
未配置"nullFormat"参数：表示来源是什么数据就直接按照什么数据写入目标端，不做任何转换。否 无 skipHeader 类CSV格式文件可能存在表头为标题情况，同步数据时可选择是否需要跳过表头（即不同步表头数据）。true：跳过。false：不跳过。...
FTP数据源
不写"nullFormat"这个参数，等同于“未配置”，代表来源是什么数据就直接按照什么数据写入目标端，不做任何转换。否 无 markDoneFileName 标档文件名，数据同步前检查标档文件。如果标档文件不存在，等待一段时间重新检查标档文件，如果...
添加ClickHouse数据源
本文档介绍在DataV中添加ClickHouse数据源的方法，以及相关参数配置说明。前提条件 已准备好待添加的ClickHouse数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 类型 列表中...
快速使用EMR Notebook
在弹出的对话框中，选择 地域，设置 名称、描述 及网络相关参数（专有网络、交换机、安全组），单击 创建工作空间。网络配置相关信息，请参见 管理网络配置。例如，新建地域为华东1（杭州），名称为emr_notebook的工作空间。说明 工作空间...
添加ClickHouse数据源
本文档介绍在DataV中添加ClickHouse数据源的方法，以及相关参数配置说明。前提条件 已准备好待添加的ClickHouse数据源。通过外网添加数据源操作步骤 登录 DataV控制台。在 工作台 页面，单击 数据准备>数据源，进入 数据源 页面，单击 新建...
从备库备份MongoDB数据库
说明 若您选择 有公网IP:Port的自建数据库，您无需填写 对端专有网络 参数。数据库类型 默认为 MongoDB。对端专有网络 选择目标专有网络。备库连接地址配置 选择 是。说明 若您选择 否，您无需配置 备库连接地址 和 备库端口 参数。主库...
常见问题
PolarDB数据源网络联通性测试失败怎么办？Oracle数据源网络联通性测试失败怎么办？MySQL数据源网络联通性测试失败怎么办？实时任务，运行报错：...
API概览
本产品（云数据库 ...全球数据库网络（GDN）管理 API 标题 API概述 CreateGlobalDatabaseNetwork 新建全球数据库网络 创建一个新的全球数据库网络（GDN）。DeleteGlobalDatabaseNetwork 删除全球数据库网络 删除全球数据库网络（GDN）。...
概述
全球数据库网络（Global Database Network，简称GDN）是由分布在同一个国家内多个地域的多个 PolarDB 集群组成的网络。本文将介绍GDN特性等详情。GDN网络中所有集群的数据保持同步，网络中每个集群均提供读服务（写服务会被转发到主集群...
常见问题
PolarDB数据源网络联通性测试失败怎么办？MySQL数据源网络联通性测试失败怎么办？实时任务，运行报错：com.alibaba.otter.canal.parse.exception.PositionNotFoundException: can't find start position for XXX 实时任务，运行报错：...
补数据
补数据功能说明 为什么小时分钟任务补数据选择了并行但实际不生效？为什么补数据选择业务时间后不运行，实例显示黄色，实例状态显示等待时间？为什么补数据选择业务时间昨天和今天，也会出现等待时间的情况？为什么补数据选择补0点~1点生成...
全增量同步任务常见问题
PolarDB数据源网络联通性测试失败怎么办？OceanBase数据源网络联通性测试失败怎么办？MySQL数据源网络联通性测试失败怎么办？全增量实时至MaxCompute时，数据源被置灰了没法选择怎么办？实时任务，运行报错：...
新增和使用独享数据集成资源组
由于执行数据同步任务流程的要求，需要保证资源组可以访问数据源（来源数据源和目标数据源）所在的网络，且不会因白名单限制等原因不能访问数据源。因此，您需要在保证网络连通的前提下，再使用数据集成，如果网络不通，会导致数据同步任务...
通用参考：添加路由
如果添加路由后，仍然存在网络连通问题，请根据如下因素进行排查：如果独享资源组访问的是本地IDC数据源，或者跨账号访问数据源，请先参考 配置资源组与网络连通 进行网络连通，再为独享资源组绑定与数据库网络连通的VPC。如果您的数据源已...
新增和使用独享调度资源组
说明 DataWorks工作空间和数据源不在同一地域或不在同一个阿里云主账号下，您还需通过 VPN网关 或 高速通道 等方式，将独享资源组绑定的VPC与数据源所在VPC网络打通，并手动添加路由指向目标数据库IP，保障两个网络间可达。详情请参见 配置...
设备网络状态
网络异常的数据格式：{"id":"123","version":"1.0","params":{"p":{"wifi":{"rssi":75,"snr":20,"per":10,"err_stats":"10,02,01;10,05,01"},"_time":1566432629000 },"model":"quantity=single|format=simple|time=now"} } 说明 定时检测...
连接数据库集群
输入要连接的 PolarDB 集群信息，参数说明如下：参数 说明 网络类型 连接数据库的形式。选择MariaDB or MySQL（TCP/IP）。主机名/IP地址 输入 PolarDB 集群的私网地址或公网地址。若您的客户端部署在ECS实例上，且ECS实例与要访问的 ...
创建MySQL数据源
数据源配置 基于业务数据源是否区分生产数据源和开发数据源：如果业务数据源区分生产数据源和开发数据源，则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源，则选择 生产数据源。标签 您可根据标签给数据源进行分类...
Kafka实时ETL同步至Hologres
在 数据输出预览 窗口，您可以根据需要修改输入数据，或者单击 手工构造数据 按钮自定义输入数据，然后单击 预览 按钮，查看当前数据处理节点对数据的处理结果，当数据处理节点处理异常，或者产生脏数据时，也会实时反馈异常信息，能够帮助...
ClickHouse整库数据离线同步至Hologres
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置网络连通。如果您的独享数据集成资源组和数据源属于同一地域，可使用同地域VPC内网连通独享资源组和数据...
创建PostgreSQL数据源
前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。权限说明 Dataphin仅支持 超级管理员、...
数据服务入门
步骤一：创建数据源并配置网络连通性 使用数据服务创建API前，您需将数据库或数据仓库添加为DataWorks的数据源，并保障数据服务资源组与您的目标数据源网络连通，以便调用API时DataWorks可成功访问数据源。说明 DataWorks工作空间将集群或...
如何调节备份速度
在拥有大量数据且对备份时间窗口有严格要求等场景下，您可以通过调节备份计划的全量备份并行线程数上限与备份网络限速参数，以此调节备份速度。概念说明 全量备份并行线程数 全量备份并行线程数越多，备份速度越快，对备份源数据库性能的...
创建Microsoft SQL Server数据源
前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。使用限制 Dataphin仅支持 超级管理员、...
5.6/5.7/8.0版功能对比
❌ 全球数据库 功能 集群版 创建与删除全球数据库网络 ✔️ 管理从集群 ✔️ 连接全球数据库网络 ✔️ 备份与恢复 功能 集群版 自动备份 ✔️ 手动备份 ✔️ 全量恢复（从备份集恢复）✔️ 全量恢复（恢复到过去时间点）✔️ 库表恢复（从...
创建实例
您可以通过 云原生多模数据库 Lindorm 控制台创建Lindorm实例。本文介绍创建Lindorm实例的步骤，以及创建过程中各个参数的含义。前提条件 已注册阿里云账号。具体操作请参见 注册阿里云账号。免费试用 阿里云提供免费试用 云原生多模数据库...
迁移可用区
网络类型为专有网络或处于专有网络和经典网络混访。参数 参数说明 您在节点的实例 固定为当前实例ID。当前的可用区 固定为实例当前所在可用区。迁移至 选择迁移的目标可用区。请选择虚拟交换机 选择迁移的虚拟交换机。切换时间 选择迁移...
查询慢日志
代理慢日志 代理慢日志中统计的命令执行时间从代理向数据节点发出请求开始，到代理从数据节点收到相应的回复为止，包含了命令在数据节点中的执行时间、数据在网络中的传输时间以及命令的排队延迟等。代理慢日志的保留时间为72小时，无数量...
Kafka单表实时入湖OSS（HUDI）
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置资源组与网络连通。说明 OSS数据源在下一步新增OSS数据源时，指定Endpoint地址，即可实现OSS数据源与独享...
DataV
配置 添加数据 对话框的参数，根据您使用的网络配置参数，单击 确定。各种网络的配置方式如下：参数配置（使用指定VPC网络连接Hologres）参数名称 描述 说明 类型 选择 实时数仓 Hologres。无 网络名称 选择 内网。无 地域 Hologres实例...
查询慢日志
代理慢日志 代理慢日志中统计的命令执行时间从代理向数据节点发出请求开始，到代理从数据节点收到相应的回复为止，包含了命令在数据节点中的执行时间、数据在网络中的传输时间以及命令的排队延迟等。代理慢日志的保留时间为72小时，无数量...
使用慢日志排查超时问题
代理慢日志 代理慢日志中统计的命令执行时间从代理向数据节点发出请求开始，到代理从数据节点收到相应的回复为止，包含了命令在数据节点中的执行时间、数据在网络中的传输时间以及命令的排队延迟等。代理慢日志的保留时间为72小时，无数量...
使用DataWorks
MaxCompute支持通过DataWorks的数据集成功能将MaxCompute中的数据以离线方式导出至其他数据源。当您需要将MaxCompute中的数据导出至其他数据源执行后续数据处理操作时，您可以使用数据集成功能导出数据。本文为您介绍如何将MaxCompute的...
独享资源组模式
如果做过网络打通，即存在数据库和DataWorks不在同一个region、数据库和DataWorks不在同一个阿里云账号、数据库在本地IDC环境下等需要网络打通的情况，请为独享绑定数据库已经打通的VPC，请参见 新增和使用独享数据集成资源组，再在绑定...
购买同步实例
networkType String 否 Intranet 数据传输网络类型，固定取值为 Intranet（专线）。AccountId String 否 12323344*阿里云主账号ID，无需设置，该参数即将下线。DBInstanceCount Integer 否 3 当 SourceEndpoint.InstanceType传入 DRDS时，...
通过脚本模式配置离线同步任务
当您需要实现更精细化的配置管理时，您可以使用脚本模式配置离线同步任务，通过编写数据同步的JSON脚本并结合DataWorks调度参数使用，将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍脚本模式配置离线同步任务...
MySQL整库周期性增全量同步至Hive
本实践以MySQL作为来源数据源，以Hive作为去向数据源，因此您需要在DataWorks的工作空间的 数据源管理 页面新增MySQL数据源和Hive数据源，两个数据源支持的数据同步能力请参见 MySQL数据源、Hive数据源。已购买独享数据集成资源组，并为...
Oracle同步至Tablestore
本实践以Oracle作为来源数据源，以Tablestore作为去向数据源，因此您需要在DataWorks的工作空间的 数据源管理 页面新增Oracle数据源和Tablestore数据源，两个数据源支持的数据同步能力请参见 Oracle数据源、Tablestore数据源。已购买独享...
- 产品推荐
- 这些文档可能帮助您