实时同步常见问题
如果发生数据异常，可以重新进行全量数据初始化方案（只需要将中间加列的表剔除，然后重新进行数据初始化，不需要将整个任务所有表进行全量初始化），恢复正确数据。源表有默认值，通过数据集成创建的目标表，默认值、非空属性等会保留吗？...
使用限制
注意事项 在使用DMS任务编排功能时，可能会出现任务调度延迟或由于SQL及脚本缺少幂等性而影响下游数据正确性的情况。如下为您说明出现这种情况的场景以及处理方案。任务调度延迟 在每日凌晨和每小时整点的任务调度高峰期，可能会出现任务...
密态运维及脱敏
为了验证数据正确恢复，DBA一般通过抽样查看的方式，判断数据是否正常。但由于数据被加密，无法确认恢复的数据是否与原数据一致。未授权时，DBA尝试解密密文数据失败，提示无权限。签发BCL解密和脱敏授权，DBA可以看到脱敏后的明文结果。...
密态运维及脱敏
为了验证数据正确恢复，DBA一般通过抽样查看的方式，判断数据是否正常。但由于数据被加密，无法确认恢复的数据是否与原数据一致。未授权时，DBA尝试解密密文数据失败，提示无权限。签发BCL解密和脱敏授权，DBA可以看到脱敏后的明文结果。...
添加ClickHouse数据源
网络 数据源可选的网络类型。说明 当前仅支持外网访问。域名 连接数据库的地址。重要 该地址是DataV服务器能够通过公网或阿里云部分Region内网访问您数据库的域名或IP地址。端口 数据库设置的端口。用户名 登录数据库的用户名。密码 登录...
备份与恢复
注意：由于数据恢复操作有较高的风险，如果时间可控还是建议先采用克隆实例的方式，基于一个需要恢复的备份集创建一个按量付费实例，验证数据正确性之后，再进行数据恢复操作。克隆实例 通过克隆实例的功能，您可以根据备份文件克隆出一个...
Napatech案例
业务挑战 随着网络数据流量的爆增以及业务可用性要求的不断提升，Napatech公司的用户可以将数据包采集和分析的能力提升至200G，然而上层软件产生的流量数据包元数据也爆增，给后台数据库（比如开源的HBase/ElasticSearch）的存储和索引能力...
审计经典网络数据库实例
如果需要审计经典网络数据库实例，您需要先通过ClassicLink功能实现经典网络的ECS与VPC中的数据库审计系统互通，并在经典网络的ECS上部署Agent程序。前提条件 VPC中启用ClassicLink时，需要满足限定条件，具体请参见ClassicLink概述的 使用...
内置时空数据引擎Ganos
提供拓扑网络路径分析和大规模点云存储与查询支持 Ganos所包含的几何网络数据库引擎支持Node-Edge拓扑网络构建，支持Turn、U-Turn等概念，支持TSP（旅行商问题）、KSP（多条线路最短路径）、TRSP（转向限制的最短路径）等一系列路径规划...
添加ClickHouse数据源
网络 数据源可选的网络类型。域名 连接数据库的地址。重要 该地址是DataV服务器能够通过公网或阿里云部分Region内网访问您数据库的域名或IP地址。端口 数据库设置的端口。用户名 登录数据库的用户名。密码 登录数据库的密码。数据库 单击 ...
功能特性
RDS MySQL长期保留备份 恢复演练 定期自动化演练数据库的恢复流程，并验证数据正确性。MySQL灾备恢复演练 加密备份 备份数据传输和存储加密。产品优势 跨账号备份 将数据库从账号A备份到账号B，可用于数据迁移、跨账号数据共享等场景。跨...
通过一键建仓同步至数仓版
同步链路中断7天后不再保证数据正确性，请及时处理链路中断问题。一键建仓链路不支持修改同步的库表对象，例如不支持手动移除或添加同步表等。应用场景 一键建仓主要解决云上企业构建数据仓库时配置数据同步链路繁杂的问题，同时提供了高性...
通过一键建仓同步至数仓版
同步链路中断7天后不再保证数据正确性，请及时处理链路中断问题。一键建仓链路不支持修改同步的库表对象，例如不支持手动移除或添加同步表等。应用场景 一键建仓主要解决云上企业构建数据仓库时配置数据同步链路繁杂的问题，同时提供了高性...
周期任务补数据
对于汇总逻辑表，系统会根据指标的业务相关性原则（引用相同的业务限定或原子指标）、归属同一物化节点的一致性原则，系统提示选中进行补数据的连带字段，提供数据正确性和业务稳定性的保障。例如，指标A和指标B的业务限定相同，当该业务...
周期任务补数据
对于汇总逻辑表，系统会根据指标的业务相关性原则（引用相同的业务限定或原子指标）、归属同一物化节点的一致性原则，系统提示选中进行补数据的连带字段，提供数据正确性和业务稳定性的保障。例如，指标A和指标B的业务限定相同，当该业务...
阶段一：基础防护建设
例如：《金融数据安全分级指南 JR/T 0197-2020》《网络安全标准实践指南——网络数据分类分级指引》《信息安全技术个人信息安全规范 GB/T 35273—2020》《信息技术大数据数据分类指南 GB/T 38667-2020》《基础电信企业数据分类分级方法 YD/...
安装Agent
连通经典网络中的ECS和数据库审计系统VPC的具体操作，请参见 审计经典网络数据库实例。如果您要审计的数据库部署在线下IDC机房中，您需要先打通线下IDC机房和数据库审计系统所在VPC的网络连接。您可以通过阿里云高速通道服务打通线上线下的...
网络连通与白名单配置
在调用API时，为了防止资源组不能正常访问数据源，您需要在数据源中配置IP白名单，从而确保资源组的网络连通性。本文为您介绍不同资源组类型对应的IP白名单或其获取方式，以及在数据源中配置IP白名单时的注意事项。获取白名单IP地址：公共...
表数据格式
tblproperties("transactional"="true"）：transactional属性代表满足ACID事务特性，保障快照隔离和读写并发控制，写入的每行数据会附加事务属性字段，比如事务timestamp，用来支持 Time travel查询，过滤出正确数据版本的记录。...
网络连通解决方案
添加数据源时需要根据数据源所在网络环境，通过对应的网络解决方案，实现Dataphin与数据源的网络连通。本文为您介绍数据源在不同网络环境中与Dataphin的网络连通方案。网络连通方案 根据数据源所在的网络环境，在下图中选择对应的网络连通...
使用SDK示例代码消费订阅数据
完成数据订阅通道的配置后，您可以使用DTS提供的SDK示例代码来订阅数据变更信息，本文介绍该示例代码的使用说明。操作步骤 重要 若数据源是PolarDB-X 1.0或DMS LogicDB，消费订阅数据的操作步骤请参见 使用SDK示例代码消费PolarDB-X 1.0...
使用SDK示例代码消费订阅数据
在完成数据订阅通道的配置（创建好订阅任务和消费组）后，您可以自行编写SDK示例代码或使用DTS提供的SDK示例代码来订阅数据变更信息，本文介绍示例代码的使用方法。操作步骤 重要 如果数据源是PolarDB-X 1.0或DMS LogicDB，消费订阅数据的...
跨阿里云账号同步RDS MySQL实例
注意事项 DTS在执行全量数据初始化时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标库存在死锁等），可能会加重数据库压力，...
迁移 RDS PostgreSQL 实例的数据至 OceanBase 数据库 ...
本文为您介绍如何使用数据传输迁移 RDS PostgreSQL 实例 的数据至 OceanBase 数据库 Oracle 租户。重要 如果数据迁移项目长期处于非活跃状态（项目状态为 失败、已暂停 或 已完成），受增量日志保留时长等影响，项目可能无法恢复。数据传输...
A100售后支持相关问题
购买数据库审计实例后，您可以通过以下操作配置数据库审计服务：启用数据库审计实例 管理数据库审计实例 登录数据库审计系统 添加数据库实例 部署Agent程序 更多信息，请参见 A100快速入门。如何测试数据库审计网络连通性？数据库审计外网...
A100使用指南
支持审计10个数据库实例 12,000元/月 144,000元/年 企业版 吞吐量峰值：30,000条SQL/秒 800万/小时入库速率 10亿条在线SQL语句存储 350亿条归档SQL语句存储 支持审计25个数据库实例 20,000元/月 240,000元/年 说明 可以通过需要使用的数据...
跨阿里云账号迁移RDS实例
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
如何解决由网络环境导致的实例连接失败问题？
公网网络环境 您需要使用正确的公网地址才能通过公网连接云数据库MongoDB实例。检查公网地址是否正确。您可以登录 MongoDB管理控制台，在 数据库连接 页面查看云数据库MongoDB实例的公网地址。相关文档 如何排查无法连接MongoDB实例的问题...
配置VPC数据源
本文介绍在DataV中配置专有网络VPC（Virtual Private Cloud）内数据源的方法。通过专有网络VPC数据源的配置，您可以将专有网络VPC内的数据库接入到DataV中，并作为组件的数据源进行大屏展示。背景信息 了解专有网络VPC，详情请参见 什么是...
离线数仓构建流程概述
本教程将 从前期的资源准备、数仓规划，到后期的运维补数据、查看运行结果，指导您如何使用Dataphin完成基本的离线数仓构建。以帮助您快速了解...步骤七：运维补数据 验证数据 您可以通过即席查询来验证数据的正确性。步骤八：验证数据
离线数仓构建流程概述
本教程将 从前期的资源准备、数仓规划，到后期的运维补数据、查看运行结果，指导您如何使用Dataphin完成基本的离线数仓构建。以帮助您快速了解...步骤七：运维补数据 验证数据 您可以通过即席查询来验证数据的正确性。步骤八：验证数据
通过RAM角色授权模式配置数据源
本文以OSS数据源为例，为您介绍如何通过RAM角色授权模式配置数据源，提高云上数据的安全性。前提条件 如果您需使用RAM用户登录并完成本文操作流程，请先为RAM用户授予 AliyunDataWorksFullAccess 和 AliyunRAMFullAccess 权限策略，详情请...
RestAPI Reader最佳实践
数据集成RestAPI Reader插件提供了读取RESTful接口数据的能力，通过配置HTTP请求地址，可获取RestAPI类型的数据源数据（例如获取时间范围内的数据、获取分页数据、循环请求参数获取数据等），并转换为数据集成支持的数据类型，传递给下游...
创建PostgreSQL数据源
前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。权限说明 Dataphin仅支持 超级管理员、...
创建Microsoft SQL Server数据源
前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。使用限制 Dataphin仅支持 超级管理员、...
常见问题
支持的数据库部署位置（接入方式）阿里云实例 有公网IP的自建数据库 通过数据库网关DG接入的自建数据库 通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 阿里云实例 通过数据库网关DG接...
创建ClickHouse数据源
前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。权限说明 Dataphin仅支持 超级管理员、...
创建MySQL数据源
前提条件 若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。使用限制 Dataphin仅支持 超级管理员、...
创建Hologres数据源
若您需在Dataphin中创建基于阿里云产品的数据源，创建数据源前，需确保Dataphin的IP已添加至数据库白名单（或安全组）中，使数据源与Dataphin网络互通。具体操作，请参见 数据源白名单配置。操作步骤 在Dataphin首页，单击顶部菜单栏 管理...
创建全球数据库网络
全球数据库网络（Global Database Network，简称GDN）是由分布在同一个国家不同地域的多个 PolarDB 集群组成的网络，网络中所有集群的数据均保持同步。当您的业务部署在多个地域时，利用GDN可以实现应用访问数据库的低延迟和高稳定性。本文...
- 产品推荐
- 这些文档可能帮助您