补数据
为什么补数据报错调起的节点运行时间不在所选业务时间范围内？为什么有节点选择了补数据，但是没有生成补数据实例？周、月任务如何执行补数据操作 补数据功能说明 补数据支持补历史一段时间区间的数据或者需要补未来一段时间的数据时，可以...
问题汇总
为什么补数据报错调起的节点运行时间不在所选业务时间范围内？为什么有节点选择了补数据，但是没有生成补数据实例？等待资源 为什么会出现等待资源？为什么任务一直在等待gateway调度资源？为什么数据集成任务一直显示wait？为什么会空跑 ...
执行补数据并查看补数据实例（旧版）
补数据可通过补历史或未来一段时间的数据，将写入数据至对应时间分区。代码中的 调度参数，将根据补数据选择的业务时间自动替换为具体值，并结合业务代码将对应时间数据写入指定分区。具体写入的分区与执行的代码逻辑，与任务定义的代码...
执行补数据并查看补数据实例（新版）
补数据可通过补历史或未来一段时间的数据，将写入数据至对应时间分区。代码中的 调度参数，将根据补数据选择的业务时间自动替换为具体值，并结合业务代码将对应时间数据写入指定分区。具体写入的分区与执行的代码逻辑，与任务定义的代码...
常见问题
支持的数据库部署位置（接入方式）阿里云实例 有公网IP的自建数据库 通过数据库网关DG接入的自建数据库 通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 阿里云实例 通过数据库网关DG接...
常见问题
非插件报错原因及解决方案 如何处理编码格式设置/乱码问题导致的脏数据报错？任务存在SSRF攻击Task have SSRF attacks如何处理？离线同步任务执行偶尔成功偶尔失败。离线同步源表有加列（修改）如何处理？如何处理表列名有关键字导致同步...
离线同步常见问题
读取PostgreSQL数据报错：org.postgresql.util.PSQLException:FATAL:terminating connection due to conflict with recovery 写入/读取MySQL报错：Application was streaming results when the connection failed.Consider raising value ...
常见问题
如何处理导入数据报错：too many parts？为什么DataX导入速度慢？为什么Hive导入后其数据行数跟ClickHouse对不上？为什么Kafka导入后其数据行数跟ClickHouse对不上？如何使用Spark、Flink导入数据？如何从现有ClickHouse导入数据到云数据库...
常见问题
Q：数据什么时候进入冷存储？A：Lindorm通过 compaction 机制异步将冷数据从热存储归档至冷存储，系统触发时间默认为冷热分界线的一半，最小为1天，最大为 major compaction 周期的一半，major compaction 周期默认为20天。例如，冷热分界...
数据服务
为什么数据服务无法连接ECS自建的数据库？是否必须开通API网关？如何配置数据源？数据服务是否支持MaxCompute（ODPS）数据源？向导模式生成API与脚本模式有何功能差异？数据服务中的API分组的作用是什么，与API网关中的分组有什么关联？...
离线同步并发和限流之间的关系
在一些数据同步场景，脏数据的出现会导致任务同步效率下降，以关系数据库写出为例，默认是执行batch批量写出模式，在遇到脏数据时会退化为单条写出模式（以找出batch批次数据具体哪一条是脏数据，保障正常数据正常写出），但单条写出效率会...
客户端FAQ
常见问题 Q：JDBC读取数据报错：java.lang.NumberFormatException:For input string:"xxxx"A：尝试按照普通数据类型解析密文数据，例如 getInt/getBigDecimal/getBoolean/getLong/getFloat/getDouble，由于密文不符合普通数据类型格式要求...
RDS MySQL物理备份文件恢复到自建数据库
常见下载问题 Q：为什么下载数据文件会报错？A：使用 wget-c 'https://*.bak.rds.aliyuncs.com/*_xb.qp?'-O test_xb.qp 命令下载时请用2个英文单引号（'）将下载地址包裹起来，便于程序识别具体的地址，防止出错。步骤二：解压备份文件 ...
配置MySQL输入
MySQL输入基于Binlog实时订阅的方式，实时读取您配置的MySQL数据库表数据。...前提条件 配置MySQL输入之前，请确保已完成以下规划与准备工作。...已开启MySQL Binlog服务，详情请参见 开启MySQL Binlog。...实时同步MySQL数据报错
数据集成调度策略说明
源表不能存在外键约束，否则可能导致数据迁移失败（可能在目标库中先更新有外键约束的子表，后更新附表，导致子表插入新数据报错）。无法迁移被物理删除的数据（例如通过DELETE、TRUNCATE命令删除）。说明 如果存在无主键的表，DTS会将整条...
常见问题
如何确认ECS和Redis的网络环境是否相同 创建Redis实例时找不到已有的交换机 连接Redis报错“WRONGPASS invalid username-password pair”使用短连接访问Redis出现“Cannot assign requested address”错误 为什么没有加入IP白名单的客户端...
数据迁移与同步FAQ
什么是数据迁移、数据同步？DTS的数据迁移与数据同步工作原理是什么？DTS的数据迁移与数据同步有什么区别？使用DTS遇到预检查报错，如何解决？什么是数据迁移、数据同步？数据迁移：将Redis数据库中的数据（即键值对）迁移至另一个Redis...
常见问题概览
为什么副本集实例写入数据报错：NotMaster、NotWritablePrimary或Time out after 30000ms while waiting for a server that matches writableServerSelector？数据安全 热点问题 其他常见问题 白名单分组名称及来源说明 云数据库MongoDB版...
连接失败常见报错
为什么副本集实例写入数据报错：NotMaster、NotWritablePrimary或Time out after 30000ms while waiting for a server that matches writableServerSelector？reason:TopologyDescription { type:'ReplicaSetNoPrimary',当前连接的副本集...
冷数据归档备份与恢复
而归档到OSS的冷数据和InnoDB热数据，都是用户的实例数据，所以无论数据以什么形式存在，整个数据库实例都应该被视为一个整体来做备份恢复方案，为此我们对归档OSS的冷数据设计了一套完整的备份与恢复方案。技术原理 针对于包含冷数据的...
外部数据
不管使用什么外部数据包装器，本数据库会要求外部数据包装器从外部数据源获取数据，或者在更新命令的情况下传送数据到外部数据源。访问远程数据可能需要在外部数据源的授权。这些信息通过一个用户映射提供，它基于当前的本数据库角色提供了...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
Delta Lake和Hudi是数据湖方案中常用的存储机制，为数据湖提供流处理、批处理能力。MaxCompute基于阿里云DLF、RDS或Flink、OSS产品提供了支持Delta或Hudi存储机制的湖仓一体架构。您可以通过MaxCompute查询到实时数据，即时洞察业务数据...
常见问题
数据安全中心DSC根据为不同行业预先定义的敏感数据关键字段，扫描MaxCompute、OSS、阿里云数据库服务（RDS、PolarDB-X、PolarDB、OceanBase、表格存储等）和自建数据库中的数据，通过敏感数据规则，判断和打标敏感数据，为数据安全审计、...
什么是数据库网关
为什么选择数据库网关 数据库网关提供安全可靠、低成本的数据库接入服务，通过数据库网关您可以安全且低成本地将第三方云或本地的数据库接入至阿里云。同时数据库网关可以与其他阿里云产品（例如数据传输服务DTS，数据库备份DBS，数据管理...
什么是数据管理DMS
为什么选择数据管理DMS 全域数据资产：支持企业全域数据资产管理，提供贯穿数据生命周期的质量治理与安全治理，帮助企业快速地查找数据，高效地使用数据。数据集成：支持常见数据源的实时、离线数据集成，数据集成过程中支持灵活自定义数据...
一键建仓
数据管理DMS一键建仓功能可以实现一键创建实时同步的数据仓库，数据可在秒级的延迟下，同步至AnalyticDB MySQL版数据库中，帮助您更实时、准确地掌握业务情况，以便更好地进行业务分析和决策，提升业务效果。本文介绍如何在数据管理DMS中...
RDS术语
A AliPG 阿里云支持一系列兼容PostgreSQL的云数据库服务产品，这些云数据库服务采用统一的数据库内核（简称AliPG），AliPG兼容PostgreSQL开源数据库，于2015年正式商用，支持PostgreSQL主流大版本，已稳定运行多年，支撑了大量阿里巴巴集团...
RDS术语
DMS Data Management，数据管理，是一种阿里云提供的图形化的数据管理工具，集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。支持MySQL、SQL Server、PostgreSQL、MongoDB、...
使用流程
若您初次使用数据库备份DBS，请先了解 什么是数据库备份DBS。如需了解DBS是否支持备份恢复您的数据库，以及各类数据库备份恢复的具体粒度等，请参见 支持的数据库引擎与功能 或 各类数据库备份配置指导文档。备份恢复方案 您可以通过如下两...
RDS术语
DMS Data Management，数据管理，是一种阿里云提供的图形化的数据管理工具，集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。支持MySQL、SQL Server、PostgreSQL、MongoDB、...
基本概念
DTS 数据传输服务（Data Transmission Service，简称DTS）支持关系型数据库（RDBMS）、非关系型数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，帮助您构建安全、可扩展、高可用的...
RDS术语
DMS Data Management，数据管理，是一种阿里云提供的图形化的数据管理工具，集数据管理、结构管理、访问安全、BI图表、数据趋势、数据轨迹、性能与优化和服务器管理于一体的数据管理服务。支持MySQL、SQL Server、PostgreSQL、MongoDB、...
2023年
从RDS MySQL同步至AnalyticDB PostgreSQL版Serverless模式 什么是数据传输服务DTS 索引 Serverless支持主键索引和二级索引。无 行级别的数据更新 Serverless支持行级别的数据并发写入、更新和删除。无 Bloom Filter优化功能 Serverless新增...
数据上云工具
DTS（Tunnel通道系列）什么是数据传输服务DTS 是阿里云提供的一种支持RDBMS（关系型数据库）、NoSQL、OLAP等多种数据源之间数据交互的数据服务。它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输功能。DTS可以支持RDS、MySQL...
产品优势
数据管理DMS是一款支撑数据全生命周期的一站式数据管理平台，本文介绍数据管理DMS的产品优势。实现全域数据资产管理 支持全域数据资产：关系型数据库：MySQL、SQL Server、PostgreSQL、PolarDB MySQL版、PolarDB PostgreSQL版（兼容Oracle...
新功能发布记录
什么是数据管理DMS 02月 功能名称 变更类型 功能描述 相关文档 数据库迁移 新增 通过产品化解决方案的封装，实现数据库迁移、校验和清理的闭环操作。同时支持库名称修改、迁移前预校验、迁移后数据一致性校验及来源数据库的清理，保证数据...
数据库管理常见问题
为什么查询数据库列表时页面报错？该查询操作需要连接到您的数据库集群上进行，如果查询报错，请检查集群是否存在以下情况：连接数过多或打满；集群负载过高，无法响应；集群正在升级、升降配的过程中，出现预期内的闪断。
Tunnel命令常见问题
使用Tunnel Upload命令上传数据报错，是否有类似MySQL的-f参数，可以强制跳过错误数据继续进行上传？使用Tunnel Upload命令上传数据时，报错You cannot complete the specified operation under the current upload or download status，...
数据湖管理FAQ
本文汇总了数据湖管理相关的常见问题及解决方案。Lakehouse相关问题 什么是Lakehouse？Lakehouse数据入湖时，对线上RDS有压力吗？如何控制建仓的限流能力？Lakehouse工作负载为什么运行失败，又没有S park Log 日志可以看？元数据发现相关...
数据治理
数据地图 为什么数据地图数据总览页存储量和存储趋势图相差较大？数据地图血缘展示延迟问题 数据地图新建表搜不到 当前表业务逻辑变更如何通知下游？哪些类型的Hive表支持在数据地图中预览？数据保护伞 数据保护伞为什么有时候查询脱敏有...
- 产品推荐
- 这些文档可能帮助您