时序分析存储概述
更新分析存储数据生命周期 修改分析存储数据生命周期TTL，优化存储费用。SQL查询分析 分析存储支持通过SQL进行查询，SQL中支持通过使用不同条件进行聚合分析操作。核心优势 海量数据的实时分析 对于时序的热数据采用 表格存储 行列混合的宽...
管理问题数据
数据质量支持您保留数据质量监控过程中从数据表中发现的非预期数据，帮助您快速排查、定位问题，提升数据质量。本文为您介绍如何管理数据质量监控过程中从数据表中发现的非预期数据。背景信息 问题数据表 数据质量支持在部分规则校验不通过...
创建同步ADS
2.同步说明 1）目前DataHub仅支持将TUPLE数据同步到ADS服务中2）ReplaceInto与IgnoreInto：ReplaceInto模式下，会使用replace into语句将数据插入，反之，IgnoreInto会使用insert方式插入数据库（replace into将根据主键覆盖记录，ignore ...
DBS沙箱功能概览
背景信息 在海量数据场景下，传统数据库备份服务面临两大越来越严重的困难：存储成本：为了保障数据恢复点目标（Recovery Point Objective，RPO），周期性的全量和增量备份产生大量重复数据，导致存储成本过高。使用成本：您必须待数据完成...
规划工作空间
缺点 容易形成数据烟囱，数据重复计算、重复存储，跨空间依赖复杂，资源易争抢。数据架构不清晰，各业务口径不一致，工作空间内人员复杂，数据安全风险高。开发周期长，运维链路长，标准模式下上层任务正式发布前需要修改代码。架构稳定性...
表删除，更新和合并
通过合并的SQL语义，它将新数据与表中的现有数据进行匹配并删除重复数据，但是如果新数据集中存在重复数据，则将其插入。因此，在合并到表之前，对新数据进行重复数据删除。如果您知道几天之内可能会得到重复的记录，则可以通过按日期对表...
创建同步RDS/MySQL/ADS3.0
schema如下图所示：建立同步任务这里写入模式选择IGNORE，导入所有字段 向DataHub中写入TUPLE数据，数据内容如下图所示，共4条数据 确认同步数据这里采用MySQL客户端连接RDS服务查看数据，数据结果如下图所示：同步数据到MySQL 准备工作 1....
数据膨胀诊断
AnalyticDB PostgreSQL版 数据库使用PostgreSQL多版本并发控制（MVCC）来管理并发事务，底层表的储存数据被划分成固定大小的Page，默认Page大小为32 KB。每个Page包含Header（数据头）、Item pointer array（指向内部数据的指针数组）、...
UDT示例
select size(new ArrayList()),-对ArrayList数据调用内置函数Size。array(1,2,3).size(),-对内置类型ARRAY调用List的Size方法。sort_array(new ArrayList()),-对ArrayList的数据进行排序。al[1],-虽然Java的List不支持下标操作，但ARRAY...
数据归档
背景信息 ODC 支持定时将源数据库中的表数据归档至其它目标数据库中，以解决因线上数据增多影响查询性能与业务运作的问题。本文档旨在介绍如何通过提交数据归档工单实现归档数据。原理介绍 前提条件 归档的表中必须包含主键。注意事项 前置...
功能特性
单链接限速 管理目录 与传统文件系统中的层级结构不同，OSS内部使用扁平结构存储数据。即所有数据均以Object的形式保存在Bucket中。为方便您对Object进行分组并简化权限管理，您可以创建目录，然后将目标Object存放至指定目录。当您不需要...
创建数据表
表格存储会按照主键的大小为行排序，具体请参见 表格存储数据模型和查询操作。第一列主键作为分区键。分区键相同的数据会存放在同一个分区内，所以相同分区键下的数据尽量不要超过10 GB，否则会导致单分区过大，无法分裂。另外，数据的读/...
同步时源库为PolarDB MySQL版的注意事项及限制
如果同步的源集群为 PolarDB MySQL版，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源实例为PolarDB MySQL版的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：说明 DTS默认...
迁移时源库为PolarDB MySQL版的注意事项及限制
如果迁移的源集群为 PolarDB MySQL版，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为PolarDB MySQL版的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及限制：PolarDB MySQL版...
云存储网关软件版公测
元数据 元数据存储管理 下表详细列举了ossfs与云存储网关软件版元数据相关的原理对比：对比项 云存储网关软件版 ossfs 元数据缓存 云存储网关软件版采用KV数据库存储数据，它会将元数据全量缓存到缓存盘里，能够处理大规模的文件数目。...
迁移时源库为PolarDB-X 2.0的注意事项及限制
如果迁移的源实例为 PolarDB分布式版，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为PolarDB-X 2.0的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及限制：PolarDB-X 2.0迁移...
新增消费组
通过创建多个消费组，您可以对同一个数据源的数据进行重复消费，从而降低数据订阅的使用成本，提升数据消费速度。注意事项 一个数据订阅实例最多可以创建20个消费组，通过创建多个消费组可以实现数据的重复消费。一个消费组只能创建一个...
应用场景
存储成本低：重复数据删除技术大幅降低您的备份数据存储成本。存储虚拟化技术：不依赖用户生产实例，将直接使用云上资源的沙箱实例，且在沙箱中的读写不会影响到源数据库。异地备份 互联网金融、银行、保险等行业的数据库除同城备份外，...
自建HBase迁移至云原生数据仓库 AnalyticDB MySQL 版 ...
多表归并 选择为 是：DTS将在每个表中增加_dts_data_source 列来存储数据来源。具体操作，请参见 开启多表归并。选择为 否：默认选项。说明 多表归并功能基于任务级别，即不支持基于表级别执行多表归并。如果需要让部分表执行多表归并，另...
同步时源库为PolarDB-X 2.0的注意事项及限制
如果同步的源实例为 PolarDB分布式版，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为PolarDB-X的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：说明 DTS默认同步到目标...
概述
使用场景 典型的应用场景如下：近实时计算场景 时间序列数据的场景 预测建模 与存量数据共存 通常生产环境中会有大量的存量数据，数据可能存储在HDFS、RDBMS或Kudu中。如果您只是想访问和查询这些存量数据，可以使用Impala访问和查询，而...
同步时源库为Db2 for LUW的注意事项及限制
说明 如为增量同步任务，DTS要求源数据库的数据日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量同步完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志...
迁移时源库为MySQL的注意事项及限制
如果迁移的源数据库类型为MySQL，如自建MySQL、RDS MySQL，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为MySQL的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及限制：MySQL间...
同步时源库为PolarDB-X 1.0的注意事项及限制
如果同步的源实例为 PolarDB-X 1.0，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。重要 更多功能规范和约束说明，请参见 源为PolarDB-X的功能规范和约束说明。推荐的任务配置方案，请参见 源为...
PolarDB MySQL版同步至AnalyticDB MySQL 3.0
DTS会在目标库的同步目标表中增加_dts_data_source 列（类型为text）来存储数据来源，并且将以 DTS实例ID:数据库名称:schema名称:表名 的格式写入列值用于区分表的来源，例如 dts*:dtstestdata:testschema:customer1。多表归并功能基于任务...
自建MySQL应急恢复
背景信息 DBS沙箱功能，尝试引入数据重删技术（重复数据删除技术）和虚拟化存储技术，来解决传统数据库备份服务中的存储成本和使用成本问题。通过重删和增量合并技术，使得备份数据在服务端持续保持可用的全量状态。通过虚拟化存储技术，...
迁移时源库为MongoDB的注意事项及限制
如果迁移的源数据库类型为MongoDB，如自建MongoDB、云数据库MongoDB，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为MongoDB的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及...
迁移时源库为Oracle的注意事项及限制
如果迁移的源数据库类型为自建Oracle，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为Oracle的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及限制：自建Oracle迁移至PolarDB ...
PolarDB-X 2.0迁移至云原生数据仓库 AnalyticDB MySQL...
多表归并 选择为 是：DTS将在每个表中增加_dts_data_source 列来存储数据来源。具体操作，请参见 开启多表归并。选择为 否：默认选项。说明 多表归并功能基于任务级别，即不支持基于表级别执行多表归并。如果需要让部分表执行多表归并，另...
PolarDB-X 1.0迁移至AnalyticDB MySQL 3.0
多表归并 选择为 是：DTS将在每个表中增加_dts_data_source 列来存储数据来源。具体操作，请参见 开启多表归并。说明 多表归并功能基于任务级别，即不支持基于表级别执行多表归并。如果需要让部分表执行多表归并，另一部分不执行多表归并，...
转换存储类型
OSS支持标准、低频访问、归档、冷归档、深度冷归档多种存储类型，您可以通过生命周期规则或者CopyObject的方式随时转换文件（Object）的存储类型。警告 对开通了OSS-HDFS服务的Bucket，建议不要修改OSS-HDFS的数据存储目录.dlsdata/下任意...
新增消费组
通过创建多个消费组，您可以对同一个数据源的数据进行重复消费，从而降低数据订阅的使用成本。注意事项 若您需要消费的单行数据超过16MB，则可能会导致消费客户端内存OOM（Out of Memory）。一个数据订阅实例最多可以创建20个消费组，通过...
访问列存数据
列存即列式存储，是一种将数据按列进行存储和处理的数据管理方式。Lindorm计算引擎支持将半结构化、结构化数据以列存方式进行存储，相较于行式存储，列式存储的查询响应时间更短，消耗IO更少。本文介绍如何通过计算引擎访问Lindorm列存数据...
敏感数据溯源
DataWorks的数据溯源功能，支持通过提取数据泄露文件中数据的水印信息，帮助您定位到可能会泄露目标数据的责任人。本文为您介绍如何创建溯源任务，并通过该任务查找可能会泄露数据的责任人。前提条件 已创建 数据识别规则，详情请参见 配置...
PolarDB MySQL版迁移至AnalyticDB MySQL 3.0
多表归并 选择为 是：DTS将在每个表中增加_dts_data_source 列来存储数据来源。具体操作，请参见 开启多表归并。选择为 否：默认选项。说明 多表归并功能基于任务级别，即不支持基于表级别执行多表归并。如果需要让部分表执行多表归并，另...
数据表操作
使用 表格存储 存储数据前，您需要通过调用 CreateTable 接口创建一个数据表。创建数据表时，您需要指定数据表的结构信息以及根据实际使用所需功能。其中数据表的结构信息包括数据表名称、主键定义以及预定义列配置。为数据表配置最大版本...
同步时源库为MongoDB的注意事项及限制
如果同步的源数据库类型为MongoDB，如自建MongoDB、云数据库MongoDB，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为MongoDB的同步方案概览 根据如下同步方案，查看同步任务的注意事项及...
同步时源库为SQL Server的注意事项及限制
如为增量同步任务，DTS要求源数据库的数据日志保存24小时以上，如为全量同步和增量同步任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量同步完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志而导致...
迁移时源库为SQL Server的注意事项及限制
如为增量迁移任务，DTS要求源数据库的数据日志保存24小时以上，如为全量迁移和增量迁移任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量迁移完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志而导致...
质量规则参数配置
数据表参数配置 数据表规则配置 模板类型 描述 完整性/唯一性 完整性-字段空值校验/字段空字符串校验 唯一性-字段唯一性校验/字段分组个数校验/字段重复值个数校验：校验字段：选择物理表中的需要校验的字段。校验表数据过滤：默认关闭，...
- 产品推荐
- 这些文档可能帮助您