离线同步任务调优
本文为您介绍影响数据同步速度的因素、如何通过调整同步任务的并发配置来实现同步速度最大化、作业的限速选项，以及数据同步过慢的场景。文档概述 同步速度受同步任务本身配置、数据库、网络等多方面影响，详情请参见：数据同步速度的影响...
配置ClickHouse输出组件
同步其他数据源的数据至ClickHouse数据源的场景中，完成源数据的信息配置后，需要配置ClickHouse输出组件写入数据的目标数据源。本文为您介绍如何配置ClickHouse输出组件。前提条件 在开始执行操作前，请确认您已完成ClickHouse数据源及...
数据同步操作指导
数据同步功能可以帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等多种业务场景。本文介绍数据同步功能的具体使用流程，帮助您快速掌握创建、...
产品架构
数据源地址动态适配 对于数据订阅及同步链路，容灾系统还会监测数据源的连接地址切换等变更操作，一旦发现数据源发生连接地址变更，它会动态适配数据源新的连接方式，在数据源变更的情况下，保证链路的稳定性。数据迁移工作原理 数据迁移...
开通或关闭数据共享
AnalyticDB PostgreSQL版Serverless模式 实例开通数据共享后，可以实现跨实例联合查询，在保证数据实时性的同时，有效减少数据冗余。使用限制 实例资源类型为Serverless版本。所有实例必须属于同一个阿里云账号。所有实例需要在同一地域下...
配置ClickHouse输出组件
同步其他数据源的数据至ClickHouse数据源的场景中，完成源数据的信息配置后，需要配置ClickHouse输出组件写入数据的目标数据源。本文为您介绍如何配置ClickHouse输出组件。前提条件 在开始执行操作前，请确认您已完成ClickHouse数据源及...
存储过程
存储过程（SQL stored procedures），通常指数据库中存放在一起的一系列SQL。您在使用存储过程时，可以指定存储过程的名字并使用参数（parameters），并在合适的时候调用存储过程实现相同或者不同的业务。本文将介绍存储过程的使用方法。...
我是普通用户
测试数据构建 测试数据结构可以在频繁的数据准备过程中确保数据安全、保障数据离散型、提高生产效率。数仓开发 数仓开发以数据库为主要计算引擎，融合数据库生态中多种工具和服务（如DTS、DLA等），让用户可以轻松拥有数据仓库进行开发和...
数据风险点监控
在线数据风险点监控 在线业务系统的数据生成过程中必须确保数据质量，根据业务规则对数据进行监控。说明 MaxCompute本身未提供相应的监控工具，您可以借助DataWorks进行监控。详情请参见 概述。您可以对数据库表的记录进行规则校验，制定...
迁移时源库为Redis的注意事项及限制
如果迁移的源数据库类型为Redis，如自建Redis、云数据库Redis版，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为Redis的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及限制：...
同数据库归档
当数据库中表的数据量过大时，可能会影响查询数据速率，在不考虑将数据迁移到其他数据库的情况下，您可以将数据库中的历史数据或使用频率低的冷数据归档在当前数据库下的其他表中。同时，结合DMS提供的归档时清理源表功能，帮助您提升数据...
用户价值
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
表
对于外部表，MaxCompute并不真正持有数据，表格的数据可以存放在 OSS 或 OTS 中。MaxCompute仅会记录表格的Meta信息，您可以通过MaxCompute的外部表机制处理OSS或OTS上的非结构化数据，例如，视频、音频、基因、气象、地理信息等。相关文档...
RestAPI（HTTP形式）数据源
RestAPI数据源为您提供读取和写入RestAPI双向通道的功能，本文为您介绍DataWorks的RestAPI数据同步的能力支持情况。使用限制 目前该数据源仅支持 独享数据集成资源组。目前不支持设置超时参数，当前DataWorks内置的请求超时时间是60s,如果...
产品优势
为降低数据迁移对应用的影响，数据迁移功能支持不停服迁移，可实现在数据迁移过程中，应用停机时间降低到分钟级别。高性能 DTS使用高规格服务器来保证每条迁移或同步链路都能拥有良好的传输性能。对于数据迁移，DTS底层采用了多种性能优化...
什么是数据管理DMS
DMS提供全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，致力于帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。视频介绍 功能特性 详情信息，请参见 功能概览。为什么选择数据管理DMS 全域数据...
新建数据元
数据元管理通过分析业务流程，抽象关键业务对象和业务对象属性，并把关键业务对象新建为数据元，并配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据。本文介绍如何新建数据元...
新建数据元
数据元管理通过分析业务流程，抽象关键业务对象和业务对象属性，并把关键业务对象新建为数据元，并配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据。本文介绍如何新建数据元...
数据字典
在数仓开发和数据分析过程中，当业务中有常量数据或者业务数据可以划分为业务事实表和业务维度表时，您可以通过使用数据字典来替代维度表实现，避免使用Join语句，从而提升查询效率。注意事项 以下版本的 云数据库ClickHouse 集群不支持...
同步时源库为Redis的注意事项及限制
如果同步的源数据库类型为Redis，如自建Redis、云数据库Redis，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为Redis的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：...
权限自查建议
随着项目的不断演进，人员的权限也会更新迭代，您需要及时审视人员权限合理性，提升项目数据安全。本文为您介绍权限查询要点，并提供调整建议供参考。背景信息 在项目创建初期，为了提升业务处理效率，通常在用户和权限管理上相对宽松。...
我是安全管理员
测试数据构建 测试数据结构可以在频繁的数据准备过程中确保数据安全、保障数据离散型、提高生产效率。数据库克隆 数据库克隆功能提供MySQL数据库的克隆功能。集成与开发（DTS）数仓开发 数仓开发以数据库为主要计算引擎，融合数据库生态中...
数据源管理概述
在使用Dataphin前，您可将需要引入Dataphin的数据源接入到Dataphin中，已接入的数据源可用于读取原始数据和写入数据建设过程中的数据。Dataphin具备丰富的数据源类型接入，支持对接如MaxCompute、Hive等数据仓库，也支持对接企业传统数据库...
数据源管理概述
在使用Dataphin前，您可将需要引入Dataphin的数据源接入到Dataphin中，已接入的数据源可用于读取原始数据和写入数据建设过程中的数据。Dataphin具备丰富的数据源类型接入，支持对接如MaxCompute、Hive等数据仓库，也支持对接企业传统数据库...
实例间的数据库复制
数据迁移过程包括三个阶段，即结构迁移、全量数据迁移和增量数据迁移，不会删除源库数据。支持的数据源 仅支持源为RDS SQL Server。支持源为阿里云ECS自建数据库、IDC自建数据库、其它云服务器上的自建数据库或RDS SQL Server。更多详情，...
Tair集群无感扩缩容
本文列举社区版Redis集群、云数据库Redis集群版扩缩容方案的不足，并介绍 云原生内存数据库Tair 集群版无感扩缩容方案。社区版Redis集群版通常会涉及到数据节点弹性扩缩容、分片间的数据迁移等需求，但业界常见的扩缩容方案仍存在一些问题...
Tair集群无感扩缩容介绍
云数据库Redis集群版平滑扩缩容方案与不足 云数据库Redis集群版提供了平滑扩缩容解决方案，较好地解决了上述社区版Redis集群版扩缩容存在的部分问题，但该方案也存在如下问题：扩缩容变配期间的数据迁移过程有感知，可能存在秒级别的只读...
归档为IBD格式
本文介绍了将冷数据归档为IBD格式的方法。说明 归档为IBD格式目前处于灰度发布阶段。如需使用，请前往 配额中心，根据 配额ID polardb_innodb_oss_enable 找到配额名称，在对应的操作列单击 申请 来开通该功能。前提条件 PolarDB MySQL版 ...
数据模型架构规范
数据处理流程架构 数据划分及命名空间约定 请根据业务划分数据并约定命名，建议针对业务名称结合数据层次约定相关命名的英文缩写，这样可以给后续数据开发过程中，对项目空间、表、字段等命名做为重要参照。按业务划分：命名时按主要的业务...
逻辑备份恢复至自建数据库
本文介绍如何通过Mongorestore将云数据库MongoDB实例的逻辑备份文件恢复至自建MongoDB数据库中。前提条件 实例存储类型为 SSD本地盘。为保障兼容性，自建MongoDB数据库和云数据库MongoDB实例的数据库版本相同。背景信息 MongoDB提供了一组...
逻辑备份恢复至自建数据库
本文介绍如何通过Mongorestore将云数据库MongoDB实例的逻辑备份文件恢复至自建MongoDB数据库中。前提条件 实例存储类型为 SSD本地盘。为保障兼容性，自建MongoDB数据库和云数据库MongoDB实例的数据库版本相同。背景信息 MongoDB提供了一组...
测试数据构建
实际开发过程中可能伴随频繁的数据准备过程，同时需要保障数据安全、数据的离散性特征可控、高效率。DMS提供的测试数据构建，能够满足您的需求。注意事项 当前仅支持按需操作单个表，如需多个表生成需要多次处理。单次生成上限阈值为100万...
安全基线检查
数据安全中心通过动态检测数据资产配置的方式，以数据为落脚点检测阿里云上数据库资产是否存在配置风险，例如身份验证、访问控制、加密、备份和恢复等方面的配置是否安全，这些检查策略和检查项统称为安全基线检查。安全基线检查功能可以帮...
创建数据板块
Basic模式 生成独立的Basic数据板块，数据生产过程稳定且便捷。如果您关注数据研发效率，研发人员职能边界模糊，计算存储预算有限制，推荐 此模式。创建Basic模式数据板块，请参见。重要 创建后不可升级到Dev-Prod模式。创建Dev-Prod模式...
创建数据板块
Basic模式 生成独立的Basic数据板块，数据生产过程稳定且便捷。如果您关注数据研发效率，研发人员职能边界模糊，计算存储预算有限制，推荐 此模式。创建Basic模式数据板块，请参见 创建Basic模式数据板块。重要 创建后不可升级到Dev-Prod...
我是DBA
测试数据构建 测试数据结构可以在频繁的数据准备过程中确保数据安全、保障数据离散型、提高生产效率。SQL审核 SQL审核功能帮助您避免无索引SQL、不规范SQL等，降低SQL注入风险。数据库克隆 数据库克隆功能提供MySQL数据库的克隆功能。集成...
步骤二：规划数仓
数据源：业务数据中读取原始数据和写入数据仓库过程中的数据。步骤一：创建数据板块 在Dataphin首页，单击顶部菜单栏的 规划。按照下图操作指引，进入 新建数据板块 对话框。在 生产开发类型 步骤中选择 Basic模式 并单击 下一步。在 板块...
步骤二：规划数仓
数据源：业务数据中读取原始数据和写入数据仓库过程中的数据。步骤一：创建数据板块 在Dataphin首页，单击顶部菜单栏的 规划。按照下图操作指引，进入 新建数据板块 对话框。在 生产开发类型 步骤中选择 Basic模式 并单击 下一步。在 板块...
我是管理员
测试数据构建 测试数据结构可以在频繁的数据准备过程中确保数据安全、保障数据离散型、提高生产效率。SQL审核 SQL审核功能帮助您避免无索引SQL、不规范SQL等，降低SQL注入风险。数据库克隆 数据库克隆功能提供MySQL数据库的克隆功能。集成...
数据归档至AnalyticDB PostgreSQL版
注意事项 推荐您使用资源类型为Serverless模式作为目标数据归档引擎，可以享受超低存储价格和高性能数据分析，同时，在后续创建数据归档工单过程中，选中 成本最优，可以实现归档时自动启动实例、归档后自动暂停实例。若在数据归档过程中...
- 产品推荐
- 这些文档可能帮助您