智能压测
面对即将到来的短期业务高峰或数据库结构变更（尤其是索引变更）时，您可以通过智能压测功能，确认数据库实例规格是否需要扩容，并验证在真实业务场景下的实际效果，降低上线后引发故障的风险。此外，在数据库发生故障且无法定位原因时，...
引擎简介
Lindorm宽表引擎是面向海量半结构化、结构化数据设计的分布式存储，适用于元数据、订单、账单、画像、社交、feed流、日志等场景，兼容HBase、Phoenix（SQL）、Cassandra等开源标准接口，支持单表百万亿行规模、千万级并发、毫秒级响应、跨...
数仓分层
数据引入层ODS（Operation Data Store）：存放未经过处理的原始数据至数据仓库系统，结构上与源系统保持一致，是数据仓库的数据准备区。主要完成基础数据引入到MaxCompute的职责，同时记录基础数据的历史变化。数据公共层CDM（Common Data ...
数仓分层
数据引入层ODS（Operation Data Store）：存放未经过处理的原始数据至数据仓库系统，结构上与源系统保持一致，是数据仓库的数据准备区。主要完成基础数据引入到MaxCompute的职责，同时记录基础数据的历史变化。数据公共层CDM（Common Data ...
X-Engine简介
两个Metadata Snapshot结构实际上共用了大量的数据结构，这被称为数据复用技术（Data Reuse），而Extent大小正是影响数据复用率的关键，Extent作为一个完整的被复用的物理结构，需要尽可能的小，这样与其他Extent数据交叉点会变少，但又不...
访问列存数据
列存即列式存储，是一种将数据按列进行存储和处理的数据管理方式。Lindorm计算引擎支持将半结构化、结构化数据以列存方式进行存储，相较于行式存储，列式存储的查询响应时间更短，消耗IO更少。本文介绍如何通过计算引擎访问Lindorm列存数据...
层级生成器功能介绍
导出层级（开放格式）单击层级树面板下方的 导出层级（开放格式）按键，您可以导出层级数据（level.json）文件和（层级映射.json）的文件，文件内的地理字段未经压缩，具体地理字段说明请参见 下钻数据结构定义。层级树节点 在层级树面板中...
产品优势
特性对比 Lindorm VS 开源HBase VS 开源Cassandra Lindorm宽表引擎是面向海量半结构化、结构化数据设计的分布式存储，兼容HBase、Phoenix(SQL)、Cassandra等开源标准接口，下表介绍Lindorm与开源HBase和开源Cassandra的区别。特性 云原生多...
FTP数据源
} },"order":{"hops":[{"from":"Reader","to":"Writer"}]} } Reader脚本参数 参数 描述 是否必选 默认值 datasource 数据源名称，脚本模式支持添加数据源，此配置项填写的内容必须要与添加的数据源名称保持一致。是 无 path 远程FTP文件...
SQL备份与回滚（公测中）
DMS为您提供了两种备份策略：通用备份：非MySQL的关系型数据库固定使用该备份方式，系统会先找出受变更影响的数据行，并生成INSERT或REPLACE INTO语句。精确备份：RDS MySQL、PolarDB MySQL版、RDS MariaDB 及自建MySQL数据库可使用精确...
新功能发布记录
自定义DMS界面布局与样式 影子表同步 新增 支持根据源表的表结构创建影子表（新的数据表，表名是在源表名上增加前缀或后缀的方式生成），适用于全链路压测等场景。影子表同步 查询阈值的时间周期 优化 在用户管理中，分别新增用户的查询...
层级生成器功能介绍
导出层级（开放格式）单击层级树面板下方的 导出层级（开放格式）按键，您可以导出层级数据（level.json）文件和（层级映射.json）的文件，文件内的地理字段未经压缩，具体地理字段说明请参见 下钻数据结构定义。层级树节点 在层级树面板中...
从RDS同步到云原生数据仓库 AnalyticDB MySQL 版
数据类型映射关系 由于MySQL和 云原生数据仓库AnalyticDB MySQL 的数据类型并不是一一对应的，所以DTS在进行结构初始化时，会根据数据类型定义进行类型映射，详情请参见 结构初始化涉及的数据类型映射关系。操作步骤 购买数据同步作业，...
从RDS同步到云原生数据仓库AnalyticDB MySQL
数据类型映射关系 由于MySQL和 云原生数据仓库AnalyticDB MySQL 的数据类型并不是一一对应的，所以DTS在进行结构初始化时，会根据数据类型定义进行类型映射，详情请参见 结构初始化涉及的数据类型映射关系。操作步骤 购买数据同步作业，...
导出结构和数据
导出任务生成后会自动弹出 工单 面板，在 导出 列表中可以查看任务审批状态、任务信息并下载导出的数据结构文件。导出 任务列表中包含如下信息：信息项 说明 编号 导出任务编号。类型 显示新建任务时指定的任务类型。工单描述 显示发起任务...
数据库分组
若您需要在SQL变更或结构设计中快速载入多个数据库，可以创建一个数据库分组，将多个数据库环境、引擎类型相同的数据库绑定成为一个分组。本文介绍如何创建数据库分组。背景信息 当您的业务部署在多个地域，且存在多个数据库时，您每次做...
数仓分层
数据引入层（ODS，Operational Data Store，又称数据基础层）：将原始数据几乎无处理地存放在数据仓库系统中，结构上与源系统基本保持一致，是数据仓库的数据准备区。这一层的主要职责是将基础数据同步、存储到MaxCompute。数据公共层（CDM...
通过无锁变更工单实现无锁结构变更
为解决变更数据库表结构时的锁表问题，数据管理DMS 推出了无锁结构变更功能，该功能可以较好地规避因锁表以致于阻塞业务和数据库原生OnlineDDL带来的主备延迟问题。本文介绍通过提交无锁变更工单实现数据库无锁结构变更的方法。前提条件 ...
结构同步
说明 若数据结构在此过程中发生变更，请在工单中单击 重新分析。单击 提交审批，等待审批通过。审批通过后，单击 提交，同步目标库。确认待执行的SQL脚本，单击 确认进行同步。说明 同步的完成时间和表的数量、任务队列等多种因素有关，请...
数据建模：智能数据建模
适用场景 DataWorks智能建模可助力企业构建自身建模能力，挖掘企业的数据资产价值，例如：海量数据的标准化管理 企业业务越庞大数据结构就越复杂，企业数据量会随着企业业务的快速发展而迅速增长，如何结构化有序地管理和存储数据是每个...
数据源中心
EMR Workflow的数据源中心支持配置数据源，以满足不同的数据存储和访问需求。本文为您介绍如何创建、编辑和删除数据源。使用限制 数据源所在的集群和运行工作流时选择的集群需要在同一VPC下。创建数据源 进入数据源中心页面。使用阿里云...
常见问题
如果业务对数据要求比较精确，您可以删除目标库的数据，然后重新配置同步任务，并在 任务步骤 同时选中 库表结构同步 和 全量同步（默认已选中 增量同步）。DTS全量同步任务长时间没进度，如何处理？若待同步的表为无主键的表，全量同步会...
数据方案概览
DMS的数据方案提供数据变更、数据导出、数据追踪、环境构建的功能，通过本文您可以了解数据方案的各项功能详情。一级功能 二级功能 功能描述 结构变更 结构设计 可以对目标库、表进行符合研发规范的表结构设计，保障多套环境（例如开发环境...
IoT数据自动化同步至云端解决方案
IoT设备大量的数据通常以半结构化的形式存储。例如，使用OSS存储原始信息为CSV文件。但同步至大数据系统或传统数据库的数据，需要使用专业的数据同步系统。下图为您展示使用DataWorks数据集成完成OSS数据同步至大数据系统的解决方案流程。...
基本概念
数据库实例：数据库实例是在云中运行的独立数据库环境。一个数据库实例可以包含多个由数据库用户创建的数据库，并且...索引：索引是数据库管理系统对数据库表中一个或多个列的值进行排序的数据结构，使用索引可快速访问数据库表中的特定信息。
结构设计
支持多人协同在Web页面变更数据结构操作。注意事项 结构设计暂不支持在工单创建过程中，删除创建工单前就已经存在的表，创建工单后新建的表可以删除。执行变更到目标数据库后，元数据字典信息会自动同步。说明 您可在SQLConsole窗口输入 ...
概述
数据建模的必要性 海量数据的标准化管理 企业业务越庞大数据结构就越复杂，企业数据量会随着企业业务的快速发展而迅速增长，如何结构化有序地管理和存储数据是每个企业都将面临的一个挑战。业务数据互联互通，打破信息壁垒 公司内部各业务...
采集数据
user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构数据源间的数据同步，完成数仓数据...
备份恢复概览
逻辑备份：OceanBase 的逻辑备份是一种更为抽象层次的备份手段，它侧重于按照逻辑数据结构（如表、索引、触发器、存储过程等）进行备份操作。逻辑备份具有高度的选择性，允许用户针对性地备份部分数据，比如单独备份某数据库中的特定表，...
DMS
它是一种集数据管理、结构管理、用户授权、安全审计、数据趋势、数据追踪、BI图表、性能与优化和服务器管理于一体的数据管理服务。前提条件 已获取 AnalyticDB PostgreSQL版 实例的连接地址。如果您的客户端部署在与 AnalyticDB PostgreSQL...
表结构发布流程化
保障数据结构的规范性 安全规则 的研发规范包含新建表、修改表字段、修改表索引等多方面的近40条规范，方便研发同学自助设计满足企业研发规范的表结构，可避免因不满足规范的结构发布上线而导致的生产故障。同时，该功能可节省运维人员因...
采集数据
user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构数据源间的数据同步，完成数仓数据...
管理表结构版本
当您在 数据管理DMS 中对数据库进行表结构变更后，DMS将会保存最新的表结构至数据库版本列表中。您可以在数据库版本列表中下载、对比、恢复历史版本的表结构。...结构恢复 将表结构同步至空的数据库中，更多信息，请参见 空库初始化。
空库初始化
数据管理DMS 的空库初始化功能支持将源数据库的表结构同步至空数据库中（数据库中不存在任何表），实现快速同步数据库表结构，适用部署多区域、多单元的数据库环境。前提条件 支持的数据库类型如下：MySQL：RDS MySQL、PolarDB MySQL版、...
混合检索使用指南
当结构化数据与非结构化数据需要同时检索时，您可以使用 AnalyticDB PostgreSQL版 向量数据库的混合查询，既支持结构化字段过滤，也支持半结构化字段过滤，同时支持和文本字段的全文检索一起进行双路召回。混合检索简介 ANNS（Approximate ...
外部表概述
MaxCompute支持使用外部表功能查询和分析存储于OSS等外部存储系统的数据。该机制使得用户可以无需将数据导入到MaxCompute内部存储，直接对外部数据进行操作，从而提供了数据处理的灵活性和方便性。背景信息 MaxCompute SQL作为分布式数据...
分析MaxCompute外部表数据
MaxCompute的非结构化框架支持通过INSERT方式将MaxCompute的数据直接输出到OSS。MaxCompute也支持通过外部表关联OSS，进行数据输出。由于MaxCompute外部表的目录结构比较特殊，需要在建表时先指定 directory.odps 属性为 true，DLA才会按照...
数据源和项目协同
背景信息 项目管理员创建一个项目成员后，项目成员可以创建数据源，并在项目中添加数据源中的数据库后，即可进行数据库变更任务。系统管理员在 Web 版 ODC 中创建项目，并为该项目指定成员。系统管理员或者拥有新建数据源角色权限的项目...
结构比对
背景信息 ODC 的结构比对功能支持将同一项目下、同类型数据源的数据库对象结构进行对比分析，并生成变更脚本。本文档旨在介绍如何通过 ODC 提交结构比对工单以对比分析两个数据库对象结构。注意事项 链路支持：OceanBase MySQL 到 ...
数据存储目录结构说明
本章介绍文件引擎(LindormDFS)默认的数据存储目录结构。目录 说明/${实例ID}-global/${实例ID}_xxx 宽表引擎数据存储目录/solr 搜索引擎数据存储目录/tsdb 时序引擎数据存储目录 说明${实例ID}：lindorm实例ID。xxx：实例所在的区域，如...
- 产品推荐
- 这些文档可能帮助您