资源组操作及网络连通
获取独享数据集成资源组EIP地址如下：在 DataWorks控制台 的 资源组列表 页面中的 独享资源组 页签下，单击数据集成资源组后的 查看信息，复制对话框中的 EIP地址 至数据库白名单列表中。资源组还有剩余资源，为什么会提示任务资源不足无法...
管理控制台功能概览
扩展程序Extensions 数据湖集成（湖仓一体）阿里云的湖仓一体是以MaxCompute为数仓，以Hadoop平台、云对象存储OSS为数据湖的“一仓多湖”的架构，可以打破数据湖与数据仓库割裂的体系，并将数据湖的灵活性、生态丰富能力与数据仓库的企业级...
添加访问地址
如果没有合适的 VPC，请根据页面提示创建一个 VPC，详情参见 什么是专有网络。VSwitch 交换机 默认显示租户的 VSwitch ID，您可以根据需要选择其他 VSwitch ID，也可以前往 控制台 创建新的 VSwitch ID。高可用 主备高可用。当只读可用区...
创建数据流
在数据管理DMS离线集成中，可以组合各类任务节点，形成数据流，通过周期调度运行达到数据加工、数据同步的目的。本文介绍创建数据流和配置的方法。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB...
RDS MariaDB迁移至RDS PostgreSQL
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
Db2 for LUW迁移至RDS MySQL
如为增量迁移任务，DTS要求源数据库的数据日志保存24小时以上，如为全量迁移和增量迁移任务，DTS要求源数据库的数据日志至少保留7天以上（您可在全量迁移完成后将数据日志保存时间设置为24小时以上），否则DTS可能因无法获取数据日志而导致...
客户案例
新零售行业：大润发云上数据中台建设 客户架构如下。客户简介 为了快速数字化转型，拥抱新零售，大润发计划两年内将IT系统全面迁移到阿里云上，不再自建IDC。同时与阿里云合作启动数据中台项目，可以帮助大润发降低TCO的同时，更好的依托云...
统一服务
在数据中台建设过程中，搭建核心处理平台，并根据相关标准要求，将源数据或治理后的数据，按照“全面、高效、统筹”的共享原则，“低延时”、“精准化”的传递给用户，方便更多应用消费数据，实现数据价值。协同管控各种组织机构，为智慧化...
功能简介
在数据中台建设过程中，搭建核心处理平台，并根据相关标准要求，将源数据或治理后的数据，按照“全面、高效、统筹”的共享原则，“低延时”、“精准化”地传递给用户，方便更多应用消费数据，实现数据价值。协同管控各种组织机构，为智慧化...
离线集成概述
数据管理DMS离线集成是一种低代码的数据开发工具，您可以组合各类任务节点，形成数据流，通过周期调度运行达到数据加工、数据同步的目的。支持的数据库类型 MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB分布式版、AnalyticDB...
DataWorks模块使用说明
使用流程概览：参考文档：数据集成概述 数据建模与开发 子模块：数据建模 功能说明：数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行...
冷数据归档常见问题
冷数据文件的格式是什么？目前支持CSV、IBD 和ORC格式。如何判断当前表或分区是否归档成功？归档完成后，您可以通过以下两种方式来查看表或分区是否归档成功：执行 SHOW CREATE TABLE table_name;命令查看表结构信息，以此来确认表或者分区...
功能简介
面向数据资产管理者提供服务的统计分析、服务用量统计分析、热门数据统计分析能力，实现数据中台建设后半场“数据应用”的有效落地，支撑数据智能应用的高效开发。通用资源 提供了自定义函数和函数资源的能力，帮助用户在数据开发等过程中...
案例介绍
本案例以某公司的零售事业群为例，为您介绍在构建数据中台时，如何规划业务模型中的业务板块、项目、数据域和指标等，帮助您更好的理解Dataphin的核心概念。案例场景简介 某公司是一家横跨多个行业领域的大型企业，以零售商超起家，逐步...
新增离线数据同步任务
数据同步支持离线数据同步任务的新建。离线数据同步任务支持的云计算资源类型为MySQL、Oracle、SQL Server、Hdfs、ftp、PostgreSQL、Hive、MaxCompute、AnalyticDB PostgreSQL、OSS。本文以同步MySQL数据源到MaxCompute目标端为例，介绍...
恢复数据
背景信息 关于 专属集群MyBase 的更多介绍，请参见 什么是云数据库专属集群MyBase。恢复MySQL、PostgreSQL数据 登录 云数据库专属集群控制台。在页面左上角，选择目标地域。在左侧导航栏中，选择 集群列表。在目标专属集群的 操作 列单击 ...
增量数据同步
在 离线数据同步 管理页面，选择新增的全量离线数据同步任务，操作列中单击 上线。预期结果 在 离线数据同步 管理页面，选择上线状态的“信用卡客户数据上云_增量”同步任务，操作列中单击 监控，跳转至 运维监控，单击左侧导航栏中的 离线...
什么是数据资源平台
统一服务：是一款数据中台建设过程中的数据服务化组件，面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力；面向数据资产管理者提供服务的统计分析、服务用量统计分析能力，实现数据中台建设后...
DataWorks On CDP/CDH使用说明
二、数据建模与开发 模块 说明 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数同文”的...
规格及选型
案例七：大型互联网企业 用户为大型互联网企业，各业务线具有各自独立的业务中台，企业存在统一的数据中台，希望可以快速部署独立资源支持不同的业务负载，且未来不会产生数据孤岛。建议：使用 AnalyticDB PostgreSQL版 Serverless版本，...
Dataphin支持的数据源
资产质量概述 数据服务 数据服务（OneService）是基于Dataphin建设数据中台的最后一步。数据服务作为统一的数据服务出口，实现了数据的统一市场化管理，有效地降低数据开放门槛的同时，保障了数据开放的安全。数据服务概述 本文仅列举了...
数仓开发任务流
配置DTS数据迁移节点 配置离线数据集成节点 数据开发 显示任务流中的数据开发节点：除数据集成节点之外的其他节点。数据开发节点，试运行和发布后的调度功能相同。任务类型介绍 配置DTS位点检查节点 表 数仓表可被其任务流引用并操作，您...
DataWorks On Hologres使用说明
二、数据建模与开发 模块 描述 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数同文”的...
数据连接管理
在新版DTS控制台配置任务时，首先需要在 源库信息 或 目标库信息 区域选择 数据库类型，然后在 选择已有的数据库连接 中选择目标数据库实例。为什么选不到已录入的数据库实例？可能是您录入的数据库实例已从 数据连接管理 页面删除，或者 ...
什么是Dataphin
Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出，一站式提供数据采、建、管、用全生命周期的大数据能力，以助力企业显著提升数据治理水平，构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin兼容多种计算...
数据风险点监控
本文为您介绍在线数据风险点监控和离线数据风险点监控。在线数据风险点监控 在线业务系统的数据生成过程中必须确保数据质量，根据业务规则对数据进行监控。说明 MaxCompute本身未提供相应的监控工具，您可以借助DataWorks进行监控。详情请...
MaxCompute数据源
如果您配置离线任务时使用脚本模式的方式进行配置，您需要在任务脚本中按照脚本的统一格式要求编写脚本中的reader参数和writer参数，脚本模式的统一要求请参见 通过脚本模式配置离线同步任务，以下为您介绍脚本模式下的数据源的Reader参数...
DataWorks On MaxCompute使用说明
二、数据建模与开发 模块 描述 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数同文”的...
数据库管理常见问题
在控制台删除数据库后，为什么仍能看到这个数据库？删除数据库的操作是在后台异步执行的，如果数据库较大，删除可能需要一定的时间。如果经过较长时间仍未删除成功，可能是因为存在MDL锁导致删除操作被阻塞或删除失败，排查方法请参考 查看...
线热力层（v1.x版本）
info（可选）弹窗内容，如果为空，则弹窗信息显示为对应的矢量线数据中的 properties 字段的内容。如果不为空，弹窗信息显示为 info 字段的内容。color（可选）线热力层支持数据优先的渲染，如果您配置了 color（线颜色）、weight（线宽）...
手动添加数据源
常见问题 Q：在 添加数据源 页面配置参数时，无法选到目标ECS实例ID是什么原因？A：请确保ECS实例和DBS备份计划任务属于同一地域。您可在控制台上方查看或选择目标地域。Q：自动添加DBS IP网段到ECS安全组中失败了如何处理？A：若您关闭了...
新建补数据计划
在离线计算任务中新建补数据计划 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 运维监控。在左侧导航栏，单击 图标，选择 离线任务>离线计算任务。在离线计算任务列表中...
DataV连接
详情请参见 什么是DataV数据可视化。前提条件 已开通DataV服务，详情请参见 开通DataV服务。已准备好待添加的 AnalyticDB PostgreSQL版 数据源。操作步骤 登录 DataV控制台。在工作台页面，单击 数据准备>数据源，进入数据源页面，单击 ...
SQL Console初体验
当您成功在DMS上登录数据库后，可在SQL Console中进行创建数据库、创建表、查询表数据、变更表数据等操作。本文以在RDS MySQL数据库中进行操作举例。创建数据库 在RDS控制台创建数据库 访问 RDS实例列表，在上方选择地域，然后单击目标实例...
冷数据归档
冷数据的判定标准如下：当前时间-数据的时间戳>=冷热分界线(天)设置冷热分界线的方法 有以下两个方式设置冷热分界线：通过SQL语句在Database的创建或修改中设置冷热分界线。说明 通过SQL设置冷热分界线的方法可参见 CREATE DATABASE 或 ...
概述
方案优势 T+1全量同步一键建仓方案有以下优势：一键同步数据源（RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据）中的上千张表数据，无需其他额外的配置工作。提供Serverless的服务，无需维护任何实例，零运维成本。数据同步...
MaxCompute表数据
进入数据地图 登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据治理>数据地图，在右侧页面中单击 进入数据地图。查找表 在左侧菜单栏，单击。进入查找表的页面。支持您在搜索框中输入表名、表描述等查找该数据源中包含关键...
手动运行标签
在 工作台 页面，单击 离线标签 进入离线标签列表。在 离线标签 列表中选择所需手动运行的标签并单击操作栏。在 运行 对话框中，选择所需运行的版本。单击 确定，即可运行标签。说明 手动运行时计算的是最新分区的数据。
常见问题
Q：如果在一行数据中未写入自定义时间列，那么这一行数据还会冷热分离吗？A：不会。自定义时间列是系统对数据冷热分离存储的依据。如果一行数据未写入时间，那么这行数据会被保留在热存储区。Q：对于按时间戳冷热分离，冷数据更新后还是冷...
数据库管理
包括冷热分界线，数据存活期间等。SQL语法请参见 ALTER DATABASE。Database的属性查询 在时序引擎中查看一个已有Database的属性元数据。SQL语法请参见 DESCRIBE DATABASE。在管理控制台上管理Database 在Lindorm实例的管理控制台上也可以对...
- 产品推荐
- 这些文档可能帮助您