客户案例
基于飞天大数据平台产品DataWorks+MaxCompute大大提高了数据业务的开发效率，构建大润发的数据中台体系。新金融行业：某互联网金融公司湖仓一体案例 客户架构如下。客户简介 公司的第一代数据湖是基于Hadoop+OSS搭建的，同时引入的数据中台...
RDS PostgreSQL间的双向同步
数据传输服务DTS（Data Transmission Service）支持两个PostgreSQL数据库之间（比如RDS PostgreSQL、自建PostgreSQL）的双向数据实时同步，RDS PostgreSQL 实例间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。...
云数据库MongoDB版（副本集架构）间的双向同步
当数据同步遇到 支持的冲突检测 中的冲突时，直接跳过当前同步语句，继续往下执行，选择使用目标库中的冲突记录。目标库对象名称大小写策略 您可以配置目标实例中同步对象的库名和集合名的英文大小写策略。默认情况下选择 DTS默认策略，您...
RDS MySQL与PolarDB MySQL版间的双向同步
如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全...
云数据库MongoDB版（副本集架构）间的双向同步
当数据同步遇到 支持的冲突检测 中的冲突时，直接跳过当前同步语句，继续往下执行，选择使用目标库中的冲突记录。目标库对象名称大小写策略 您可以配置目标实例中同步对象的库名和集合名的英文大小写策略。默认情况下选择 DTS默认策略，您...
云数据库MongoDB版（分片集群架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（分片集群架构）间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...
云数据库MongoDB版（分片集群架构）间的双向同步
数据传输服务DTS（Data Transmission Service）支持 云数据库MongoDB版（分片集群架构）间的双向同步，适用于异地多活（单元化）、数据异地容灾等多种应用场景。本文介绍双向数据同步的配置步骤。前提条件 已创建源和目标 云数据库MongoDB...
客户案例
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
产品优势
产品功能全 功能涵盖数据传输、开发、生产、治理、安全全领域，每个领域深度覆盖大数据全生命周期，轻松帮助企业应对在搭建数仓、搭建数据中台、数字化转型项目中遇到的难题。支持复杂网络环境、常见数据源的数据同步上云以及实时、历史...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
手动添加数据源
您可以通过 数据库备份DBS 的手动添加数据源功能，将不同环境的数据库添加至 数据库备份DBS 中，便于后续对数据源进行管理与备份。费用说明 添加数据源操作不会产生费用，只有在添加数据源后开启备份才会产生费用。如何开启备份，请参见 ...
技术架构选型
本教程中使用阿里云大数据产品Dataphin配合MaxCompute，完成整体的数据建模和研发流程。完整的技术架构如下图所示。其中，Dataphin的数据集成及同步负责完成源业务系统数据引入。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
受众与核心能力
同时，DataWorks持续打造符合企业级数仓、数据中台构建要求的功能模块，为企业业务的数字化转型提供支持。产品受众 从事数据开发、算法开发等岗位的技术人员 从事销售运营、商业智能分析等岗位的业务人员 从事数据安全与合规工作的管理人员...
清除数据
您可以在控制台清除 云原生内存数据库Tair 实例中的所有过期数据或所有数据。操作步骤 说明 在 参数设置 中禁用 FLUSHALL 命令不会影响控制台中 清除数据 功能。访问 Tair实例列表，在上方选择地域，然后单击目标实例ID。在 实例信息 页面...
清除数据
您可以在控制台清除 云数据库 Redis 版 实例中的所有过期数据或所有数据。操作步骤 说明 在 参数设置 中禁用 FLUSHALL 命令不会影响控制台中 清除数据 功能。访问 Redis实例列表，在上方选择地域，然后单击目标实例ID。在 实例信息 页面，...
数据分析整体趋势
随着Google等互联网企业崛起，以Hadoop为代表的基于传统x86服务器集群的大数据技术迅速发展，同时开源分布式数据库如Greenplum等也成为相应替代方案，为广大中小企业，尤其是互联网行业大大降低了数据分析的技术和成本门槛，还有分布式技术...
发展历程
关键性里程碑 2009年9月，ODPS（即现在的MaxCompute）大数据平台飞天项目正式启动。2010年10月，阿里巴巴集团自主研发的第一代云计算平台稳定运行。2013年8月，平台的单集群规模已达到5000台。2014年7月，平台开始对外提供服务，完全替换...
用自然语言实时查看BI报表
应用场景 临时性数据分析：帮助非数据技术相关人员（如管理岗、决策人员等，特指不直接参与数据库表结构、数据分布和特征设计和感知等人员）快速获取所需的统计数据。通过简单的问题或指令来获取并分析需要的数据，如“我需要最近一周的...
NL2BI：用自然语言实时查看BI报表
应用场景 临时性数据分析：帮助非数据技术相关人员（如管理岗、决策人员等，特指不直接参与数据库表结构、数据分布和特征设计和感知等人员）快速获取所需的统计数据。通过简单的问题或指令来获取并分析需要的数据，如“我需要最近一周的...
开启SQL日志审计
SQL日志审计功能默认关闭，您可以在 PolarDB-X 1.0 控制台上手动开启。默认情况下，只对开启SQL日志审计功能之后产生的日志数据进行审计分析，您也可以导入部分历史数据。前提条件 登录 日志服务控制台，根据提示，开通阿里云日志服务。已...
数据治理中心概述
量化评估：健康分 健康分是依据数据资产在数据生产、数据流通及数据管理中的用户行为、数据特性、任务性质等元数据，使用数据处理及机器学习等技术，对各类型数据进行综合处理和评估，通过个人、工作空间维度客观呈现数据资产状态的综合...
配置RDS MySQL间的数据集成任务
说明 若数据传输控制台自动跳转至数据管理DMS控制台，您可以单击右下角的 中单击，返回至旧版数据传输控制台。若您登录的是新版数据传输控制台，您可以单击右下角的，返回至旧版数据传输控制台。在左侧导航栏，单击 数据集成。在数据集成...
IoT数据自动化同步至云端解决方案
登录 DataWorks控制台，单击左侧导航栏的 数据集成，在下拉框中选择对应工作空间后单击 进入数据集成。新增OSS数据源和MaxCompute数据源，详情请参见 配置OSS数据源 和 配置MaxCompute数据源。单击当前页面左上角的 图标，选择 全部产品>...
一键诊断
异常Pattern检测 包括 峰值内存、查询耗时、算子Cost、输出数据量 和 提交次数 等检测指标，每个检测指标中包含SQL Pattern、检测结果详情和Pattern的其他相关指标3个字段，其中：SQL Pattern：SQL模板，您可以根据SQL模板判断异常Pattern...
FTP Check节点
如果检测该标记文件不存在，则表示外部数据库中的数据未准备就绪，不能被访问，FTP Check节点会将检测失败并且不会调度下游节点的结果反馈至下游节点，并根据配置的检测策略继续检测，直到达到预设的检测上限后停止检测。FTP Check节点的...
从PolarDB MySQL版同步到Kafka
Kafka是应用较为广泛的分布式、高吞吐量、高可扩展性消息队列服务，普遍用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，是大数据生态中不可或缺的产品之一。通过数据传输服务DTS（Data Transmission Service），...
平台安全诊断
DataWorks的平台安全诊断，为您提供了当前DataWorks工作空间与绑定的引擎在数据传输、存储、运算等过程中，与身份认证、访问权限控制、开发模式等功能相关的安全能力，以及诊断相关安全问题的最佳实践，帮助您及时发现平台的安全隐患，在...
T+1多库合并建仓
为保证业务可以继续使用RDS数据库，业务端通常会采用分库分表技术，将一个RDS数据库中的单张表数据拆分到多个数据库的多张表中。上述方案可解决因数据量大而导致的用户体验问题，但在对分库分表数据进行大数据分析时，逻辑上的一个表被拆成...
备份恢复
本文将介绍备份恢复的两种方式及方法。概述 PolarDB-X 1.0 备份恢复提供实例级、数据库级的...确认订单完成后，单击 去开通，开始恢复数据，页面右上角的任务列表中可查看数据恢复进度。数据恢复完成后，在实例列表页面，可以查看恢复实例。
从RDS MySQL迁移至自建Kafka
Kafka是应用较为广泛的分布式、高吞吐量、高可扩展性消息队列服务，普遍用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，是大数据生态中不可或缺的产品之一。通过数据传输服务DTS（Data Transmission Service），...
从PolarDB MySQL版同步到Kafka
Kafka是应用较为广泛的分布式、高吞吐量、高可扩展性消息队列服务，普遍用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等大数据领域，是大数据生态中不可或缺的产品之一。通过数据传输服务DTS（Data Transmission Service），...
PolarDB MySQL版间的单向同步
说明 若数据传输控制台自动跳转至数据管理DMS控制台，您可以在右下角的 中单击，返回至旧版数据传输控制台。在左侧导航栏，单击 数据同步。在 同步作业列表 页面顶部，选择同步的目标实例所属地域。定位至已购买的数据同步实例，单击 配置...
配置算法实例
算法实例是根据算法模板创建的具体实例，可以根据您设置的检测参数结合算法模型，完成对相关数据中异常信息的检测及诊断，协助您更好地解读设备数据，监测设备运行状态，及时发现潜在故障。前提条件 已创建算法实例。具体操作，请参见 创建...
什么是数据资源平台
阿里云数据资源平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据标准、数据建模、数据加工、质量评估、业务模型构建、资产管理、数据服务等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据...
DataWorks On EMR使用说明
开始使用 一、数据建模与开发 模块 说明 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数...
从ECS上的自建MySQL同步至PolarDB MySQL版
说明 若数据传输控制台自动跳转至数据管理DMS控制台，您可以在右下角的 中单击，返回至旧版数据传输控制台。在左侧导航栏，单击 数据同步。在 同步作业列表 页面顶部，选择同步的目标实例所属地域。定位至已购买的数据同步实例，单击 配置...
就绪检测节点
在场景运行开始时，就绪检测节点可检测数据源是否符合设定的条件，如果不符合，则无法继续运行场景。本文介绍就绪检测节点的配置参数说明。节点属性 节点属性 界面关键参数说明如下：参数 说明 节点名称 节点的名称。节点标识 节点的唯一...
就绪检测节点
在场景运行开始时，就绪检测节点可检测数据源是否符合设定的条件，如果不符合，则无法继续运行场景。本文介绍就绪检测节点的配置参数说明。节点属性 节点属性 界面关键参数说明如下：参数 说明 节点名称 节点的名称。节点标识 节点的唯一...
RDS MySQL修改字符集（平滑方案）
由于业务需求，需要变更表的字符集（例如从gbk变更为utf8mb4），如果直接使用ALTER命令修改字符集会锁表，当数据表过大时，对业务的影响较大。本文介绍的操作方法需要先在目标实例中创建表结构信息（新字符集），再通过DTS将源实例的数据...
- 产品推荐
- 这些文档可能帮助您