补数据
问题现象 补数据选择业务时间昨天和今天，会出现等待时间的情况。产生原因 从平台维度来看，业务时间昨天的数据，今天调度运行。补数据补对应业务时间的数据相当于重新执行了一次对应业务时间的周期实例。如果您需要过滤今天的周期实例，您...
功能特性
数据迁移 数据迁移功能帮助您实现同构或异构数据源之间的数据迁移，适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景 功能集 功能 功能描述 参考文档 同构迁移 逻辑迁移 支持同构数据库间的数据迁移。自建MySQL...
大数据安全治理的难点
数据安全治理的关键问题 数据安全治理能否清楚、准确地回答如下问题，将从侧面反映安全治理项目是否能有效地落地。哪些资产需要被保护？您有哪些资产？这些资产分布在哪里、承载着什么样的业务？资产内有哪些数据？数据业务属性及重要程度...
执行补数据并查看补数据实例（旧版）
当 业务日期 晚于当前日期，可选择 立即运行定时时间大于此刻的补数据实例，后续当实际时间大于配置的 业务日期 时，平台会立即运行该补数据实例。例如，当前日期为 2024-03-12，业务日期为 2024-03-17，则等实际日期为 2024-03-18（大于...
权限管理与规范化数据开发
根据表血缘来配置节点调度依赖后，可以保障调度任务在运行时能取到正确的数据，避免下游节点取数据时，上游表数据还未正常产出，导致下游节点取数出现问题。在DataWorks依赖配置中，上游节点的输出作为下游节点的输入，形成节点依赖关系。...
实时同步常见问题
实时同步字段格式问题 数据集成实时同步在同步MySQL、Oracle、Loghub和PolarDB类型的数据至DataHub或Kafka时，会在同步的目标端添加5个附加列，以进行元数据管理、排序去重等操作。详情请参见 实时同步字段格式。为什么实时同步任务延迟较...
执行补数据并查看补数据实例（新版）
当 业务日期 晚于当前日期，可选择 立即运行定时时间大于此刻的补数据实例，后续当实际时间大于配置的 业务日期 时，平台会立即运行该补数据实例。例如，当前日期为 2024-03-12，业务日期为 2024-03-17，则等实际日期为 2024-03-18（大于...
一站式在线数据管理平台DMS
您可以访问 新版数据管理DMS，体验一站式在线数据管理平台。
客户案例
基于飞天大数据平台产品DataWorks+MaxCompute大大提高了数据业务的开发效率，构建大润发的数据中台体系。新金融行业：某互联网金融公司湖仓一体案例 客户架构如下。客户简介 公司的第一代数据湖是基于Hadoop+OSS搭建的，同时引入的数据中台...
常见问题
内置云安全内部保障模板是数据安全中心结合多年安全保障经验，依据以下原则制定：S3：能直接定位到具体的主体 S2：比较明显的主体特征信息 S1：相对泛化的主体特征信息 水印功能相关问题 数据安全中心支持为图片、视频的添加水印吗？...
客户案例
业务挑战 开发效率：报表平台承载了阿里巴巴商业平台上品类繁多的广告数据的汇总和对广告主的展示，不同业务线有不同的报表诉求，即使在相同的业务线下，基于不同的营销场景，也会有不同维度的数据抽象和封装。但在报表开发的演进过程中，...
产品优势
数据开放、API开放，打通设备到平台到业务服务器的数据链路。需要购买服务器搭建负载均衡分布式架构，花费大量人力物力开发”接入+计算+存储”一整套物联网系统。无控制台，前后端都需要自行搭建，设备连接状态、生命周期管理以及远程运维...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
数据服务入门
步骤一：创建数据源并配置网络连通性 使用数据服务创建API前，您需将数据库或数据仓库添加为DataWorks的数据源，并保障数据服务资源组与您的目标数据源网络连通，以便调用API时DataWorks可成功访问数据源。说明 DataWorks工作空间将集群或...
数据管理服务协议
《数据管理服务协议》是阿里云计算有限公司（以下简称“阿里云”）与您就数据管理服务的相关事项所订立的有效合约。《数据管理服务协议》以下或简称“本服务协议”、“服务协议”或“本协议”。背景信息 在接受本协议之前，请您仔细阅读...
DAS Auto Scaling弹性能力
针对上述两类问题，数据库自治服务DAS进行了服务创新，使数据库服务具备自动扩展存储和计算资源的技术能力，可从容应对。本文将对DAS Auto Scaling服务的架构进行详细的介绍，包括技术挑战、解决方案和关键技术。技术挑战 计算资源规格调整...
行业趋势与背景
行业趋势 数据库系统至关重要 数据库与操作系统、中间件并称为系统软件的三驾马车，是企业IT系统不可或缺的组件，也是互联网应用级企业信息管理系统存储数据和管理数据的核心平台。数据库系统是一切应用软件的数据处理及交换核心，是所有...
聚水潭：云原生数据仓库助力企业实现商业洞察
业务挑战 峰值压力过大 由于平台上商家的典型电商属性，在618、双11等大促活动期间，会出现业务的峰值，系统承载的订单量大幅度上升。因此在大促前希望能快速弹性升级实例规格，提供更高的负载能力。数据分析需求高 聚水潭ERP要求系统不仅...
文档修订记录
开放平台概览 2023年4月更新记录 时间 特性 类别 描述 产品文档 2023.4.23 新增功能 数据集成 数据集成的MaxCompute同步任务默认使用公共传输资源上传、下载数据至MaxCompute，为满足您业务增长对传输资源的更高要求，MaxCompute推出了独享...
产品优势
可视化DMS平台：专业的DMS数据管理平台，提供可视化的数据管理、数据查询工作台。数据库内核版本管理：提供数据库内核版本升级管理操作模块，降低内核版本管理成本。如需使用，请前往购买页开通集群 云数据库ClickHouse购买页。
配置Elasticsearch输出
id主键取值方式，但却没有为该Elasticsearch主键映射源端字段，即选择业务主键取值方式但源端不存在主键，选择联合主键取值方式后未配置主键列，此时主键设置的取值方式不生效，同步时将随机生成_id值，此操作可能会带来数据重复问题。...
高效数据治理实施指南
除了对存量问题的治理，作为工作空间的管理员，还需要进行增量数据治理问题的事前管控，避免在存量治理目标需要达成的情况下又出现新的问题。数据治理中心通过 配置检查项，进行增量治理问题的管控，作用于数据开发和数据提交的研发环节。...
数据集成概述
数据集成是稳定高效、弹性伸缩的数据同步平台，致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。使用限制 数据同步：支持且仅支持结构化（例如RDS、DRDS等）、半结构化、无结构化（OSS、TXT等，要求具体同步...
逻辑表
当业务达到一定规模后，需要通过分库分表来进行负载均衡，从而达到在大量业务压力场景下具有平滑支撑的能力。本文介绍逻辑表的定义、应用场景、配置说明等信息。注意事项 逻辑表的操作必须在对应的逻辑库下进行。说明 逻辑表可当做单表直接...
无感数据集成（Zero-ETL）
方案概述 在大数据时代，企业面临着大量分散在不同的系统和平台上的业务数据，为了有效地管理和利用这些数据，企业往往需要依赖于ETL工具对数据进行集中式管理。ETL是将上层业务系统的数据经过提取（Extract）、转换清洗（Transform）、...
概述
这就导致了不同系统之间会进行数据迁移，同一份数据可能在不同源之间冗余，进而出现数据不一致的问题，以及特征难管理、模型难升级等困境。除此之外，数据工程师、算法工程师和开发工程师的人力成本也是当前数据驱动的智能决策应用难以大...
无感集成（Zero-ETL）
方案概述 在大数据时代，企业面临着大量分散在不同的系统和平台上的业务数据，为了有效地管理和利用这些数据，企业往往需要依赖于ETL工具对数据进行集中式管理。ETL是将上层业务系统的数据经过提取（Extract）、转换清洗（Transform）、...
平台安全诊断
DataWorks的平台安全诊断，为您提供了当前DataWorks工作空间与绑定的引擎在数据传输、存储、运算等过程中，与身份认证、访问权限控制、开发模式等功能相关的安全能力，以及诊断相关安全问题的最佳实践，帮助您及时发现平台的安全隐患，在...
创建EMR表
重要 提交时，您需要选择提交表时所用的调度资源组，当使用独享调度资源组提交表时，DataWorks平台将下发对应新建表的任务到引擎侧执行，并打印执行过程的执行日志，如果资源提交过程中出现问题，您可以先通过日志自助排查。如果您目前无...
DataWorks V2.0
当离线MaxCompute数据发生变化时，数据质量会对数据进行校验并阻塞生产链路，避免问题数据污染扩散。同时，数据质量提供了历史校验结果的管理，以便您对数据质量分析和定级。数据服务（新增）数据服务 提供了快速将数据表生成数据API的能力...
数据风险点监控
DQC以数据集（DataSet）为监控对象，当离线MaxCompute数据发生变化时，DQC会对数据进行校验，并阻塞生产链路，以避免问题数据污染扩散。DQC还提供了历史校验结果的管理，方便数据质量的分析和定级。通过配置DQC的数据质量校验规则，可以...
功能发布记录
接口管理 管理能力产品 管理能力目录 处理能力接入审批任务 管理业务应用 申请能力接入和跟进任务 2022年10月 动态名称 动态描述 相关文档 优化建模平台 支持根据数据模型批量生成应用服务，针对选中的数据模型可生成对应的结构对象及基础...
应用场景
ISV备份方案集成 从事ISV服务的企业用户可能面临多种的问题，例如难以统一管理多数据库环境和多种备份脚本，长时间保留某些业务数据导致后期核算成本太高，不同云厂商和云产品之间备份保留周期不一致，数据恢复的安全性难以保证等等。...
新功能发布记录
OceanBase 数据库之间的数据迁移 支持 TiDB 数据库至 OceanBase 数据库 MySQL 租户的结构迁移、全量迁移、增量同步、全量校验和反向增量 迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户 支持 PolarDB-X 1.0 数据库至 OceanBase ...
数据开发概述
类型 描述 对象组织及管理 DataWorks数据开发提供的对象组织与管理机制如下：对象组织：提供 解决方案>业务流程 两级管理模式。DataWorks基于业务流程提供目录树与可视化面板两种对象组织方式。您可通过目录树创建所需对象，或使用业务流程...
跨境SaaS:深圳市易仓科技有限公司
PolarDB 采用存储和计算分离的架构，提供分钟级的配置升降级、秒级的故障恢复、全局数据一致性和免费的数据备份容灾服务，既融合了商业数据库稳定可靠、高性能、可扩展的特征，又具有开源云数据库简单开放、自我迭代的优势。本文介绍深圳市...
DataWorks OpenAPI概述
当超过QPS或每日调用次数限制后，将会出现调用失败，请合理控制调用并发和次数。API调用成功和调用失败的次数都会计入每日调用限制次数中。免费额度与计费方式 OpenAPI采用版本结合按量计费的商业化方式，计费标准如下。版本 免费调用额度 ...
引擎类型
云原生多模数据库 Lindorm 内含宽表引擎、时序引擎、搜索引擎、文件引擎、计算引擎和流引擎，兼容HBase/Cassandra/S3、OpenTSDB、Solr、HDFS、Kafka等多种开源标准接口，同时提供SQL查询、时序处理、文本检索分析等能力。为应对动态变化的...
OpenEvent概述
下载中心 数据下载前置事件 描述：在实际的数据下载操作之前，会触发 数据下载前置事件，以获取即将进行的下载操作的相关信息。类型：数据 扩展点事件 例如，当用户在下载中心进行数据下载操作。说明 由于网络时延问题，OpenEvent的消息...
- 产品推荐
- 这些文档可能帮助您