数据服务
背景信息 数据服务提供了数据中台建设过程中的数据服务化能力，面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力；面向数据资产管理者提供服务的统计分析、服务用量统计分析，实现数据中台...
添加处理后数据到数据管理
数据处理后，需要将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。本文以倾斜数据处理后为例，介绍如何添加处理后数据到数据管理。前提条件 已新建数据处理任务，具体操作，请参见 新建数据处理任务。操作...
空间数据（邀测中）
数据处理 支持倾斜数据处理能力，可以将OSGD格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
功能简介
数据处理 支持倾斜数据处理能力，可以将OSGB格式数据转化为S3M数据，再将处理后的数据添加到数据管理中，以便被用于数仓建设、标签管理等数据中台任务。支持对数据处理任务进行管理。支持查看数据处理任务详情，包括任务的基本信息、处理的...
客户案例
新零售行业：大润发云上数据中台建设 客户架构如下。客户简介 为了快速数字化转型，拥抱新零售，大润发计划两年内将IT系统全面迁移到阿里云上，不再自建IDC。同时与阿里云合作启动数据中台项目，可以帮助大润发降低TCO的同时，更好的依托云...
准备工作
开通企业数据智能平台 企业数据智能平台默认为关闭状态，使用前需要前往 AnalyticDB PostgreSQL版 控制台开通。登录 云原生数据仓库AnalyticDB PostgreSQL版控制台。在控制台左上角，选择实例所在地域。...单击 开通数据中台。
应用场景
构建数据中台，行业领域模型快速沉淀 场景：快速构建数据仓库，有效治理数据质量，实现政企客户各部门数据的业务协同和共享。痛点：以政务服务为例，政务服务部门众多，业务系统复杂、流程长，数据来源多且更新频率高；数据口径标准、数据...
线热力层（v1.x版本）
info（可选）弹窗内容，如果为空，则弹窗信息显示为对应的矢量线数据中的 properties 字段的内容。如果不为空，弹窗信息显示为 info 字段的内容。color（可选）线热力层支持数据优先的渲染，如果您配置了 color（线颜色）、weight（线宽）...
什么是Dataphin
Dataphin是阿里巴巴集团OneData数据治理方法论内部实践的云化输出，一站式提供数据采、建、管、用全生命周期的大数据能力，以助力企业显著提升数据治理水平，构建质量可靠、消费便捷、生产安全经济的企业级数据中台。Dataphin兼容多种计算...
线热力层（v2.x版本）
info（可选）弹窗内容，如果为空，则弹窗信息显示为对应的矢量线数据中的 properties 字段的内容。如果不为空，弹窗信息显示为 info 字段的内容。color（可选）线热力层支持数据优先的渲染，如果您配置了 color（线颜色）、weight（线宽）...
产品优势
多场景支持：支持离线数仓搭建、数仓提速、离线数据分析、数据中台搭建、大规模数据集成、离线计算、异构数据集成等。低门槛：近乎零代码，简单配置连线后即可满足各项离线数据集成任务，同时任务支持复杂调度。基于资产的虚拟湖：配合数据...
备份集查询功能概览
您需要选择目标备份集并创建数据湖，就可以在离线数据湖中通过SQL语句查询到该表在不同备份集中的数据。应用场景 高效查询备份集：在不恢复数据库的情况下，仅需简单的SQL语句即可查询到备份数据。搭建离线数据仓库：您可以将DBS备份数据...
手动添加数据源
您可以通过 数据库备份DBS 的手动添加数据源功能，将不同环境的数据库添加至 数据库备份DBS 中，便于后续对数据源进行管理与备份。费用说明 添加数据源操作不会产生费用，只有在添加数据源后开启备份才会产生费用。如何开启备份，请参见 ...
常见问题概览
数据库没有数据Owner时如何处理 数据变更 SQLConsole页面执行SQL语句超时中断解决方案 DMS控制台中执行数据变更任务时提示“Duplicate column name 'XXXXX'”使用新版DMS控制台进行变更时提示“Duplicate entry:XXXX”数据库返回“Row size...
功能介绍
4 功能导航 当前区域为可视化工作台中特色功能的集中展示部分，包括数据集/数据源/过滤器的管理、组件包的开发、区块的设计及管理、组件收藏管理以及设计资源的集中管理等功能。数据准备功能，请参见 数据源分类。组件开发功能，请参见 ...
按时间戳冷热分离
注意事项 若某一行数据同时包含热数据和冷数据，例如更新了部分列导致一行数据中既存在热数据又存在冷数据的场景，开启查询热数据优先功能会导致该行的查询结果分两次返回，即Scanner返回的Result集合中，对于同一个Rowkey会有两个对应的...
规格及选型
案例七：大型互联网企业 用户为大型互联网企业，各业务线具有各自独立的业务中台，企业存在统一的数据中台，希望可以快速部署独立资源支持不同的业务负载，且未来不会产生数据孤岛。建议：使用 AnalyticDB PostgreSQL版 Serverless版本，...
新建补数据计划
在离线计算任务中新建补数据计划 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 运维监控。在左侧导航栏，单击 图标，选择 离线任务>离线计算任务。在离线计算任务列表中...
添加DataWorks数据服务数据源
说明 获取 AppKey 和 AppSecret：在 DataWorks数据服务控制台 中，单击 服务管理API调用，可获取您的 AppKey 和 AppSecret。信息填写完成后，单击 确定，完成数据源的添加。新添加的数据源会自动显示在数据源列表中。使用DataWorks数据服务...
添加DataWorks数据服务数据源
说明 获取 AppKey 和 AppSecret：在 DataWorks数据服务控制台 中，单击 服务管理>API调用，可获取您的 AppKey 和 AppSecret。信息填写完成后，单击 确定，完成数据源的添加。新添加的数据源会自动显示在数据源列表中。使用DataWorks数据...
数据同步
创建离线同步任务，具体步骤如下：将鼠标移动到左侧导航栏中的 离线数据同步 上，单击 图标。单击 新增任务。输入 任务名称，本次快速入门教程的示例名称为 信用卡客户数据上云_d。在 数据源配置 区域，数据源 选择 ADB for Postgre>adbpg_...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
对于不带分区的Hudi格式，您也可使用单表离线同步方案，但无需在DataWorks数据开发模块创建离线同步任务，直接在DLF控制台中创建 关系数据库全量入湖 类型的任务即可，具体操作可参考 OSS数据进行格式转换入湖。单表离线同步 在DataWorks ...
热力线层
最大透明度：热力线的最大透明度，根据数据中每条线对应的 value 值来设置线透明度。数据面板 该组件数据为GeoJson格式，关于数据格式以及数据获取方法，请参见 地图数据格式。其中每条线的 value 值可在 properties 字段中配置。说明 根据...
热力线层
最大透明度：热力线的最大透明度，根据数据中每条线对应的value值来设置线透明度。数据源面板 每条线的value值可在 properties 字段中配置。说明 根据数据的value区间得出scale区间，从而计算从最大到最小的颜色渐变区间。数据项配置 说明 ...
新零售：特步
业务架构 客户价值 基于 PolarDB-X+RDS的分布式数据库解决方案+业务中台提升客户数据链路的时效性以及客户业务系统的吞吐能力，使订单、库存、商品、销售的数据能实时从业务端到业务中台再到报表系统做销售业务决策。基于 PolarDB-X+RDS的...
创建同步任务
本文为您介绍如何通过创建同步任务，导出MaxCompute中的数据至MySQL数据源中。前提条件 已通过RDS创建MySQL实例，获取RDS实例ID，并在RDS控制台添加白名单。详情请参见 快速创建RDS MySQL实例 和 添加白名单。说明 如果是通过自定义资源组...
公告
显著提升数据治理水平，Dataphin将进一步加强资产治理方向的投入，正式更名为“智能数据建设与治理Dataphin”，希望能够更好的助力企业构建质量可靠、消费便捷、生产安全经济的企业级数据中台。更名公告，请参见 Dataphin更名通知。2020年...
离线同步能力说明
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
查看表资产详情
操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 发现。在顶部菜单栏，单击 资产目录。在 资产目录 页面，单击 数据表 页签，选择下面任意一种方式查找对应表资产。在关键词搜索框，输入资产名称或字段名称搜索表资产。...
配置离线数据集成节点
离线数据集成节点赋予任务流进行数据传输的能力，帮助您实现数据源之间的数据同步。本文介绍配置离线数据集成节点的方法。应用场景 离线集成节点主要用于数据迁移、数据传输等场景。功能特性 不限制来源表和目标表数据库类型。支持字段映射...
X-Engine简介
对性能影响比较大的Compaction过程做了大量优化：拆分数据存储粒度，利用数据更新热点较为集中的特征，尽可能的在合并过程中复用数据。精细化控制LSM的形状，减少I/O和计算代价，有效缓解了合并过程中的空间增大。同时使用更细粒度的访问...
通过向导模式配置离线同步任务
使用说明 部分数据源不支持使用向导模式配置离线同步任务，您可以选择数据源后，根据界面提示，若当前数据源不支持向导模式编辑任务，则单击工具栏中的 图标切换至脚本模式继续配置任务。详情请参见 通过脚本模式配置离线同步任务。向导...
离线同步并发和限流之间的关系
问题二：为什么数据同步解决方案中的离线全量任务跑的慢，长时间任务处于Submit状态？数据源连接数限制功能，是指：目标端写入并发数：在实时数据同步任务内，向目标端写入数据的最大线程数。需要根据资源组大小和目标端实际规模合理设置。...
Transaction Table2.0概述
增全量数据存储和处理一体化架构 上图所示即为MaxCompute高效支持上述综合业务场景的全新架构，支持丰富的数据源方便地通过定制开发的接入工具实现增量和离线批量数据导入到统一的存储中，由后台数据管理服务自动优化编排数据存储结构，...
离线同步常见问题
报错现象：如果数据中包括表情符，在同步过程中可能会报错脏数据：[13350975-0-0-writer]ERROR StdoutPluginCollector-脏数据 {"exception":"Incorrect string value:'\\xF0\\x9F\\x98\\x82\\xE8\\xA2.' for column 'introduction' at row ...
基本概念
数据资产：数据资源平台中存在大量的数据表、标签、API等各类数据资产，数据管理者通过数据汇聚、数据治理、数据分析后，需要对整个平台数据进行统一管控，了解平台的核心数据资产，提供对应的数据资产管理规范。统一服务 应用：是调用API...
新功能发布记录
当存储即将出现溢出时，集群的存储空间可自动进行扩容，保障线上业务的稳定性，主要适用于业务数据量比较大，或者业务量波动较大且频繁的场景。设置存储自动扩容 访问地址优化 支持多机房部署方案添加两个访问地址。当访问地址为 2 个时，...
存储空间分析
您可以在 AnalyticDB for MySQL 空间总览页面查看集群和表的总数据量、冷数据量、热数据量、索引数据量、分区数量、节点的磁盘使用率等指标。查看集群级别的数据量 通过 空间总览 可以查看当前集群的 总数据量、热数据量、冷数据量、以及 ...
功能更新动态（2023年）
创建MySQL数据源 创建PolarDB-X数据源 创建AnalyticDB for MySQL 2.0数据源 创建AnalyticDB for PostgreSQL数据源 创建达梦（DM）数据源 创建TiDB数据源 创建Kafka数据源 离线集成 新增Apache Doris数据源的离线集成。整库迁移任务支持...
文档更新动态（2023年）
更新说明 创建MySQL数据源 创建PolarDB-X数据源 创建AnalyticDB for MySQL 2.0数据源 创建AnalyticDB for PostgreSQL数据源 创建达梦（DM）数据源 创建TiDB数据源 创建Kafka数据源 离线集成配置优化 新增Apache Doris数据源的离线集成。...
- 产品推荐
- 这些文档可能帮助您