什么是数据资源平台
平台通过将业务数据沉淀为智能数据或智能算子，以可视化拖拉拽和简单图形化条件设定进行模型编排，支持离线、在线、实时全场景，采用简化建模过程、提高模型运行效能、融合智能化算法等方式帮助用户将数据与业务结合起来，不断积累和沉淀...
什么是数据库网关
数据库网关DG（Database Gateway）是一种支持私网数据库远程...数据库网关与数据管理DMS搭配可为您提供高稳定性、低成本、统一的非阿里云数据库（例如本地IDC自建、其他云厂商的云数据库、其他云厂商云服务器上自建的数据库）的通用管理方案。
独享调度资源组
网络连通方案 独享调度资源组与其他资源组类似，本质上为一组阿里云ECS实例，在进行数据开发等任务运行时，需保障资源组与数据源之间的网络是连通的，且不会因为白名单等特殊安全访问设置阻断资源组与数据源之间的网络连通性。说明 如果独...
创建AnalyticDB for MySQL3.0数据源
若资源组与数据源无法连通，则相应数据源任务将无法正常执行。方式二：通过连接串模式创建数据源 使用该模式创建的数据源不支持用于数据开发和调度，只能用于数据同步。创建数据源配置如下。配置基础信息。参数 说明 数据源名称 定义数据源...
RDS MySQL迁移至自建Oracle
已选择对象 右击 已选择对象 中的数据库，在 编辑Schema 页面将 Schema名称 修改为自建Oracle中目标数据库的Schema，默认与 数据库账号 相同。更多对象名映射功能请参见 库表列名映射。说明 如果使用了对象名映射功能，可能会导致依赖这个...
合规&认证
个人信息 甲乙双方均应严格遵守网络安全与数据保护相关法律法规的要求，其中，用户使用瓴羊服务收集、储存、处理、使用的个人信息和实施与这些数据有关的活动，须遵循合法、正当、必要原则，且应当遵守相关法律法规、瓴羊产品服务协议和瓴...
数据集成概述
您需要确保数据集成用于执行数据同步的资源组与您将同步的数据来源端与目标端网络环境的连通，数据集成支持您根据数据源所在网络环境，选择对应的网络同步任务，关于网络连通方案选择与配置资源组与数据源的网络连通，详情请参见：配置资源...
数据归档至用户OSS
校验：归档数据与原库数据进行比对，展示差异信息与归档信息。校验时间随数据量增长。运行方式 选择运行方式，当前支持：单次执行：工单审核通过后，仅单次运行归档任务。周期调度：工单审核通过后，可根据部署的周期调度执行归档任务。...
产品概述
在需要将部分数据与第三方分享时，用户希望在不泄漏自身密钥的前提下完成加密数据的分享，同时满足合规要求。例如：在联合风控、跨国服务等场景下，有严格的数据合规要求，组织间无法进行明文数据的合规化获取。在合作营销等场景下，存在...
产品概述
在需要将部分数据与第三方分享时，用户希望在不泄漏自身密钥的前提下完成加密数据的分享，同时满足合规要求。例如：在联合风控、跨国服务等场景下，有严格的数据合规要求，组织间无法进行明文数据的合规化获取。在合作营销等场景下，存在...
数据追踪
DMS 可追踪到的数据与目标数据库实例的Binlog保留时长有关，若该数据的保存时间超过Binlog的保留时长，则获取不到该部分数据。若数据库的Binlog未开启或数据库登录状态异常，系统将无法获取日志文件。数据追踪功能仅支持追踪DML数据变更的...
使用DataWorks
测试资源组与数据来源、数据去向之间的网络连通性，确认独享数据集成资源组与数据源网络已打通。然后单击 下一步。配置任务。配置数据来源与去向。在 数据来源 和 数据去向 区域，配置任务读取与写入的表，及同步的数据范围。详情请参见 ...
使用MaxCompute控制台（离线）
重要 若待上传数据与目标表字段不存在映射关系，则该数据将会被置灰，且不会被上传。待上传数据与目标表字段不能存在重复映射关系。字段名称和字段类型不能为空，否则数据无法上传。查看上传记录 提交上传后，若数据量较大，需要耗费一些...
创建同步任务
您需要测试每种资源组的连通性，以保证同步任务使用的资源组能够与数据源连通，否则将无法正常执行数据同步任务。测试连通性通过后，单击 完成，数据源创建完成。步骤二：新建并配置同步任务 通过创建同步节点 write_result 来生成一个同步...
DataWorks模块使用说明
迁移助手 DataWorks迁移助手支持将开源调度引擎的作业迁移至DataWorks，支持作业跨云、跨Region、跨账号迁移，实现DataWorks作业快速克隆部署，同时DataWorks团队联合大数据专家服务团队，上线迁云服务，帮助您快速实现数据与任务的上云。...
加速服务
方案1：使用加速服务 注意事项 加速项与数据表之间是一一映射的关系，即：一个加速项中只包含一张数据表，一张数据表最多也只会产生一个加速项。如果在新增加速项时，选择了已配置过加速项的数据表名称，则该加速项将会初始化失败。步骤1：...
快速体验
您无需自行准备RDS MySQL云产品及数据，本实验为您提供公共的实验环境与数据。任务运维 使用DataWorks的 运维中心，周期性调度数据同步、清洗加工任务流程，获得每日的最新业务数据，同时可以监控每日任务运行的状态。数据治理 使用...
产品概述
在需要将部分数据与第三方分享时，用户希望在不泄漏自身密钥的前提下完成加密数据的分享，同时满足合规要求。例如：在联合风控、跨国服务等场景下，有严格的数据合规要求，组织间无法进行明文数据的合规化获取。在合作营销等场景下，存在...
什么是MaxCompute
提供持续的SaaS化云上数据保护 为云上企业提供基础设施、数据中心、网络、供电、平台安全能力、用户权限管理、隐私保护等保三级超20项安全功能，兼具开源大数据与托管数据库的安全能力。产品架构 MaxCompute的产品架构如下。其中核心模块...
2021年
新功能 MaxCompute提供湖仓一体方案，该方案可以打破数据湖与数据仓库割裂的体系，并将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合，助力构建数据湖和数据仓库相融合的数据管理平台。MaxCompute湖仓一体概述 2021年2...
2023年
支持用户通过SQL、PyODPS、Python等进行数据分析、探索，挖掘数据的价值，完成大数据与AI的融合应用开发。本文为您介绍如何使用Notebook功能。（邀测）MaxCompute Notebook使用说明 2023-09-12 新增在本地环境上使用PyODPS 新说明 PyODPS是...
新建数据元
数据元管理通过分析业务流程，抽象关键业务对象和业务对象属性，并把关键业务对象新建为数据元，并配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据。本文介绍如何新建数据元...
常见问题
云数据库 SelectDB 版 与数据管理服务DMS原生搭配，提供可视化、易用的SQL查询编辑器，减少数据管理工作量。云数据库 SelectDB 版 仅需投入少量运维人力。云数据库 SelectDB 版 内核是基于 Apache Doris 内核开发的商业化版本，基于云架构...
一键实时同步至MaxCompute
任务配置第二天，Merge任务将Base表全量数据与实时同步任务的增量数据进行Merge，最后将结果写入Base表。说明 全量数据初始化完成后，该离线同步任务将会被冻结。支持写入MaxCompute分区表与非分区表。以写入分区表为例：注意事项 当实时...
一键实时同步至MaxCompute
任务配置第二天，Merge任务将Base表全量数据与实时同步任务的增量数据进行Merge，最后将结果写入Base表。说明 全量数据初始化完成后，该离线同步任务将会被冻结。支持写入MaxCompute分区表与非分区表。以写入分区表为例：注意事项 当实时...
管理数据库资产
操作系统 是 在下拉列表中选择数据库所在服务器的操作系统类型，支持选择的操作系统类型与数据库类型有关。说明 部分资产类型无需配置操作系统，具体请以控制台显示为准。编码 否 在下拉列表中选择审计数据的编码类型。支持以下类型：自动...
新建数据元
数据元管理通过分析业务流程，抽象关键业务对象和业务对象属性，并把关键业务对象新建为数据元，并配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据。本文介绍如何新建数据元...
新增和使用独享数据集成资源组
前提条件 您需要先了解独享数据集成资源组的规格性能（不同规格能同时跑多少任务）、计费类型（不同规格怎么收费）等细节，提前根据业务场景规划需购买的资源组规格和购买时长，详情请参见：独享数据集成资源组计费说明：包年包月。...
数据集市
说明 删除 指定主题域，不仅会删除该主题域与数据集市的绑定关系，同时，会将该主题域一并删除，请您谨慎操作。创建子数据集市 在一级数据集市下，如有其他子数据集市，可继续新建子数据集市。创建方法与一级数据集市相同。后续步骤 完成...
概述
在需要将部分数据与第三方分享时，用户希望在不泄漏自身密钥的前提下完成加密数据的分享，同时满足合规要求。注意事项 加密规则在主地址上不生效，您需要使用集群地址或自定义集群地址。当前只支持普通的 COM_QUERY ，不支持 ...
新建数据字典
数据字典管理支持创建并维护数据模型中使用的数据字典，制定并管理平台遵循的统一数据标准，为数据元、指标、维度的值域设置中引用数据字典提供数据基础，帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。本文为您介绍如何...
概览
暂不支持 使用COPY ON CONFLICT覆盖导入数据 使用COPY命令快速导入数据的过程中，如果数据与表的约束冲突，会导致COPY命令报错退出。AnalyticDB PostgreSQL版 提供了COPY ON CONFLICT功能，可以让数据COPY不会因为约束冲突导致失败。暂不...
DescribeColumns-查询数据资产表中列的数据
例如，输入 test，会搜索出搜索项中包含 test 的全部数据信息。test TableId long 否 MaxCompute、RDS 等资产表中的列所属的资产表唯一标识 ID。说明 根据资产表的 ID 查询数据安全中心连接授权的数据资产表中列的数据，资产表 ID 可调用 ...
功能概述
在需要将部分数据与第三方分享时，用户希望在不泄露自身密钥的前提下完成加密数据的分享，同时满足合规要求。例如：在联合风控、跨国服务等场景下，有严格的数据合规要求，组织间无法进行明文数据的合规化获取。在合作营销等场景下，存在...
新建数据字典
数据字典管理支持创建并维护数据模型中使用的数据字典，制定并管理平台遵循的统一数据标准，为数据元、指标、维度的值域设置中引用数据字典提供数据基础，帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。本文为您介绍如何...
添加数据集
DataV数据集支持多种数据源的接入，如数据库、excel表格文件等，通过对数据的结构化存储和元数据的汇集整理，...创建并保存完成后的数据集会自动排列显示在 数据集管理 页面中，每一个保存的数据集后面都会自动显示数据集内的数据信息数量。
Delta Lake概述
数据仓库与数据湖 Data Warehouse、Data Lake和Delta Lake对比如下所示。对比项 Data Warehouse Data Lake Delta Lake 架构 计算存储一体或分离 计算存储分离 计算存储分离 存储管理 严格、非通用 原生格式 通用格式、轻量级 场景 报表、...
Kafka单表实时入湖OSS（HUDI）
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前，需要完成您的独享数据集成资源组和数据源的网络连通，详情请参见 配置资源组与网络连通。说明 OSS数据源在下一步新增OSS数据源时，指定Endpoint地址，即可实现OSS数据源与独享...
配置SQLServer数据源
您需要测试每个资源组的连通性，以保证同步任务使用的数据集成资源组能够与数据源连通，否则将无法正常执行数据同步任务。如果您需要同时测试多种资源组，请选中相应资源组后，单击 批量测试连通性。详情请参见 配置资源组与网络连通。说明...
创建Hologres数据源
若资源组与数据源无法连通，则相应数据源任务将无法正常执行。后续操作 为保障您的开发过程更加顺畅，建议先阅读 DataWorks On Hologres使用说明，了解在DataWorks使用Hologres的开发流程、相关费用、环境准备、权限控制等内容。数据源创建...
- 产品推荐
- 这些文档可能帮助您