什么是DataWorks
典型客户 国家电网大数据中心：通过DataWorks实现总部+27家省（市）公司PB级数据的统一管理，通过全链路数据中台的治理与监测运营体系，加快电网整体数字化转型升级。世界500强亿滋中国：通过DataWorks智能数据建模进行全链路的数据模型...
数据治理中心概述
数据治理中心可自动发现平台使用过程中数据存储、任务计算、代码开发、数据质量及安全等维度存在的问题，并通过健康分量化评估，从全局、工作空间、个人等多个视角，以治理报告及排行榜呈现治理成果，帮助您高效达成治理目标。同时，提供...
无感集成（Zero-ETL）
方案概述 在大数据时代，企业面临着大量分散在不同的系统和平台上的业务数据，为了有效地管理和利用这些数据，企业往往需要依赖于ETL工具对数据进行集中式管理。ETL是将上层业务系统的数据经过提取（Extract）、转换清洗（Transform）、...
功能发布记录（2022年）
英国（伦敦），美国（硅谷），美国（弗吉尼亚），阿联酋（迪拜）所有DataWorks用户 数据集成概述 DataWorks支持EMR新版数据湖DataLake DataWorks支持基于EMR计算引擎新版数据湖DataLake，实现基于EMR引擎的数据集成、数据建模、数据开发...
DescribeColumnsV2-查询数据资产表中列的数据V2
调用DescribeColumns接口查询数据安全中心连接授权的MaxCompute、RDS等数据资产表中列的数据。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权...
二进制数据类型
本文介绍了二进制数据类型的定义及相关语法。名称 存储大小 说明 BINARY 二进制字符串的长度。定长二进制字符串，取值范围：1~8300。BLOB 实际二进制字符串加1字节（如果二进制字符串小于127字节）或4字节（如果二进制字符串大于等于127...
文档修订记录
调度参数典型场景配置示例 2023.2.21 新增功能 数据开发 DataWorks将不同类型引擎任务封装为不同节点，通过节点来定义数据开发任务。同时，支持使用资源、函数、以及相关逻辑处理节点开发更多复杂的任务。您可参考数据开发任务的通用开发...
功能发布记录 2022年之前
DataWorks审批中心是一个用于管理数据授权、敏感行为管控流程的功能模块，包含审批范围定义、审批流程定义等核心功能，满足不同企业在不同内部合规场景下的审批要求。2021.07.16 全部地域。审批中心 DataWorks支持任务下发EMR gateway节点...
DescribeInstances-查询数据资产实例列表
获取连接授权的MaxCompute、RDS、OSS数据资产实例列表。接口说明 在调用 DescribeInstances 接口时，您可以设置搜索关键词、数据资产实例的风险等级等参数来获取符合要求的数据资产实例的列表信息。QPS 限制 本接口的单用户 QPS 限制为 10 ...
创建与释放全球多活数据库集群
数据同步规格 数据同步定义了以下四种规格及性能（RPS）上限。micro：200以内。small：2,000。medium：5,000。large：>5,000。重要 规格的线上运行性能受网络环境、源实例和目标实例的性能、延迟等因素影响，实际的性能值会有差异，表中...
DescribeDataAssets-查询数据资产敏感信息
取值：1：未识别到敏感数据，无风险 2：1 级敏感数据风险 3：2 级敏感数据风险 4：3 级敏感数据风险 5：4 级敏感数据风险 6：5 级敏感数据风险 7：6 级敏感数据风险 8：7 级敏感数据风险 9：8 级敏感数据风险 10：9 级敏感数据风险 11：10 ...
DescribeParentInstance-查询未授权或已授权资产列表
条件关键字：是指云产品自身定义的条件关键字。关联操作：是指成功执行操作所需要的其他权限。操作者必须同时具备关联操作的权限，操作才能成功。操作 访问级别 资源类型 条件关键字 关联操作 yundun-sddp:DescribeParentInstance acs:...
产品更新动态
2023年9月 发布时间：2023-09-28 功能名称 功能描述 相关文档 数据中心 数据源管理模块，用户可以在数据中心连接和管理数据库，并可直接在数据中心预览和查看数据库中的不同数据表。添加PolarDB PostgreSQL数据库 管理数据树 我的项目 核心...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
概述
DataWorks的安全中心作为云上大数据体系的安全门户，致力于向您提供面向数据安全生命周期全过程的安全能力，同时在符合安全规范要求的前提下，提供各类安全诊断的最佳实践。其核心功能如下：数据权限管理 安全中心为您提供精细化的数据权限...
管理数据定义资源
本文介绍在选择数据定义资源后，对应窗口的功能。前提条件 已登录DataV-TwinFabric控制台。已进入精修模式下的场景编辑器页面。上传数据定义 在 资源管理 窗口右上角，单击 导入>数据定义。在资源管理窗口，查看已导入的资源。搜索数据定义...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
SCAN语句
OPTIONS中可以定义数据源读取的运行期参数，针对不同的数据源，运行期参数不同。运行期参数主要包含如何定义流式读的行为参数。示例 创建一个LogService数据源表。spark-sql>CREATE TABLE loghub_table_intput_test(content string)>USING ...
数据查询
您可以查看云计算资源中物理表基本情况的概览能力，帮助您直观了解物理表基础信息、字段内容分布等情况，建立对数据表的宏观理解，为建立数据标准、定义数据模型、定义数据加工逻辑等工作提供基础依据。前提条件 已根据快速入门教程完成...
RAM用户使用DSC授权
RAM用户访问或管理数据安全中心控制台前，需要完成授权操作。本文介绍如何授予RAM用户管理或访问数据安全中心控制台的权限。前提条件 已创建RAM用户。具体操作，请参见 创建RAM用户。为RAM用户授权 使用阿里云账号（主账号）或具有管理权限...
应用场景
应用程序只需配置一个连接地址，无需修改代码即可将业务平滑扩展到更多地域，从1个数据中心，扩展到2个、3个甚至更多的数据中心。上海、深圳的集群规格无需与北京保持一致，可以灵活选择。部署流程 创建一个GDN，将已有集群作为GDN中的主...
个人数据中心
个人数据中心可以帮助您快捷查看自己所负责的资产，并可以对资产执行转交负责人、申请权限操作，本文为您介绍如何查看并管理自己所负责的资产。权限说明 超级管理员可转交所有表类型的负责人，当前表负责人可转交自己是负责人的表。项目...
个人数据中心
个人数据中心可以帮助您快捷查看自己所负责的资产，并可以对资产执行转交负责人、申请权限操作，本文为您介绍如何查看并管理自己所负责的资产。权限说明 超级管理员可转交所有表类型的负责人，当前表负责人可转交自己是负责人的表。项目...
数据中心
数据中心包含数据管理、数据配置。数据管理 数据管理模块展示并管理用户添加的数据。主要功能包括数据表引入、本地数据导入。数据表 支持用户从已注册的计算资源类型中添加数据表。支持基于已添加的数据查看表信息、表内展示的字段。支持将...
散点层
重要 该配置项为一个数组，配合数据分级使用，从类型1到类型n为递增的设置，例：类型1设置为10，则表示value值为0~10的数据将展示为10的大小，类型2设置为20，则表示value值为11~20的数据将展示为20的大小，如果数据分级配置项设置为3级，...
蜂窝热力层
数据源 单击 配置数据源，可在 设置数据源 页面中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果。详情请参见 配置组件数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
FineReport（2.0版）
操作步骤 打开FineReport，单击 服务器>定义数据连接。在 定义数据连接 页面进行以下参数配置，详细的参数说明如下表所示。配置项 说明 数据库 选择 MySQL。驱动器 选择 MySQL jdbc驱动。URL 分析型数据库MySQL版的连接地址，格式为：jdbc:...
数据服务概述
数据服务基于Serverless架构，您无需关注服务器、网络等运行环境相关的基础设施，只需专注于API的定义、数据的查询逻辑，从而避免传统架构带来的运维成本开销。数据服务与API网关（API Gateway）完全集成，支持您将数据服务快速发布到API...
使用自定义镜像创建服务器
如果自定义镜像中包含数据盘数据，则数据盘的大小也不能小于自定义镜像中数据盘数据的大小。在轻量应用服务器创建完成前，请注意不要进行以下操作，否则将导致服务器创建失败：删除对应的自定义镜像。删除自定义镜像来源的快照。对自定义...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
流程简介
数据探索主要包括首页、数据中心、算子中心、模型中心、任务中心等功能。本文介绍了数据探索的业务操作基本流程。数据探索的业务流程如下图所示。数据探索的流程说明如下表所示。流程 说明 首页 提供新手引导及用户登录、模型情况的运行...
通过向导模式配置离线同步任务
数据集成提供向导式的开发引导，您无需编写任何代码，通过在界面勾选数据来源与去向，并结合DataWorks调度参数，实现将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍向导模式配置离线同步任务的常规配置，各...
功能简介
数据查询为用户提供对云计算资源中物理表基本情况的概览能力，帮助用户直观了解物理表基础信息、字段内容分布等情况，建立对数据表的宏观理解，为建立数据标准、定义数据模型、定义数据加工逻辑等工作提供基础依据。数据导入 支持512 MB...
账单数据订阅及查询分析
您可在用户中心订阅不同类型的账单数据，例如，计费项明细账单、计费项账单按天汇总等。订阅成功后，账单数据将会定时同步至MaxCompute，您可使用DataWorks的数据分析功能查询并分析账单数据，将分析结果生成可视化图表卡片及报告，同时，...
DataWorks模块使用说明
使用流程概览：参考文档：数据集成概述 数据建模与开发 子模块：数据建模 功能说明：数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
添加RDS PostgreSQL数据库
在 数据中心 页面下方，单击 新建数据连接。选择需要添加的数据库，单击 去连接数据库。不打开VPC开关，填写数据库信息。参数 说明 数据连接名称 数据源的显示名称，可以自由命名。域名 连接数据库的地址。重要 该地址是DataV-Atlas服务器...
入门实践
而数据建模新增定义数据形态的流程，为您提供一站式的模型管理解决方案和数据开发前的治理能力。在数据建模时，您可以根据对业务流程的理解和需求的调研，定义企业的业务标准和规范。同时，基于数据标准进行引用和实行，生成表结构，实现...
数据查询
数据查询为用户提供对云计算资源中物理表基本情况的概览能力，帮助用户直观了解物理表基础信息、字段内容分布等情况，建立对数据表的宏观理解，为建立数据标准、定义数据模型、定义数据加工逻辑等工作提供基础依据。如果数据表格存储的是...
云产品集成
您可以使用 DMS 录入云数据库 OceanBase 的数据，通过 DMS 的全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。什么是数据管理DMS 支持的数据库...
- 产品推荐
- 这些文档可能帮助您