大数据开发文档-大数据开发文档文档介绍内容-阿里云

HoloStudio（即将下线）

为给您提供一致的开发体验，DataWorks>HoloStudio 产品能力将整合至 DataWorks>数据开发（DataStudio）中，从 2024年2月29日开始，HoloStudio将不再提供服务，届时您可使用DataStudio相关功能继续进行Hologres的数据开发。针对已存在于...

通用参考：切换资源组

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。修改数据集成资源组。离线同步任务单个任务修改在左侧导航栏，单击 数据开发，找到目标离线同步...

数据质量入门

前提条件根据 数据开发：开发者文档创建 result_table 节点，及节点产出的 result_table 表。说明本文均以 result_table 表来演示数据质量的功能，实际执行时，也可基于您使用的表执行相关操作。背景信息数据质量支持以表为维度，为...

用户授权与管理

使用数据建模DATABLAU功能时，在进行定义标准、数据建模、数据开发、部署运维等不同任务时，通常需不同角色的用户进行操作，对应用户需获取相应的权限。本文为您介绍制定标准、数据建模并应用部署过程中推荐的用户角色权限规划与授权操作...

MaxFrame概述

MaxFrame是由阿里云自研的分布式计算框架，支持Python...面向Data+AI开发，需要依赖第三方或自定义镜像完成数据开发、模型开发等整体流程。支持的工具 MaxFrame支持在本地环境、DataWorks、MaxCompute Notebooks中使用。详情请参见准备工作。

DataWorks新版数据源公告

若想使用创建的数据源进行数据开发，则数据源创建完成后还需进入数据开发（DataStudio）进行模块绑定。已绑定的计算引擎：已绑定的计算引擎迁移至 数据开发>数据源管理。编辑计算引擎：不再支持直接编辑计算引擎，如需编辑可直接通过编辑...

创建解决方案

数据开发模式全面升级，包括工作空间>解决方案>业务流程三级结构，抛弃陈旧的目录组织方式。背景信息 DataWorks对数据开发模式进行全面升级，按照业务种类组织相关的不同类型的节点，让您能够更好地以业务为单元、连接多个业务流程进行开发...

运行历史

运行历史面板为您展示最近三天您在数据开发界面运行过的所有任务记录，单击相应的任务，即可查看运行日志。说明运行历史界面只展示当前账号在数据开发（DataStudio）最近三天的运行记录。如您需查看调度任务每日运行情况，请前往运维...

通用数据开发

通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...

创建数据脱敏场景

脱敏场景介绍 DataWorks提供的 数据开发/数据地图展示脱敏、数据分析展示脱敏、MaxCompute引擎层脱敏、Hologres引擎层脱敏等动态脱敏，及数据集成静态脱敏等一级脱敏场景为固定场景，不支持执行新增、编辑、删除等操作。同时，DataWorks...

什么是DataWorks

中国国际大数据产业博览会十佳大数据案例中国信通院：数据集成工具、数据管理工具、数据开发平台、数据脱敏工具、数据分类分级等评测学习路径您可以通过DataWorks文档首页的学习路径，快速了解DataWorks的相关概念、基础操作及进阶操作...

子账号使用DataWorks

访客仅有只读权限，可以查看数据开发页面的业务流程设计和代码内容。安全管理员仅有数据保护伞模块的操作权限，详情请参见数据保护伞。使用子账号登录 DataWorks控制台，单击 数据开发 页面的 DataStudio。您可以根据业务需求进行数据...

创建并使用AnalyticDB for PostgreSQL节点

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。右键单击目标业务流程，选择新建节点>AnalyticDB for PostgreSQL>ADB for PostgreSQL。在新建节点...

创建AnalyticDB for MySQL3.0数据源

若地域不一致，则只能创建为跨地域的数据源，此类数据源无法在DataWorks的数据开发（DataStudio）模块绑定，即无法用于数据开发或周期性调度任务，仅可进行数据同步任务。已购买所需的DataWorks资源组并完成资源组配置。AnalyticDB for ...

创建AnalyticDB for PostgreSQL数据源

若地域不一致，则只能创建为跨地域的数据源，此类数据源无法在DataWorks的数据开发（DataStudio）模块绑定，即无法用于数据开发或周期性调度任务，仅可进行数据同步任务。已购买所需的DataWorks资源组并完成资源组配置。AnalyticDB for ...

创建并使用PAI Studio节点

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。在 数据开发 页面，鼠标悬停至图标，单击新建节点>算法>PAI Studio。在新建节点对话框中，输入...

创建ClickHouse数据源

后续操作数据源创建完成后，您可根据需要执行如下操作：计算任务开发与调度：DataWorks的数据开发与运维中心模块，为您提供ClickHouse任务的开发与调度能力，若您需要基于该ClickHouse数据源进行ClickHouse任务开发，或周期性调度...

快速体验

DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...

流程管控

DataWorks提供了全链路的数据开发治理能力，为您提供了统一的数据开发治理流程，同时也支持您在DataWorks的默认流程上基于自己的业务需求在关键的流程节点进行流程管控。本文为您介绍DataWorks在数据开发过程中支持的流程管控能力。背景...

数据脱敏能力概述

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。单击左上方的图标，选择全部产品>数据治理>数据保护伞，单击立即体验，进入数据保护伞。说明若...

PySpark及Python库使用

重要若要使用其他数据源进行数据开发，需开通相应服务。本示例采用OSS数据源。步骤一：创建 Databricks数据洞察集群登录阿里云Databricks数据洞察控制台。创建Databricks 数据洞察集群，详情参见创建集群。步骤二：添加依赖库并安装 ...

首页

登录 DataWorks控制台，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。单击左上方的图标，选择全部产品>数据建模>数仓规划，默认进入数仓分层页面。单击顶部菜单栏右侧的首页，进入智能...

创建Hologres数据源

数据源创建完成后，您可根据需要执行如下操作：计算任务开发与调度：DataWorks的数据开发与运维中心模块，为您提供Hologres任务的开发与调度能力，若您需要基于该Hologres数据源进行Hologres任务开发，或周期性调度Hologres相关任务，需先...

基于模型生成ETL代码

维度表、明细表、汇总表等模型表发布后，DataWorks智能数据建模的模型开发功能支持快速生成代码框架，帮助您提高后续数据开发效率。本文为您介绍如何通过模型开发功能生成代码框架。前提条件模型表已发布，操作详情请参见发布模型至引擎...

AnalyticDB for MySQL

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。右键单击目标业务流程，选择新建节点>AnalyticDB for MySQL>ADB for MySQL。在新建节点对话框中...

概述

DataWorks为您提供了多个实验教程，帮助您从前期的环境准备、数据采集，到后期的数据开发、结果展示，端到端了解DataWorks使用的全流程，更加熟悉产品的核心功能。DataWorks目前提供的产品教程如下：简单开发应用教程简单用户画像分析...

调试代码片段：快捷运行

登录 DataWorks控制台，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。查找目标节点并进入节点编辑页面。在 数据开发 或手动业务流程功能模块的目录树，或通过临时查询功能，查找目标...

必读：简单模式和标准模式的区别

附录：不同工作空间模式下，DataWorks模块对应操作的数据源您可以在 数据开发>数据源界面下查看数据开发中已绑定的数据源信息。绑定后不同工作空间模式下，DataWorks模块对应操作的数据源如下表所示：DataWorks模块标准模式简单模式 ...

入门实践

登录 DataWorks控制台，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。单击左上方的图标，选择全部产品>数据建模>DATABLAU。导入数据标准。在数据建模页面的顶部菜单栏，单击数据标准。...

DataWorks节点合集

DataWorks的数据开发（DataStudio）模块为您提供多种类型的节点，包括用于数据同步的数据集成节点，用于数据清洗的引擎计算节点（例如，ODPS SQL、Hologres SQL、EMR Hive），以及可对引擎计算节点进行复杂逻辑处理的通用节点（例如，可...

下载建模工具（DDM）

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。单击左上方的图标，选择全部产品>数据建模>DATABLAU。单击页面右上方的下载DDM。说明如果单击...

创建手动任务

您可以在DataWorks的数据开发（DataStudio）模块创建手动任务，并在生产环境的运维中心管理手动任务。本文为您介绍如何创建手动任务，并将手动任务发布到生产环境。使用说明若任务不需要发布生产环境操作生产环境引擎，您可选择新建临时...

对接使用CDH与CDP

以下简称 CDH）与CDP（Cloudera Data Platform，以下简称CDP）集群对接的能力，在保留CDH集群或CDP集群作为存储和计算引擎的前提下，您可以使用DataWorks的任务开发、调度、数据地图（元数据管理）和数据质量等一系列的数据开发和治理功能...

使用节点组

登录 DataWorks控制台，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。在左侧业务流程目录下，双击目标业务流程，进入该业务流程的编辑面板。新建节点组。生成节点组。您可根据业务需求，...

运维阶段

背景信息 数据开发人员主要需要处理以下事项：程序异常处理、性能优化。调度异常处理。数据质量监控规则异常分析、规则优化。数据异常的核查。运维阶段的流程包括分析影响、制定与实施方案和验证实施方案。操作步骤分析影响。运维人员或...

行业模型模版

登录 DataWorks控制台，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。单击左上方的图标，选择全部产品>数据建模>维度建模。在顶部菜单栏单击行业模型模版，进入行业模型模版页面。该页面...

ClickHouse SQL

登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击进入数据开发。右键单击目标业务流程，选择新建节点>ClickHouse>ClickHouse SQL。在新建节点对话框中输入节点 ...

系统管理

背景信息建表策略管理：是否允许用户在没有数据模型的情况下，可在数据开发（DataStudio）直接创建MaxCompute物理表。策略启用后，凡是未通过智能数据建模发布，直接在数据开发（DataStudio）创建或修改的MaxCompute物理表，在执行提交、...

建模空间

模型设计师设置好数据模型设计空间与数据研发工作空间的关系后，模型设计师在进行模型（汇总表、维度表、明细表、应用表）发布时，可以选择将模型物化到被关联的某一个研发空间，后续数据开发工程师即可在对应的工作空间进行数据开发...

Data Lake Analytics节点

操作步骤进入 数据开发 页面。登录 DataWorks控制台。在左侧导航栏，单击工作空间列表。选择工作空间所在地域后，单击相应工作空间后的快速进入>数据开发。鼠标悬停至图标，单击新建节点>自定义>Data Lake Analytics。您也可以打开...

大数据开发文档

新品推荐