文档修订记录
数据保护伞默认提供了 数据开发/数据地图展示脱敏、数据集成静态脱敏 等多种一级脱敏场景，若该类场景生效的数据范围及用户范围无法满足您更细化的脱敏需求，则也可基于一级场景自定义二级脱敏场景使用。创建数据脱敏场景 2023.11.20 新增...
规划工作空间
通常来说，开发环境的数据读、写权限为各工作空间的“开发”角色共享，而生产环境的数据权限为生产账号独有 数据质量 各工作空间之间的数据质量是 完全隔离 的。仅对应工作空间的“开发”、“运维”或“管理员”角色具备配置数据质量规则的...
开发数据服务API
物联网数据分析的数据开发任务是使用标准的SQL语句对设备进行数据分析，而API服务可将数据开发任务封装成API，方便开发者调用。API服务既可以直接响应设备端请求，也可以用于服务端数据对接。创建数据分析任务 登录数据分析控制台，单击 ...
离线同步并发和限流之间的关系
问题二：为什么我的数据同步任务跑的比较慢，实际运行的并发数不够？问题三：为什么我的同步任务并发数配置的很高，但是任务运行速度仍然很慢，为什么我的独享资源组经常等待资源？并发数是指数据同步任务中，可以从源端并行读取和向目标...
产品简介
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos打通了阿里云各个存储系统，如...
小程序分析简介
mPaaS 小程序分析是面向小程序开发者、运营者提供的数据分析组件。该组件提供支付宝、微信、mPaaS 小程序平台数据统计能力，支持对三大平台的小程序进行全面的数据分析，统计分析数据可视化展现，一目了然，协助产品运营决策，驱动产品体验...
在工作空间创建数据源或注册集群
工作空间创建完成后，您需要先将您的数据库或数据仓库，通过创建数据源的方式添加至DataWorks工作空间，或将您的集群注册至DataWorks工作空间，以便进行数据同步、数据分析与开发、数据调度等操作。本文主要以使用正式开发环境为例，为您...
快速体验
使用DataWorks的 数据开发 功能，将同步到MaxCompute中的数据进行清洗加工，并将结果数据写入MaxCompute表中。说明 RDS MySQL作为本次实验中存储原始数据的数据源。您无需自行准备RDS MySQL云产品及数据，本实验为您提供公共的实验环境与...
概述
数据开发 的核心功能如下：文件夹 用于存放并管理数据库中的数据开发节点。详情请参见 文件夹。Hologres开发 用于周期性调度作业。详情请参见 Hologres开发：周期性调度。一键MaxCompute表结构同步 支持使用可视化方式批量创建外部表，加速...
数据分析：即时快速分析
数据分析基于“人人都是数据分析师”的产品目标，旨在为更多非专业数据开发人员，如数据分析、产品、运营等工作人员提供更加简洁高效的取数、用数工具，提升大家日常取数分析效率。功能概述 数据分析支持基于个人视角的数据上传、公共数据...
通用数据开发
数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的数据，存储在业务系统所对应的数据库中，包括MySQL、Oracle和RDS等类型。数据收集与存储：您需要同步不同业务系统的数据至MaxCompute中，方可通过MaxCompute的海量数据...
必读：简单模式和标准模式的区别
附录：不同工作空间模式下，DataWorks模块对应操作的数据源 您可以在 数据开发>数据源 界面下查看数据开发中已绑定的数据源信息。绑定后不同工作空间模式下，DataWorks模块对应操作的数据源如下表所示：DataWorks模块 标准模式 简单模式 ...
创建ClickHouse数据源
创建完成后，可在DataWorks的各功能模块使用该数据源连接ClickHouse集群，进行相应的数据同步、数据开发、数据分析等操作。前提条件 已创建ClickHouse集群。详情请参见 新建集群。说明 建议创建ClickHouse集群时，地域 与创建ClickHouse...
数据下载
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。单击左上角的 图标，选择 全部产品>数据集成>上传与下载。在 上传与下载 页面单击左侧导航栏的 下载...
产品概述
具有丰富的数据可视化编辑能力、专业的地理信息可视化展示能力和灵活开发的部署方式等特点，详情请参见 什么是DataV数据可视化。DataV-TwinFabric 孪生仿真 DataV-TwinFabric孪生仿真平台是阿里云为数字孪生领域提供的一站式开发平台，旨在...
创建AnalyticDB for PostgreSQL数据源
创建完成后，可在DataWorks的各功能模块使用该数据源连接AnalyticDB for PostgreSQL实例，进行相应的数据同步、数据开发、数据分析等操作。前提条件 已购买AnalyticDB for PostgreSQL实例并创建数据库，详情请参见 创建实例、数据库管理。...
创建AnalyticDB for MySQL3.0数据源
创建完成后，可在DataWorks的各功能模块使用该数据源连接AnalyticDB for MySQL3.0实例，进行相应的数据同步、数据开发、数据分析等操作。前提条件 已购买AnalyticDB for MySQL3.0实例并创建数据库，详情请参见 创建实例、创建数据库。说明 ...
用户授权与管理
角色规划 使用数据建模并应用至数据开发的过程中，通常需要进行定义标准、数据建模、数据开发、部署运维等任务，下图为您示例不同流程中操作人员的角色以及所需的角色权限。建议您参考下图进行用户角色及权限规划。开通权限 建议您参考 ...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
HoloStudio一键迁移至DataStudio
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。进入HoloStudio一键迁移界面。单击顶部菜单栏的 图标，选择 全部产品>数据开发与运维>Holo Studio。...
功能简介
数据开发定义了各平台间的数据流转规范，以及各平台计算节点执行顺序的方法，从而让用户能够更加专注于计算逻辑的开发，不必关注底层的技术细节。数据开发规范了各个计算节点的接口，在一定程度上提高了计算节点复用的能力，降低了多人协作...
功能简介
数据开发定义了各平台间的数据流转规范，以及各平台计算节点执行顺序的方法，从而让用户能够更加专注于计算逻辑的开发，不必关注底层的技术细节。数据开发规范了各个计算节点的接口，在一定程度上提高了计算节点复用的能力，降低了多人协作...
数据开发
数据开发定义了各平台间的数据流转规范，以及各平台计算节点执行顺序的方法，从而让用户能够更加专注于计算逻辑的开发，不必关注底层的技术细节。数据开发规范了各个计算节点的接口，在一定程度上提高了计算节点复用的能力，降低了多人协作...
数据开发与运维中心：数据加工
功能概述 DataWorks的数据开发的亮点功能如下。DataStudio支持MaxCompute、EMR、CDH、Hologres、AnalyticDB、Clickhouse等多种计算引擎，支持在统一的平台上进行各类引擎任务的开发、测试、发布和运维等操作。DataStudio支持智能编辑器、...
创建并使用MaxCompute表
进入数据开发（DataStudio）登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。新建MaxCompute表 您可在DataWorks表管理目录中新建，也可在具体业务流程下，针对该业务...
创建数据脱敏场景
脱敏场景介绍 DataWorks提供的 数据开发/数据地图展示脱敏、数据分析展示脱敏、MaxCompute引擎层脱敏、Hologres引擎层脱敏 等动态脱敏，及 数据集成静态脱敏 等一级脱敏场景为固定场景，不支持执行新增、编辑、删除等操作。同时，DataWorks...
查看运营数据
本文介绍应用的运营数据。前提条件 已发布应用到生产环境，详细操作请参见 发布到生产环境。操作步骤 在指定应用的应用管理页面，选择 运营信息 页签，查看应用的运营数据。查看当前应用的运营数据，包含本日UV（本日独立IP访问数）、本日...
使用DataWorks（离线与实时）
MaxCompute支持通过DataWorks的 数据集成 功能将其他数据源的数据以离线或实时方式导入MaxCompute，也支持将部分类型的本地文件数据导入MaxCompute。本文为您介绍使用DataWorks将数据导入MaxCompute的主要操作流程与注意事项。前提条件 已...
操作流程
通过操作流程图及说明，您可以直观且全局了解数据开发的任务流程。本文从节点任务和场景任务两个使用场景来介绍数据开发的任务操作流程。节点模式操作流程 节点模式主要适用于计算节点相对独立，整个流程由单个节点组成的这类简单数据处理...
操作流程
通过操作流程图及说明，您可以直观且全局了解数据开发的任务流程。本文从节点任务和场景任务两个使用场景来介绍数据开发的任务操作流程。节点模式操作流程 节点模式主要适用于计算节点相对独立，整个流程由单个节点组成的这类简单数据处理...
创建手动任务
登录 DataWorks控制台，切换至目标地域后，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。在 数据开发 页面左侧导航栏选择 手动业务流程。若您界面没有该菜单，请参见 改变布局：定制化展示...
基于模型生成ETL代码
成功创建节点后，DataWorks会根据模型表的信息为您自动生成部分代码框架，后续您可基于此代码框架快速开展数据开发的工作。选择 绑定DataStudio节点：发布至MaxCompute、EMR Hive引擎的表与已有的相应引擎类型的DataStudio节点绑定，您可在...
创建并使用MaxCompute表
进入数据开发（DataStudio）登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。新建MaxCompute表 您可在DataWorks表管理目录中新建，也可在具体业务流程下，针对该业务...
概述
DataWorks为您提供了多个实验教程，帮助您从前期的环境准备、数据采集，到后期的数据开发、结果展示，端到端了解DataWorks使用的全流程，更加熟悉产品的核心功能。DataWorks目前提供的产品教程如下：简单开发应用教程 简单用户画像分析...
数据使用诊断
DataWorks的数据使用诊断，为您提供了对当前DataWorks工作空间的数据内容及数据隐私的安全保护能力，以及诊断相关安全问题的最佳实践及解决方案，帮助您快速建立数据使用时和使用后的基本安全体系。进入数据使用诊断 登录 DataWorks控制台...
集成与开发概览
DMS的数据集成与开发功能模块，针对数据全生命周期的集成、开发、服务三个阶段提供界面化的功能支持。功能简介 数据集成与开发功能模块支持多种计算、存储引擎，支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务，能够...
任务调试流程
调试运行单个任务 数据开发概述，在左侧导航栏的数据开发或手动业务流程模块，双击业务流程目录下的目标节点，进入该节点的编辑页面。调试运行任务。在节点编辑页面，使用节点工具栏中的运行或高级运行调试代码逻辑，也可通过快捷运行调试...
应用示例：数据开发过程触发事件检查
DataWorks的数据开发模块，支持扩展点事件包括文件发布前置事件、文件提交前置事件、表提交前置事件等。扩展点事件的概念和详细列表请参见 支持的扩展点事件列表。DataWorks支持对扩展点事件进行消息通知，通过扩展程序来自动化校验并响应...
流程管控
DataWorks提供了全链路的数据开发治理能力，为您提供了统一的数据开发治理流程，同时也支持您在DataWorks的默认流程上基于自己的业务需求在关键的流程节点进行流程管控。本文为您介绍DataWorks在数据开发过程中支持的流程管控能力。背景...
运行历史
查看运行历史 登录DataWorks控制台，单击相应工作空间后的 数据开发。单击左侧导航栏中的 运行历史，切换至运行历史面板（默认展示全部状态）。从状态列表中，选择需要查看的相关状态的任务。单击需要查看的运行记录，即可在右侧查看运行...
- 产品推荐
- 这些文档可能帮助您