数据开发与运维中心:数据加工

任务监控与定位处理 计费 进行数据开发与运维可能产生的费用包括:运行任务所需的 调度资源组 费用。计费详情请参见 独享调度资源组计费说明:包年包月、公共调度资源组计费说明:按量付费。进行运维监控时,监控规则计算扫描所需的实例...

MaxCompute函数管理

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。展开左侧导航栏中的 MaxCompute,单击 MaxCompute函数。MaxCompute函数默认按照创建时间倒序排列,...

数仓开发任务流

数仓开发的项目空间由入仓解决方案和业务场景两部分...删除表 仅移除该任务流对数仓表的引用,并不删除数据库中的物理表。删除后数仓开发任务流无法再对该表进行操作。右键单击目标数仓表,选择 删除。在 移除关联表 对话框中,单击 确认。

从自建Db2迁移至RDS MySQL

说明 DTS也支持迁移7.3、7.4版本的Db2 for i数据库至RDS MySQL,配置方式与Db2数据库迁移至RDS MySQL类似,您可参考本文介绍的迁移任务配置方式进行配置。RDS MySQL的存储空间须大于Db2数据库占用的存储空间。注意事项 不支持DDL操作的同步...

入门实践

基于DataWorks的数据建模流程如下:空间管理员角色创建数据标准 模型设计师角色创建数据模型 模型设计师角色修改数据模型 模型设计师角色保存模型至模型 开发角色提交模型至开发环境计算引擎 运维、部署或空间管理员角色发布模型至生产...

查看数据风险(旧版)

操作步骤 登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品>数据治理>数据保护伞,单击 立即体验,进入数据保护伞。说明 若阿里云主...

查看监控任务

引擎/数据库实例 选择已在数据开发中绑定的EMR、Hologres、AnalyticDB for PostgreSQL或MaxCompute数据源。状态 支持通过规则运行状态进行过滤,状态包括正常、运行中、阻塞和报警。如果是报警或阻塞状态,则需要您多加注意。业务时间 选择...

创建数据脱敏场景

该场景下,数据在存储过程中便会按照配置的脱敏规则识别敏感数据并将其脱敏,脱敏完成后再将数据存储至指定数据库位置。权限控制 新增、编辑、删除脱敏场景:租户管理员、租户安全管理员 可选择的数据范围为租户下所有项目空间。空间管理员...

数据开发:开发者

背景信息 DataWorks的数据开发(DataStudio)面向各引擎(MaxCompute、Hologres、EMR、CDH等)提供可视化开发界面,包括智能代码开发、数据清洗加工、规范化任务开发与发布等,保证数据开发的高效与稳定。更多数据开发模块的使用,详情请...

创建并使用PAI Studio节点

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在 数据开发 页面,鼠标悬停至 图标,单击 新建节点>算法>PAI Studio。在 新建节点 对话框中,输入...

创建并管理MaxCompute节点

在弹框中配置节点的名称,完成后单击 确认,完成MaxCompute节点创建操作,后续您即可在节点中进行对应MaxCompute任务开发与配置。开发MaxCompute任务 当前DataWorks支持多种MaxCompute节点类型,便于您开发不同类型的MaxCompute任务。节点...

数据保护伞概述

细分操作 描述 参考文档 数据操作审计 数据保护伞会记录所有涉及敏感数据的行为(包含IP、端口信息、数据库用户等)及敏感数据血缘信息,您可通过敏感信息进行相关操作审计。同时,针对规则识别不准确的敏感数据,可手动修正。敏感数据概况...

创建EMR Hive节点

您可以创建EMR(E-MapReduce)HIVE节点,通过类SQL语句协助读写、管理存储在分布式存储系统上的大数据集的数据仓库,完成海量日志数据的分析和开发工作。前提条件 数据开发(DataStudio)中已创建业务流程。数据开发(DataStudio)基于业务...

通过样本识别

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品>数据治理>数据保护伞。单击 立即体验,进入数据保护伞。在左侧导航栏,单击 规则...

查看代码结构

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。进入目标节点的编辑页面。您可以在 数据开发 或 手动业务流程 的目录树下,找到目标节点,双击该节点即可进入节点的...

编辑器代码提效

进入编辑器界面 登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。进入节点的代码编辑器。在 数据开发 页面的左侧目录树查找目标节点,双击节点名称即可进入节点编辑页面...

首页

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品>数据建模>数仓规划,默认进入 数仓分层 页面。单击顶部菜单栏右侧的 首页,进入智能...

配置数据质量监控

数据库:您当前的生产项目。表:本案例需要为dwd_log_info_di_emr表设置监控规则。在搜索结果中找到目标表,单击操作列的 监控配置,进入该表的规则配置页面。具体配置参考下文操作。配置分区表达式。在表的监控规则配置页面,单击 分区...

数据脱敏能力概述

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品>数据治理>数据保护伞,单击 立即体验,进入数据保护伞。说明 若...

配置代码模板

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左侧导航栏底部的 图标,进入 设置 页面。在 设置 页面,单击 代码模板,进入 代码模板 页面。设置代码模板。在 ...

使用内建函数

查看内建函数 在DataWorks控制台中查看函数列表的具体操作如下:登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左侧导航栏中的 函数列表,即可查看相应的函数。您...

建表并上传数据

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在 数据开发 页面,鼠标悬停至 图标,单击 新建表>MaxCompute>表。您也可以打开相应的业务流程,右...

敏感数据访问及导出情况

操作步骤 登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品>数据治理>数据保护伞,单击 立即体验,进入数据保护伞。说明 若阿里云主...

系统配置

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上方的 图标,选择 全部产品>数据治理>数据保护伞,单击 立即体验,进入数据保护伞。说明 若...

数据开发功能索引

节点:代码开发的最小单位,支持对应引擎、算法、数据集成、数据库、通用节点进行代码开发。表:使用可视化方式操作表。资源:使用可视化方式上传资源。说明 当前仅支持MaxCompute、E-MapReduce、CDH引擎使用可视化方式上传资源。函数:...

数据开发概述

DataWorks数据开发(DataStudio)模块用于定义周期调度任务的开发及调度属性,运维中心配合使用,面向各引擎(MaxCompute、Hologres、EMR等)提供可视化开发主界面,支持智能代码开发、多引擎混编工作流、规范化任务发布等能力,帮助您...

DROP DATABASE

DROP DATABASE语法用于删除指定的数据库。引擎版本 DROP DATABASE语法适用于宽表引擎和时序引擎。宽表引擎仅2.2.16及以上版本支持DROP DATABASE语法。时序引擎无版本限制。语法 drop_database_statement:=DROP DATABASE[IF EXISTS]...

调试代码片段:快捷运行

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。查找目标节点并进入节点编辑页面。在 数据开发 或 手动业务流程 功能模块的目录树,或通过 临时查询 功能,查找目标...

简介

应用开发与物料市场交 互的最小单位为模块,当模块被引用进应用开发后,用户可按需选择模块中包含的元素。应用开发与物料市场 调用关系为拷贝关系,即:物料市场内有更新,已经调用过的不会进行同步更新。用户对于物料的使用,实际上是在对...

创建CDH Spark节点

单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:创建并引用CDH JAR资源 您可以在创建的CDH Spark节点中引用JAR包资源,并编写CDH Spark节点代码,通过Spark Submit命令提交任务。具体操作如下:...

开发管控:管理者

作为工作空间的管理者,在使用数据开发(DataStudio)时,您可以针对用户的开发行为实施有效的管控措施,进行开发流程、数据安全、审计等相关操作,本文将帮助您快速掌握DataStudio的相关功能,实现对数据开发过程的有效管控。背景信息 ...

调度设置

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧导航栏底部单击 图标,进入 设置 页面。在 调度设置 页签设置调度任务相关功能的默认配置。...

资源组编排

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。进入资源组编排页面。在数据开发页面,鼠标悬停至目标业务流程,单击业务流程后的 图标,进入该业务...

DataWorks模块使用说明

使用流程概览:参考文档:数据集成概述 数据建模与开发 子模块:数据建模 功能说明:数据建模是全链路数据治理的第一步,沉淀阿里巴巴数据中台建模方法论,从数仓规划、数据标准、维度建模、数据指标四个方面,以业务视角对业务的数据进行...

度量单位

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据建模,在下拉框中选择对应工作空间后单击 进入数据建模。进入 度量单位。在 智能数据建模 页面的顶部菜单栏,单击 数据标准,进入 数据标准 页面。在 数据...

创建CDH Hive节点

在 新建节点 弹窗中,配置节点的 名称,完成后单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:开发Hive任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择CDH...

使用节点组

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在左侧业务流程目录下,双击目标业务流程,进入该业务流程的编辑面板。新建节点组。生成节点组。您可根据业务需求,...

创建CDH Presto节点

在 新建节点 弹窗中,配置节点的 名称,完成后单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:开发Presto任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择CDH...

创建EMR Presto节点

在弹框中配置节点的名称,完成后单击 确认,完成节点创建操作,后续您即可在节点中进行对应任务开发与配置。开发Presto任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择EMR 集群 实例 如果您的工作空间...

创建CDH Impala节点

在 新建节点 弹窗中,配置节点的 名称,完成后单击 确认,完成节点创建,后续您可在创建的节点中进行对应任务的开发与配置操作。步骤二:开发Impala任务 您可以双击已创建的节点,进入任务开发页面,进行以下任务开发操作。(可选)选择CDH...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 RDS 云数据库 Redis 版 数据库备份 DBS 云数据库 MongoDB 版 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用