数据开发与运维中心:数据加工

DataWorks的 数据开发(DataStudio)是数据加工的开发平台,运维中心 是智能运维平台,基于这两个功能模块,您可以在DataWorks上规范、高效构建和运维数据开发工作流。功能概述 DataWorks的数据开发的亮点功能如下。DataStudio支持...

配置基础属性

责任 数据开发节点的责任。默认为当前登录用户,您也可以根据实际需求修改责任。说明 空间管理员可修改,且仅支持选择当前DataWorks工作空间中的成员为责任。描述 调度节点的描述。通常用于呈现节点业务、用途等信息。

数据开发概述

与运维中心配合使用,面向各引擎(MaxCompute、Hologres、EMR等)提供可视化开发主界面,支持智能代码开发、多引擎混编工作流、规范化任务发布等能力,帮助您轻松构建离线数仓、实时数仓与即席分析系统,保证数据生产的高效稳定。...

MaxCompute作业概述

数据开发作业实践:使用MaxCompute分析IP来源最佳实践、PyODPS节点实现结巴中文分词 等。数据类型 MaxCompute数据开发支持三个数据类型版本:1.0数据类型版本、MaxCompute 2.0推出了兼容开源主流产品的 2.0数据类型版本 和 Hive兼容数据...

后续指引

说明 相关文档 数据迁移 上传下载数据 MaxCompute提供Tunnel批量数据通道、Streaming Tunnel流式数据写入通道和DataHub实时数据通道三种数据上传下载的通道,同时还支持基于DataHub和Tunnel提供的SDK实现上传下载数据,满足多样化场景需求...

平台安全诊断

DataWorks的平台安全诊断,为您提供了当前DataWorks工作空间与绑定的引擎在数据传输、存储、运算等过程中,与身份认证、访问权限控制、开发模式等功能相关的安全能力,以及诊断相关安全问题的最佳实践,帮助您及时发现平台的安全隐患,在...

API实战实践

最佳实践:文件管理OpenAPI基础实践 最佳实践:表管理OpenAPI基础实践 通过OpenAPI创建、修改、删除离线同步任务 最佳实践数据开发、提交与运行OpenAPI基础实践 最佳实践数据ETL操作全流程实践 最佳实践:搭建自定义运维大屏 最佳实践...

数据迁移

背景信息 传统关系数据库不适合处理海量数据,如果您的数据存放在传统的关系数据库且数据量庞大时,可以将数据迁移至 MaxCompute。MaxCompute为您提供了完善的数据迁移方案以及多种经典的分布式计算模型,能够快速解决海量数据存储和...

什么是数据管理DMS

DMS提供全域数据资产管理、数据治理、数据库设计开发数据集成、数据开发数据消费等功能,致力于帮助企业高效、安全挖掘数据价值,助力企业数字化转型。视频介绍 功能特性 详情信息,请参见 功能概览。为什么选择数据管理DMS 全域数据...

概述

本节为不熟悉关系数据库管理系统的介绍 SQL 语言。将讨论创建、填充、查询和更新表等基本操作以及示例。还将讨论视图、外键和事务等更高级的概念。PolarDB PostgreSQL版(兼容Oracle)是关系数据库管理系统(RDBMS)。这意味着它是用于...

简介

DMS Data Copilot:是DMS基于阿里云大模型构建的数据智能助手。其结合了DMS熟练的数据管理、数据使用能力,可帮助开发、运维、产品等人员,更高效、规范使用和管理数据。更多信息,请参见 Data Copilot智能助手。Notebook:一个交互式的...

离线同步并发和限流之间的关系

最佳实践关系数据库(MySQL、SQL Server、PostgreSQL、Oracle、Polardb、Polardb-X等)、Hologres、ClickHouse、AnalyticDB for MySQL等对于数据要求比较敏感的场景,建议配置脏数据限制为0,以及时发现数据质量风险。对于数据要求不敏感...

功能更新动态(2022年之前)

2020年4月9日 华北2(北京)和华南1(深圳数据引入 计算设置 支持离线计算引擎和实时计算引擎的配置。设置Dataphin实例的计算引擎 计算源 计算源为离线数据的处理提供计算及存储资源、为实时数据的处理提供计算资源。计算源 数据源 支持...

数据仓库研发规范概述

在大数据时代,规范进行数据资产管理已成为推动互联网、大数据、人工智能和实体经济深度融合的必要条件。贴近业务属性、兼顾研发各阶段要点的研发规范,可以切实提高研发效率,保障数据研发工作有条不紊运作。而不完善的研发流程,会...

阶段二:数据安全防护措施及策略增强建设

在该阶段,DataWorks为您提供了新人入职自动化授权、按需申请数据权限&多级审批、数据可用而不可见、数据完整性与可用性专项治理等多个场景的最佳实践,帮助企业做好数据安全防护措施并建设更加完善的安全治理策略。场景一:新人入职自动化...

创建解决方案

背景信息 DataWorks对数据开发模式进行全面升级,按照业务种类组织相关的不同类型的节点,让您能够更好以业务为单元、连接多个业务流程进行开发。DataWorks通过 工作空间>解决方案>业务流程 三级结构,全新定义开发流程,提升开发体验:...

权限管理与规范化数据开发

实践将基于DataWorks标准模式空间完成从“数据建模”到“数据生产”的基本流程,帮助您快速掌握规范化的数据体系建设流程,提升在数据开发过程中的规范性、安全性、稳定性。背景信息 DataWorks采取RBAC权限模型供用户管理DataWorks所有...

必读:简单模式和标准模式的区别

绑定后不同工作空间模式下,DataWorks模块对应操作的数据源如下表所示:DataWorks模块 标准模式 简单模式 数据开发 操作开发环境数据源(实例,项目、数据库)操作生产环境数据源(实例,项目、数据库)运维中心 开发环境运维中心:操作...

产品概述

开发过程中,您可以快速完成各类不同数据源的接入,并通过蓝图编辑器完成组件间、跨页面的交互联动编排,最终产出可视化效果丰富、机交互灵活的可视化应用,并在各类媒介终端上进行演示播放,如个人电脑、会议室大屏、指挥中心大屏。...

阶段一:基础防护建设

在该阶段,DataWorks为您提供了数据分类分级、规范数据开发流程、企业级身份认证、开源身份隔离等多个场景的最佳实践,帮助企业做好数据安全治理的相关基础防护工作。场景一:数据分级分类 无论在任何行业,数据分级分类都是监管首要检查的...

行业模型模版

DataWorks智能数据建模联合具备丰富行业建模经验的数据架构师,总结阿里云百万用户最全面的业务场景,结合阿里巴巴技术创新能力,提供零售电子商务、金融、制造等多个领域的行业模型最佳实践。您可使用该模版快速构建属于您的数据仓库。...

功能发布记录(2024年)

2024.2.20 所有地域 所有DataWorks用户 DataWorks on EMR Serverless StarRocks最佳实践 数据地图新增数据开发代码搜索 DataWorks数据地图新增数据开发代码搜索功能,支持跨工作空间全局代码检索,通过关键字精确定位目标代码,帮助您提升...

数据开发功能索引

本文为您介绍DataWorks数据开发(DataStudio)界面的整体布局,以及进行开发操作的主界面(业务流程和节点)中各组件、按钮的功能作用,方便您快速了解及使用数据开发模块。进入数据开发 登录 DataWorks控制台,单击左侧导航栏的 数据建模...

通过脚本模式创建集成任务

创建离线脚本模式后,可以通过直接编写数据同步的JSON脚本来完成数据同步开发,为数据同步开发提供了更灵活的能力和更精细化的配置管理。本文为您介绍如何创建离线脚本模式。前提条件 已完成数据源配置。您需要在配置集成任务前,配置好您...

通过脚本模式创建集成任务

创建离线脚本模式后,可以通过直接编写数据同步的JSON脚本来完成数据同步开发,为数据同步开发提供了更灵活的能力和更精细化的配置管理。本文为您介绍如何创建离线脚本模式。前提条件 已完成数据源配置。您需要在配置集成任务前,配置好您...

文档修订记录

DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务,需先将已创建的数据源或集群绑定至数据开发...

概览

为了更好指导您使用数据管理DMS(Data Management),DMS推出解决方案系列文档,旨在通过最佳实践(Step by Step)的形式向您介绍DMS研发流程、数据安全、数据开发的解决方案。研发流程解决方案 DMS为在线流程化系统,可统一管理企业内...

2021年

新功能 MaxCompute提供湖仓一体方案,该方案可以打破数据湖与数据仓库割裂的体系,并将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合,助力构建数据湖和数据仓库相融合的数据管理平台。MaxCompute湖仓一体概述 2021年2...

创建业务流程

DataWorks的 业务流程 开发结构满足根据业务视角来组织数据开发任务的需求,也提供了 周期业务流程 和 手动业务流程 两种,以满足需要周期性调度和无需周期性调度手动触发运行的场景。本文为您介绍如何创建、设计、提交和查看业务流程,...

工作空间概述

后续:开始数据开发 创建工作空间并分配空间成员角色权限后,您可根据各角色定义的权限前往数据开发DataStudio模块开始数据开发工作,数据开发模块的入门教程详情请参见:数据开发开发者。相关文档 在阅读工作空间的概述后,若您想创建...

我是安全管理员

集成与开发(DTS)数仓开发 数仓开发数据库为主要计算引擎,融合数据库生态中多种工具和服务(如DTS、DLA等),让用户可以轻松拥有数据仓库进行开发和管理。任务编排 任务编排主要用于编排各类任务并进行调度执行,通过创建一个或多个...

创建并管理MaxCompute节点

登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。以ODPS SQL节点为例,为您介绍创建节点的操作。右键某个业务流程,选择 新建节点>MaxCompute>ODPS SQL。说明 您也可以...

数据服务概述

数据服务作为统一的数据服务出口,实现了数据的统一市场化管理,有效降低数据开放门槛的同时,保障了数据开放的安全。前提条件 已购买 数据服务 增值服务,开通Dataphin 常见数据应用问题 一般从需求提出到需求交付分为:需求提出-需求...

审批中心概述

功能介绍 在DataWorks上进行数据开发管理的过程中,您可以便捷对表数据数据服务API等进行权限管控,进行权限管控时,DataWorks的 安全中心 为您提供默认的权限申请审批流程,同时也支持您在 审批中心 自定义审批流程。自定义审批流程后...

数据开发:开发者

本文以使用MaxCompute数据源,在DataWorks上运行MaxCompute作业任务为例,为您介绍开发人员如何使用数据开发(DataStudio)创建一个周期调度任务,帮助您快速了解数据开发(DataStudio)模块的基本使用。前提条件 已完成开发前的环境准备,...

DataWorks V2.0

DataWorks V2.0版本操作差异 您可参见DataWorks V2.0系列详解视频,对DataWorks V2.0各功能模块的特性进行深入学习:DataWorks V2.0数据开发功能与用法解析 DataWorks V2.0数据集成简介与最佳实践 DataWorks V2.0智能监控简介与最佳实践 ...

功能简介

数据开发为用户提供一站式计算节点开发能力,通过对数据加工流程的开发和运行调试等环节的一体化管理,数据开发实现数据加工工作流编排、加工逻辑的复用,大幅提高数据开发效率。数据开发帮助用户优化智能系统的架构,提高系统的工程化水平...

功能简介

数据开发为用户提供一站式计算节点开发能力,通过对数据加工流程的开发和运行调试等环节的一体化管理,数据开发实现数据加工工作流编排、加工逻辑的复用,大幅提高数据开发效率。数据开发帮助用户优化智能系统的架构,提高系统的工程化水平...

数据开发

数据开发为用户提供一站式计算节点开发能力,通过对数据加工流程的开发、部署、调试等环节的一体化管理,数据开发实现数据加工工作流编排、加工逻辑的复用,大幅提高数据开发效率。数据开发帮助用户优化智能系统的架构,提高系统的工程化...

采集数据

本文为您介绍如何新建OSS和RDS数据源来访问本教程所提供的用户信息与网站日志数据,配置数据同步链路至私有OSS数据源,并通过EMR Hive节点建表去查询同步后的数据,完成数据同步的操作过程。前提条件 开始本文的操作前,请准备好需要使用的...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 Redis 版 云数据库 RDS 数据库备份 DBS 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用