个人设置

您可使用个人设置功能,自定义目标工作空间中数据开发(DataStudio)界面的布局和风格。例如,更改DataStudio左侧导航栏显示的功能模块、切换开发界面的背景颜色,以及设置编辑器可进行代码错误检查、自动换行、自动保存等。进入个人设置 ...

数据集成

背景信息数据开发(DataStudio)的数据同步节点外,数据集成模块还支持多种类型同步方案,例如,全增量数据实时同步,整库离线同步等。数据集成模块与同步解决方案的更多介绍,详情请参见 支持的数据源及同步方案。使用限制 您需要拥有 ...

创建解决方案

背景信息 DataWorks对数据开发模式进行全面升级,按照业务种类组织相关的不同类型的节点,让您能够更好地以业务为单元、连接多个业务流程进行开发。DataWorks通过 工作空间>解决方案>业务流程 三级结构,全新定义开发流程,提升开发体验:...

建立性能基准

MaxCompute性能表现优劣,...记录查询执行时间及预估费用 登录 DataWorks控制台,进入 数据开发 页面,创建 ODPS sql 节点。您可以在运行任务时或通过单击 图标直接通过图形页面查看预估费用。任务完成运行后,可在运行日志中查看到运行时间。

实现开发生产等多套环境隔离

使用DataWorks进行大数据开发时,支持对开发、测试、生产等环境进行隔离,当您联合使用了其他阿里云产品时,也可根据环境隔离诉求进行对应业务的环境设置与隔离,本文以DataWorks联合EMR、OSS等产品为例,为您介绍如何实现开发生产等多套...

通过函数计算节点实现GitHub实时数据分析与结果发送

在 计算引擎信息 下的 MaxCompute 页签下单击 数据开发-数据源,选择已创建的MaxCompute数据源,进行绑定操作。步骤三:创建OSS数据源 在左侧导航栏选择 管理中心,进入管理中心配置页面。在左侧导航栏选择 数据源。单击 新增数据源,选择...

离线数据加工卡点

离线数据加工卡点,主要指在业务系统数据生成过程中进行的卡点校验。代码提交的卡点校验 代码提交卡点主要包括您在提交代码时,手动或自动进行SQL扫描,检查您的SQL逻辑。校验规则分类如下:代码规范类规则。例如,表命名规范、生命周期...

产品概述

融合工业物联与数据集成的数据分析能力 基于角色和权限自定义数据应用门户 功能总览 数据资产服务是阿里云工业数据应用的核心服务,提供元数据定义功能对需要管理的设备和数据进行模型的预定义,通过工业物联服务采集的实时数据数据集成...

场景:切换调度时区

调度场景下(不包括数据开发临时运行),若您在DataWorks脚本任务(例如Shell,pyodps)中,直接执行获取时间命令(例如Shell节点中执行date命令),系统会根据您调度时区返回时间。如果是在底层计算引擎侧解析的,请参考底层计算引擎侧的...

应用场景

背景信息 设备将原始数据通过 MQTT 协议发送到物联网平台,经由物联网平台将数据转发到消息服务系统,继而通过流计算系统对这些数据进行实时计算处理后写入到 TSDB 中存储,或者经由物联网平台直接将原始数据写入 TSDB 中存储。前端的监控...

用户价值

数据开发更简单:平台提供的各种工具产品能够极的简化数据开发过程,缩短数据治理周期,降低数据治理成本。通过标准化、精细化、规格化的智能数据生产流程,完成流水线式的数据生产作业,提升数据资源生产效率、消除数据供应品质差异。...

扩展程序概述

产品能力 DataWorks作为阿里云一站式大数据开发与治理平台,在各项能力支持上预设了很多拓展点,例如,在标准模式下,简略来看,节点创建后完成代码开发后,需先提交到开发环境中进行验证,完成后再正式发布到生产环境中,后续每天根据调度...

新建TDengine数据

背景信息 TDengine是一款专为物联网、工业互联网等场景设计并优化的时序数据库,它能安全高效地对数据进行汇聚、存储、分析和分发。权限说明 仅支持具备新建数据源权限的账号进行新建。更多信息,请参见 数据源权限说明。操作步骤 在...

电商网站智能推荐

电商网站智能推荐基于阿里巴巴的大数据和人工智能技术,结合在电商行业的多年积累,为开发者提供个性化推荐服务,提升商品的购买率和转化率。概述 本实践以电商网站为例,通过日志服务采集日志,将RDS作为后端数据服务、MaxCompute作为数据...

功能发布记录 2022年之前

透视分析:按资源类型 2021-11 功能名称 功能描述 发布时间 发布地域 相关文档 数据开发新增资源组编排功能。DataWorks的资源组编排功能,帮助您在数据开发阶段,批量修改指定业务流程下目标节点使用的调度资源组。当您的工作空间中有多个...

创建Hudi数据

背景信息 Hudi即Apache Hudi,Hudi是一个通用的大数据存储系统,将核心仓库和数据库功能直接引入到数据库中,并支持记录级别的插入更新和删除数据的能力。权限说明 仅支持 超级管理员、数据源管理员、板块架构师、项目管理员 角色创建数据...

开通DataWorks服务

成功登录后,即可进入 申请免费试用DataWorks 页面,左侧导航栏产品类别选择 数据计算>数据开发与服务,单击 大数据开发治理平台DataWorks 产品的 立即试用。在弹出的购买试用面板选择开通的地域,勾选服务协议后单击 立即试用。开通...

新建TDengine数据

背景信息 TDengine是一款专为物联网、工业互联网等场景设计并优化的时序数据库,它能安全高效地对数据进行汇聚、存储、分析和分发。更多信息,请参见 TDengine官网。权限说明 仅支持具备新建数据源权限的账号进行新建。更多信息,请参见 ...

创建Hudi数据

背景信息 Hudi即Apache Hudi,Hudi是一个通用的大数据存储系统,将核心仓库和数据库功能直接引入到数据库中,并支持记录级别的插入更新和删除数据的能力。更多信息,请参见 Apache Hudi官网。权限说明 仅支持 超级管理员、数据源管理员、...

应用场景

互联网 使用云数据库HBase存储社交场景中的聊天、评论、帖子、点赞等重要数据,提供易开发、高可用、延迟的能力,帮助您快速构建稳定可靠的现代社交Feed流系统。金融和零售 使用云数据库HBase存储金融与零售交易中的海量订单记录,金融风控...

数据源管理概述

功能介绍 多数据源类型接入:Dataphin内置丰富的数据源类型,支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息,请参见 Dataphin支持的数据源。自定义数据源类型:在内置的...

数据源管理概述

功能介绍 多数据源类型接入:Dataphin内置丰富的数据源类型,支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息,请参见 Dataphin支持的数据源。自定义数据源类型:在内置的...

虚拟节点

虚拟节点属于控制类节点,它是不产生任何数据的空跑节点(即调度到该节点时,系统直接返回成功,不会真正执行、不会占用资源或阻塞下游节点运行),通常作为业务流程的统筹起始节点,或业务流程中多个分支节点的汇总输出节点使用。...

阶段二:数据安全防护措施及策略增强建设

当数据分析师或数据开发人员新人入职时,如果仅通过人工授权,则工作量巨大,且可能出现错漏。此时,管理员可通过定义“DataWorks自定角色+MaxCompute Role”及DataWorks OpenAPI来进行自动化授权,实现人员入职成功后即可拥有最基本的数据...

什么是数据管理DMS

DMS提供全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能,致力于帮助企业高效、安全地挖掘数据价值,助力企业数字化转型。视频介绍 功能特性 详情信息,请参见 功能概览。为什么选择数据管理DMS 全域数据...

创建Kudu数据

背景信息 Kudu提供接近于关系数据库管理系统(RDBMS)的功能和数据模型,提供类似于关系型数据库的存储结构来存储数据,允许用户以和关系型数据库相同的方式插入、更新、删除数据。Kudu仅仅是一个存储层,并不存储数据,因此需要依赖外部的...

基本概念

数据建模 数据模型:是数据特征的抽象,它从抽象层次上描述了系统的静态特征、动态行为和约束条件,为数据系统信息表示与操作提供一个抽象的框架,数据资源平台支持逻辑模型和物理模型。逻辑模型:反映的是系统分析设计人员对数据存储...

配置任务调度

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在相应的业务流程下,双击打开离线同步节点 write_result 的编辑页面。单击编辑页面右侧导航栏的 ...

数据服务

已根据快速入门教程完成数据开发操作,具体信息请参见 数据开发。操作步骤 登录企业数据智能平台。在页面左上角,选择>协同。在顶部菜单栏,单击 图标,选择 快速入门 工作组。在左侧导航栏,单击 图标。在 统一服务 导航栏中,单击 API...

离线集成概述

数据管理DMS离线集成是一种低代码的数据开发工具,您可以组合各类任务节点,形成数据流,通过周期调度运行达到数据加工、数据同步的目的。支持的数据库类型 MySQL:RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB分布式版、AnalyticDB...

创建项目空间

说明 若您使用的是极简模式的控制台,请单击控制台左上角的 图标,选择 全部功能>集成与开发(DTS)>数据开发>数仓开发。单击 新建项目空间。在 新建项目空间 对话框中,配置如下参数信息:类别 配置项 说明 基本信息 项目空间 输入具有...

数据上传

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。单击左上角的 图标,选择 全部产品>数据集成>上传与下载。在 上传与下载 页面单击左侧导航栏的 图标...

DataHub通过数据集成批量导入数据

选择工作空间所在地域后,单击相应工作空间后的 快速进入>数据开发。展开目标业务流程,右键单击 数据集成,选择 新建节点>离线同步。在 新建节点 对话框中,输入 名称 并选择 路径,单击 确认。说明 节点名称的长度不能超过128个字符。...

公开数据集概述

详情如下:customer(消费者信息)lineitem(在线商品信息)nation(国家信息)orders(订单信息)part(零件信息)partsupp(供货商零件信息)region(地区信息)supplier(供货商信息)说明 表中数据源于 TPC。更新周期 提供固定数据,不...

DataWorks产品安全能力介绍

基于“I(Identify)P(Protect)D(Detect)R(Respond)”理论框架,从资产识别、安全防护、行为检测、风险事件响应等多个方面,系统性构建了一套完整且高效的数据安全保障体系。DataWorks安全能力版图 说明 DataWorks产品分为基础版、...

创建同步任务

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。创建离线同步节点。单击新建 图标,选择 新建节点>数据集成>离线同步,新建一个离线同步节点 write_...

周期任务基本运维操作

周期任务是指在调度系统按照调度配置周期性自动调度的任务。您可以在 运维中心>周期任务 列表查看指定工作空间下的周期任务,并对任务进行运维操作,包括自动调度和手动运行周期任务、查看任务运行详情、暂停任务、下线任务等。本文为您...

数据

数据域是联系较为紧密的数据主题的集合,通常是根据业务类别、数据来源、数据用途等多个维度,对企业的业务数据进行的区域划分,将同类型数据存放在一起,便于您快速查找需要的内容。不同使用目的数据,分类标准不同。例如,电商行业通常...

Tablestore Stream配置同步任务

登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据建模与开发>数据开发,在下拉框中选择对应工作空间后单击 进入数据开发。在目标业务流程中,右键单击 数据集成,选择 新建节点>离线同步。在 新建节点 对话框中,输入 名称 ...

基本概念

其中,在数据开发中绑定MaxCompute、Hologres、AnalyticDB for PostgreSQL、AnalyticDB for MySQL 3.0、ClickHouse、E-MapReduce和CDH/DCP数据源后,即可在工作空间开发和调度引擎任务。业务流程 针对业务实体,抽象出 业务流程 的概念,...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 RDS 云数据库 Redis 版 云数据库 MongoDB 版 数据库备份 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用