客户案例
打造离线实时一体化数据中台，构建统一、完整的大数据应用链路，服务内部几大核心业务。全链路数据治理提高数据可用性，让数据在中台进行自由流动，保证数据准确、准时、一致，成本削减1亿元。提高业务迭代效率，数据更新频率由1天变成10...
DescribePackages-查询数据包的信息
调用本接口查询已完成扫描授权的MaxCompute数据包的信息，例如数据包的名称、数据包所属者的账号、数据包的风险等级等。接口说明 本接口一般用于 MaxCompute 数据包列表查询，便于搜索和敏感信息概览。QPS 限制 本接口的单用户 QPS 限制为 ...
DescribeDataAssets-查询数据资产敏感信息
取值：1：未识别到敏感数据，无风险 2：1 级敏感数据风险 3：2 级敏感数据风险 4：3 级敏感数据风险 5：4 级敏感数据风险 6：5 级敏感数据风险 7：6 级敏感数据风险 8：7 级敏感数据风险 9：8 级敏感数据风险 10：9 级敏感数据风险 11：10 ...
DescribeColumns-查询数据资产表中列的数据
调用DescribeColumns接口查询数据安全中心连接授权的MaxCompute、RDS等数据资产表中列的数据。接口说明 本接口一般用于敏感数据资产信息表中列数据的查看，便于用户准确的对敏感数据进行分析。注意事项 DescribeColumns 接口已修订为 ...
Sheet
file_path,visible=True)sheet=excel.get_sheet()row_value=["行数据1","RPA测试"]cell_value="RPA单元格值"column_value=["列数据1","RPA测试"]range_value=[["区域数据1","区域数据2"],["区域数据3","区域数据4"]]sheet.write('1',row_...
DataWorks on EMR Serverless StarRocks最佳实践
DataWorks支持StarRocks数据源，通过数据源对接EMR Serverless StarRocks，可实现EMR Serverless StarRocks的数据集成、开发、分析、数据服务等功能。本文为您介绍EMR Serverless StarRocks在DataWorks上的操作流程。背景信息 了解EMR ...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
RDS MySQL修改字符集（平滑方案）
由于业务需求，需要变更表的字符集（例如从gbk变更为utf8mb4），如果直接使用ALTER命令修改字符集会锁表，当数据表过大时，对业务的影响较大。本文介绍的操作方法需要先在目标实例中创建表结构信息（新字符集），再通过DTS将源实例的数据...
Sheet
excel_file_path=r"D:\2_测试文件归档\测试Excel.xlsx"excel=rpa.app.wps.excel.open(excel_file_path,visible=True)sheet=excel.get_sheet("非默认页")sheet.activate()excel.close()read read(range,only_visible=False,skip=0,max=1000)...
JindoFS实战演示
使用Checksum迁移HDFS数据到OSS 使用Checksum迁移HDFS数据到OSS 2021-05-11 通过Checksum算法，你可以在大数据迁移场景中校验数据的完整性、对比数据差异并实现增量迁移。本视频为您介绍如何使用Jindo Distcp迁移HDFS数据到OSS，以及在迁移...
设置逻辑表质量规则
表行数 存储大小 主键唯一 多表记录波动率 数据唯一率 数据完整率 高级选项 说明 目前仅MaxCompute、Hive、AnalyticDB PostgreSQL资源类型的部分规则显示高级选项。仅用OpenAPI向上层应用提供更精细化的结果数据，不影响数据开发质量节点及...
设置逻辑表质量规则
表行数 存储大小 主键唯一 多表记录波动率 数据唯一率 数据完整率 高级选项 说明 目前仅MaxCompute、Hive、AnalyticDB PostgreSQL资源类型的部分规则显示高级选项。仅用OpenAPI向上层应用提供更精细化的结果数据，不影响数据开发质量节点及...
通过Navicat for MySQL导出数据库表中的数据
本文为您介绍通过Navicat for MySQL导出MySQL数据库表中的数据到Excel的方法。前提条件 已安装Navicat for MySQL。说明 您可以前往 Navicat官网 下载Navicat for MySQL。背景信息 如果数据库的表需要新增或修改的数据较多，您可以先通过...
查询监控图和SQL列表介绍
扫描数据量的大小在一定程度上能体现查询对存储层的压力，读取的数据量越大，消耗的磁盘IO资源也越大，在计算层的处理也会消耗更多资源，影响查询速度。总的Stage个数 查询生成的总的Stage个数。Stage的个数多少，在一定程度上能体现一条...
MaxCompute表数据
包括数据检索、数据预览、查看元数据详情、查看数据血缘关系、分类分组管理数据表等操作。本文为您介绍如何在数据地图查看和管理MaxCompute表。前提条件 已绑定MaxCompute引擎至当前工作空间，绑定后DataWorks会面向引擎自动采集元数据，...
DataWorks V2.0
代码全局搜索 整体功能 无 您可以输入不完整字符串来查找包含该字符串的MaxCompute SQL、Shell、数据同步任务，快速定位自己所需查看或操作的任务。发布功能 整体功能 DataWorksV1.0标准模式项目下保留发布功能。更名为 项目克隆。仅简单...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
文字标签
文字标签是三维城市地图的子组件，支持独立的样式和数据配置，包括文字标签的显示大小配置、文字间距、文字背景等参数。文字标签用标签的形式在三维空间中展示文字。本文介绍文字标签配置项的含义。配置 文字标签配置面板参数说明。参数 ...
通过Kettle导入至数仓版
本文以Excel为例，介绍如何通过Kettle将本地Excel数据导入至 AnalyticDB MySQL版 数仓版（3.0）。背景信息 Kettle是一款非常受欢迎的开源ETL工具软件，主要用于数据整合、转换和迁移。Kettle不仅支持各类关系型数据库和NoSQL数据源（HBase...
图片说明
图片说明是三维城市地图的子组件，支持独立的样式和数据配置，包括图片说明的显示大小配置、指示线、顶部标题等参数。图片说明用图片标签的形式在三维空间中展示文字和图标信息。本文介绍图片说明配置项的含义。配置 图片说明配置面板参数...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
表详情
生成DDL：在控制台上显示完整的建表语句。安全级别调整：调整字段的安全级别，更多信息，请参见 字段安全级别调整。代码生成器：生成多种格式的代码。索引：展示 索引名、索引类型、包含列、备注 信息。行级管控：展示 管控字段 信息，您...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
使用kettle将本地数据导入AnalyticDB MySQL 2.0
本文以Excel为例，介绍如何通过kettle将本地Excel数据迁移到 云原生数据仓库AnalyticDB MySQL版 2.0集群。背景信息 Kettle是一款非常受欢迎的开源ETL工具软件，主要用于数据整合、转换和迁移。Kettle除了支持各种关系型数据库，HBase ...
账单数据订阅及查询分析
DataWorks及MaxCompute：DataWorks基于MaxCompute等大数据引擎，支持您在线进行SQL分析、业务洞察、编辑和分享数据，以及将查询结果保存为可视化图表卡片，快速搭建可视化数据报告。订阅账单数据后，用户中心会将相关账单数据同步至指定...
管理模型
导出模型 DDM可以将模型直接保存，也可以将模型导出为Excel数据字典、ERwin模型文件和PNG图片等格式。导出Excel数据字典。右键单击选中的模型名称，在弹出的菜单中单击 导出数据字典。您可以在 导出元数据设置 页面，过滤选择需要导出的...
常见问题
支持的数据库部署位置（接入方式）阿里云实例 有公网IP的自建数据库 通过数据库网关DG接入的自建数据库 通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 阿里云实例 通过数据库网关DG接...
云产品集成
您可以使用 DMS 录入云数据库 OceanBase 的数据，通过 DMS 的全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。什么是数据管理DMS 支持的数据库...
概述
解决方案 T+1全量同步一键建仓是指通过DLA控制台配置数据源（RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据）和目标OSS数据仓库，系统按照您设定的数据同步时间自动、无缝的帮您把数据源中的数据同步到目标数据仓库OSS中，...
DataWorks模块使用说明
使用流程概览：参考文档：数据集成概述 数据建模与开发 子模块：数据建模 功能说明：数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行...
受众与核心能力
产品定位 DataWorks致力于为数据开发者、数据分析师、数据资产管理者，打造一个具备开放自主开发与全栈数据研发能力的一站式、标准化、可视化、透明化的智能大数据全生命周期云研发平台。DataWorks赋予用户仅通过单一平台，即可实现数据...
自定义编辑卡片
更多数据显示格式请参见 数据显示格式说明。两端间距：Y轴标签距离轴线两端之间的距离，单位%。标签展示：标签的展示样式，包括：Y轴轴标签的数量、标签的前后缀内容、标签的角度值、偏移量和标签展示时候的对齐方式。文本样式：Y轴轴标签...
Excel导入
简介 Excel导入组件用于向数据库批量上传相关业务数据。组件内置两个按钮下载导入模板和批量提交。下载导入模板会下载Excel导入组件数据源对应实体的Excel模板文件。批量提交按钮会触发文件上传，并按Excel导入组件数据源对应实体字段解析...
实验介绍
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，...
数据集成支持的数据源
实时集成 适用于将来源端数据源中整库或全部表的数据变化实时集成至目标端数据源中，实现 来源端数据源与目标端数据源 实时地保持数据同步。离线集成支持的数据源 数据源 读取 写入 大数据存储型数据源 MaxCompute 支持 支持 Hive 支持 ...
快速体验
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集、...
- 产品推荐
- 这些文档可能帮助您