步骤八：验证数据
描述 填写简单描述，例如，入门教程数据验证。选择目录 使用 默认配置。单击 确定。在 代码编写 页面，编写代码并验证数据是否符合预期。编写以下命令后，单击页面上方的 运行，验证 产品表数据集成 是否同步成功。SELECT*FROM dataphin_...
步骤八：验证数据
描述 填写简单描述，例如，入门教程数据验证。选择目录 使用 默认配置。单击 确定。在 代码编写 页面，编写代码并验证数据是否符合预期。编写以下命令后，单击页面上方的 运行，验证 产品表数据集成 是否同步成功。SELECT*FROM dataphin_...
TPCH和TPCDS
Zeppelin自带了TPCH和TPCDS的教程Note，您无需任何配置就可以在E-MapReduce（简称EMR）数据开发集群进行TPCH和TPCDS的性能测试。背景信息 EMR数据开发集群中的TPCH支持Hive、Spark、Flink和Presto四个引擎，TPCH详细信息，请参见 TPC-H。...
数据服务
背景信息 数据服务提供了数据中台建设过程中的数据服务化能力，面向数据开发者提供覆盖各个加工阶段统一体验的、便捷的数据查询转服务、服务管理、服务运维能力；面向数据资产管理者提供服务的统计分析、服务用量统计分析，实现数据中台...
数据上云场景
使用DataWorks结合DataX进行Hadoop数据迁移的示例请参见 Hadoop数据迁移新手教程，或参见视频教程 Hadoop数据迁移到MaxCompute最佳实践。Sqoop执行时，会在原来的Hadoop集群上执行MR作业，可以分布式地将数据传输到MaxCompute上，详情请...
数据开发
前提条件 已根据快速入门教程完成加载样例数据操作，具体信息请参见 样例数据。已根据快速入门教程完成数据标准建模中的物理化逻辑表操作，具体信息请参见 数据标准建模。上线开发节点 节点模式任务主要适用于计算节点相对独立，整个流程由...
2019年
数据质量教程概述 2019-07-05 新增UDF支持分区裁剪的说明引导。新说明 新增UDF支持分区裁剪的说明引导。分区剪裁失效的场景分析 2019-07-05 新增成都地区的外网Endpoint和外网Tunnel Endpoint。新功能 新增成都地区的外网Endpoint和外...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
通过SQL导入向量数据
在进行向量分析前，您需要在数据库中导入数据，本教程将指导您如何通过SQL导入数据至 AnalyticDB PostgreSQL版 实例。前提条件 已开启向量检索引擎功能，目前已支持如下两种方式开启：在创建实例时开启向量引擎优化，更多信息，请参见 创建...
文档修订记录
DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发...
ArcGIS栅格瓦片
ArcGIS栅格瓦片是三维城市构建器的全局图层，支持独立的样式和数据配置，包括ArcGIS栅格瓦片的通用配置、图形配置和交互配置样式。本文介绍ArcGIS栅格瓦片配置项的含义。在场景编辑器左侧图层列表中，单击 ArcGIS栅格瓦片 图层，进入配置...
入门概览
快速入门教程为OSS导入数据到GDB的方式，您需要将数据上传到OSS中，再将数据从OSS导入到图数据库GDB中。上传数据到OSS的操作，请参见 上传数据至OSS。将数据从OSS导入到图数据库GDB的操作，请参见 OSS数据导入至GDB。登录数据库 您需要登录...
总体流程
快速入门介绍购买并使用 云数据库ClickHouse 集群的完整过程，旨在帮助新用户快速使用 云数据库ClickHouse。在本教程中，您将进行以下操作。准备权限：RAM用户按照本教程使用 云数据库ClickHouse 前，需要具备AliyunClickHouseFullAccess和...
教程概述
注意 本教程中的数据仅供参考，无实际意义，旨在帮助您了解较为复杂的交互式可视化应用的配置方法。具体数据需要根据您的实际需求进行配置。具体操作步骤如下。准备工作。准备交互需求。配置学区房蓝图编辑器交互。创建学区地图可视化应用...
教程概述
注意 本教程中的数据仅供参考，无实际意义，旨在帮助您了解较为复杂的交互式可视化应用的配置方法。具体数据需要根据您的实际需求进行配置。具体操作步骤如下。准备工作。准备交互需求。配置学区房蓝图编辑器交互。创建学区地图可视化应用...
数据质量教程概述
本文为您介绍数据质量保障教程的业务场景以及如何衡量数据质量的高低。前提条件 在开始本教程前，请您首先完成 搭建互联网在线运行分析平台 教程，详情请参见 业务场景与开发流程。业务场景 要保证业务数据质量，首先您需要明确数据的消费...
数据质量教程概述
本文为您介绍数据质量保障教程的业务场景以及如何衡量数据质量的高低。前提条件 在开始本教程前，请您首先完成 搭建互联网在线运行分析平台 教程，详情请参见 业务场景与开发流程。业务场景 要保证业务数据质量，首先您需要明确数据的消费...
步骤二：规划数仓
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
步骤二：规划数仓
数仓规划是基于Dataphin建设数据中台的第一步，同时也是数据体系的顶层设计中至关重要的一步。在开始数据开发前，需要完成数据仓库的规划，包括定义数据板块、项目、数据源、计算源和统计周期。本文将指导您完成本教程的规划数仓。背景信息...
ETL工作流快速体验
GitHub十大热门编程语言 DataWorks MaxCompute 函数计算 OSS 数据集成 数据开发 基于GitHub Archive公开数据集，通过DataWorks 数据集成 模块获取过去1小时GitHub中提交次数最多的代码语言数据，在DataStudio 数据开发 模块通过函数计算...
DataX同步数据
DataX是异构数据源离线同步的工具，支持多种异构数据源之间高效的数据同步。Dataphin系统内嵌了DataX组件，支持通过构建Shell任务调用DataX，实现数据同步。本教程以RDS MySQL数据库为例，为您介绍基于Dataphin如何调用DataX同步数据。前提...
DataX同步数据
DataX是异构数据源离线同步的工具，支持多种异构数据源之间高效的数据同步。Dataphin系统内嵌了DataX组件，支持通过构建Shell任务调用DataX，实现数据同步。本教程以RDS MySQL数据库为例，为您介绍基于Dataphin如何调用DataX同步数据。前提...
数据质量风险监控
本教程使用DataWorks数据质量（DQC）功能，完成数仓各层次的数据质量监控。前提条件 首先您需要完成教程 搭建互联网在线运营分析平台，并保证您的DataWorks工作空间创建区域为华东2（上海），详情参见 业务场景与开发流程。您需要完成数据...
数据质量风险监控
本教程使用DataWorks数据质量（DQC）功能，完成数仓各层次的数据质量监控。前提条件 首先您需要完成教程 搭建互联网在线运营分析平台，并保证您的DataWorks工作空间创建区域为华东2（上海），详情参见 业务场景与开发流程。您需要完成数据...
DataV6.0数据集介绍
本教程主要包括数据集的介绍、数据集的创建、数据集的应用场景以及数据集的组件生成方法，并以柱状图和基础平面地图组件为例介绍数据集的创建步骤。介绍 DataV数据集支持多种数据源的接入，如数据库、Excel表格文件等，通过对数据的结构化...
使用Spark SQL进行作业开发
本教程从DWD层数据表 adb_spark_dwd 中读取age列大于15的数据并写入ADS层数据表 adb_spark_ads。使用 继续执行 的方式，在 test_spark_db 库中创建一张有索引，有分区的表 adb_spark_ads。CREATE TABLE test_spark_db.adb_spark_ads(id int...
使用XIHE BSP SQL进行作业开发
本教程从DWD层数据表 adb_xihe_dwd 中读取age列大于15的数据写入ADS层数据表 adb_xihe_ads。输入以下语句，并单击 执行SQL（F8）。在 test_xihe_db 库中创建一张 AnalyticDB MySQL 的有索引，有分区的表 adb_xihe_ads。CREATE TABLE test_...
确定需求
您在构建数据仓库之前，首先需要确定构建数据仓库的目标与需求，并进行全面的业务调研。您需要了解真实的业务需求，以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功...
确定需求
您在构建数据仓库之前，首先需要确定构建数据仓库的目标与需求，并进行全面的业务调研。您需要了解真实的业务需求，以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功...
确定需求
在基于Dataphin构建与管理企业数据中台之前，首先需要确定数仓构建的目标与需求，进行全面的业务调研。您需要了解真实的业务需求是什么，以及确定整个业务系统能解决什么问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，...
ArcGIS栅格瓦片
ArcGIS栅格瓦片是三维城市构建器的全局图层，支持独立的样式和数据配置，包括ArcGIS栅格瓦片的通用配置、图形配置和交互配置样式。本文介绍ArcGIS栅格瓦片配置项的含义。在场景编辑器左侧图层列表中，单击 ArcGIS栅格瓦片 图层，进入配置...
数据同步
数据同步提供批量、实时多源异构数据的便捷同步或接入能力，系统提供完善的数据接入配置、任务运行监控等功能，有效保障数据接入的稳定性和可控性，满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、超图等...
功能简介
数据同步为用户提供批量、实时多源异构数据的便捷同步或接入能力，系统提供完善的数据接入配置、任务运行监控等功能，有效保障数据接入的稳定性和可控性，满足各类平台、数据源及应用系统间的数据汇聚需求。同时支持对存储在基于ArcGIS、...
存储格式与SerDe
STORED AS JSON 数据文件的存储格式为JSON（Esri ArcGIS的地理JSON数据文件除外）。通过 STORED AS 指定文件格式的同时，还可以根据具体文件的特点，指定SerDe和特殊列分隔符等，详细地使用方法将在各类型文件格式示例中为您讲解。
实践教程
针对各种业务需求，DataV产品提供相关的实践教程，您可以根据本文查看适合您业务的实践教程文档。DataV数据可视化 7.0 快速入门案例 蓝图编辑器操作示例 蓝图编辑器常见问题 DataV数据可视化 6.0 快速入门案例 蓝图编辑器初级案例 蓝图编辑...
添加用户和数据源
本文介绍如何在企业数据智能平台添加用户以及数据源。注意事项 请使用角色为 租户管理员 的账号进行 添加用户 和 添加数据源 操作。如果您是第一次使用企业数据智能平台，请使用阿里云账号进行 添加用户 和 添加数据源 操作。添加用户 登录...
准备数据
在数据准备阶段，您需要同步原始数据至MaxCompute。前提条件 已完成 准备环境。已新增MaxCompute数据源。详情请参见 创建MaxCompute数据源。准备数据源 通过RDS创建MySQL实例，获取RDS实例ID。详情请参见 快速创建RDS MySQL实例。在RDS控制...
采集数据
本文为您介绍如何新建OSS和RDS数据源来访问本教程所提供的用户信息与网站日志数据，配置数据同步链路至私有OSS数据源，并通过EMR Hive节点建表去查询同步后的数据，完成数据同步的操作过程。前提条件 开始本文的操作前，请准备好需要使用的...
大数据AI公共数据集分析
本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、Github、TPC等公共数据），指导您如何快速进行大数据分析，快速熟悉DataWorks的操作界面与最基础的数据分析能力。DataWorks的更...
- 产品推荐
- 这些文档可能帮助您