什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
雷达图
当雷达图接口描述请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 数据...
基础区域图
当基础区域图接口描述请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 ...
基础折线图
当基础折线图接口描述请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 ...
发展历程
2018年 MaxCompute的多个客户案例荣获“2017大数据优秀产品和应用解决方案案例”奖。基于公共云的BigBench在100 TB规模上，MaxCompute的性能指标较2017年10月提升了一倍，达到18176.71 QPM（Queries Per Minute）。此外，在超小型10 TB规模...
通过函数计算节点实现GitHub实时数据分析与结果发送
步骤四：配置案例 在 DataWorks控制台 左侧导航栏选择 大数据体验>ETL工作流模板，单击 Github十大热门编程语言 模板，单击 载入模板，配置模板参数。参数 说明 模板名称 显示当前模板名称，即“Github十大热门编程语言”。工作空间 选择 ...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
云数据库MongoDB版（分片集群架构）同步至云数据库...
数据传输服务DTS（Data Transmission Service）支持将MongoDB（分片集群架构）的数据同步至MongoDB（副本集架构或分片集群架构）。本文以 云数据库MongoDB版 实例间的数据同步为例，为您介绍操作步骤。前提条件 已创建目标 云数据库MongoDB...
某历史养成类游戏开发公司实时计算和数据仓库方案
4）应用数据层：直接对外提供数据查询服务（基于Lindorm SQL服务）支撑上层大数据风控、广告推荐、海量数据精细化运营；数据汇总层的数据经过处理后会把结果数据写入到Lindorm SQL中对外提供查询服务。客户价值 毫秒级识别拦截代充订单：...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
实验介绍
涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，加工，质量监控，与数据可视化展现，您需提前开通该服务。详情请参见 开通DataWorks服务。云原生大数据计算服务MaxCompute 实现底层加工...
快速体验
涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集、加工、质量监控，以及数据可视化展现，您需提前开通该服务。详情请参见 开通DataWorks服务。云原生大数据计算服务MaxCompute 实现底层加工...
PolarDB MySQL版同步至DataHub
通过数据传输服务DTS（Data Transmission Service），您可以将 PolarDB MySQL版 集群同步至 阿里云流式数据服务DataHub，实现增量数据的实时同步，帮助您快速实现使用流计算等大数据产品实时分析数据。前提条件 创建源 PolarDB MySQL版 ...
Napatech案例
Lindorm支持海量数据的低成本存储、快速批量导入和实时访问，具备高效的增量及全量数据通道，可轻松与各类大数据平台集成，完成数据的大规模离线分析。基于Lindorm的解决方案，用户在采用到100Gbps+流量产生的大量数据包元数据直接通过...
PolarDB-X 2.0同步至DataHub
本文介绍如何使用数据传输服务DTS（Data Transmission Service），将 PolarDB-X 2.0 同步至 阿里云流式数据服务DataHub，实现增量数据的实时同步。前提条件 已开通 DataHub，并且已创建用作接收同步数据的Project。具体操作请参见 快速入门...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
简介
典型案例&架构 航海船舶大数据平台 场景：全球AIS船舶实时位置数据，每天上亿条轨迹写入，要求轨迹时空/时序查询秒级响应，具体包括：监管区域实时地理围栏判断。轨迹区域回放（指定区域+指定时间段）。轨迹回放（指定时间段查询）。架构...
东软案例
如下图所示，阿里Lindorm数据库在赋能政企数字运维团队更强大的运维大数据分析能力的同时，大幅度提升了政府、企业数字系统性能和在线服务的客户数字体验，降低了低价值密度监控数据存储管理成本。图 1.阿里云Lindorm数据库驱动的IT运维...
亿海蓝-航运大数据的可视化案例
——亿海蓝CTO 客户简介 亿海蓝是中国的航运大数据公司，做为中国最大的AIS数据服务运营商，发展目标是通过大数据技术推动全球航运物流与互联网的融合，加速航运产业转型升级。亿海蓝目前已为全球上百万行业用户提供数据服务，客户涵盖港口...
迁移失败常见原因及解决方案
案例十二：迁移后源端和目的端数据量相差较大 现象描述 某客户迁移NAS文件时，源端实际数据量5.8 T，但迁移到目的端的数据量为11 T，源端和目的端的数据相差较大。原因分析 如果源端有软链接，迁移时会仅迁移软链接指向的目标文件或目录，...
自建Oracle迁移至RDS MySQL
本文介绍如何使用数据传输服务DTS（Data Transmission Service），将自建Oracle数据迁移至 RDS MySQL 实例。DTS支持结构迁移、全量数据迁移以及增量数据迁移，同时使用这三种迁移类型可以实现在本地应用不停服的情况下，平滑地完成Oracle...
自建Oracle迁移至PolarDB PostgreSQL版（兼容Oracle）
通过使用数据传输服务DTS（Data Transmission Service），您可以将自建Oracle迁移至 PolarDB PostgreSQL版（兼容Oracle）集群。前提条件 已创建源数据库自建Oracle和目标集群 PolarDB PostgreSQL版（兼容Oracle）。说明 目标集群 PolarDB ...
区域下钻热力层（v2.x版本）
当自定义区域数据请求失败时 自定义区域数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页...
减灾与应急时空解决方案与案例
公司主营OpenRIS灾害风险大数据平台提供了海量灾害数据的快速地图展示、统计查询、切割下载、上传数据定制化在线分析等功能，实现了灾害数据与模型一体化云服务。在数据与系统上云过程前，遇到了如下挑战：长期积累的时空数据类型多、数据...
自建Oracle迁移至PolarDB PostgreSQL版（兼容Oracle）
通过使用数据传输服务DTS（Data Transmission Service），您可以将自建Oracle迁移至 PolarDB PostgreSQL版（兼容Oracle）集群。前提条件 已创建源数据库自建Oracle和目标集群 PolarDB PostgreSQL版（兼容Oracle）。说明 目标集群 PolarDB ...
从Amazon RDS Oracle迁移至PolarDB PostgreSQL版...
本文介绍如何使用数据传输服务DTS（Data Transmission Service）将Amazon RDS Oracle作为自建Oracle迁移至 PolarDB PostgreSQL版（兼容Oracle）集群。前提条件 为保障DTS能够通过公网连接至Amazon RDS Oracle，您需要允许公网访问Amazon ...
常见问题
本文档根据实践，介绍了本案例中比较常见的两个问题及解决方法。流计算中注册 RDS数据存储 失败。可能原因：您的RDS数据库与流计算项目不在同一区域。解决方法：需要手动将流计算服务的白名单添加到RDS白名单中，详情请参见 数据存储白名单...
使用DataV可视化应用展示数据返回结果
本文为您介绍如何在DataV中调用DataWorks的数据服务API，并将数据返回结果展示在DataV可视化应用中。前提条件 在开始本案例前，您需要首先完成 准备工作，并已经 生成了数据服务API。背景信息 警告 您必须使用HTTP协议进入DataV控制台，...
区域热力层（v2.x版本）
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL ...
本文为您介绍如何使用数据传输迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户。重要 如果数据迁移项目长期处于非活跃状态（项目状态为 失败、已暂停 或 已完成），受增量日志保留时长等影响，项目可能无法恢复。数据传输将主动释放...
迁移 OceanBase 数据库 MySQL 租户的数据至 MySQL ...
本文为您介绍如何使用数据传输迁移 OceanBase 数据库 MySQL 租户的数据至 MySQL 数据库。重要 如果数据迁移项目长期处于非活跃状态（项目状态为 失败、已暂停 或 已完成），受增量日志保留时长等影响，项目可能无法恢复。数据传输将主动...
OceanBase 数据库之间的数据迁移
背景信息 您可以在数据传输控制台创建从 OceanBase 数据库迁移数据至 OceanBase 数据库同类型租户的数据迁移项目，通过结构迁移、全量迁移和增量同步，无缝迁移源端数据库中的存量业务数据和增量数据至目标端数据库。前提条件 数据传输已...
保险行业解决方案与案例
与此同时国寿数据应用全面进入实时化，通过DTS将 PolarDB PostgreSQL版（兼容Oracle）实时变化的数据同步到KAFKA平台，下游业务系统和大数据平台通过数据订阅以满足监管报送等各种场景；通过上线前完整兼容性评估，上线过程中全量SQL回归压...
基础散点图
当基础散点图接口描述请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 ...
赛盒广告精细化管理方案
赛盒科技基于阿里云 AnalyticDB MySQL 和Quick BI制定的广告精细化管理方案，提升了广告创建效率和广告业绩，根据实时BI报表数据合理分配广告活动预算，实现企业效益最大化。业务痛点 深圳赛盒科技有限公司（赛盒科技）是一家以高科技创意...
轮播页面
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
教程概述
本文档通过一个案例，演示了如何基于阿里云产品和服务实现设备数据在大屏上展示。本案例的原理如下：在设备端模拟两个字段，通过MQTT协议向阿里云物联网平台设备（高级版）发送数据。物联网平台接收到数据后通过规则引擎转发至DataHub。在...
使用ETL分析实时订单
案例背景 本案例将为您演示如何使用流式ETL功能，将实时交易数据（订单号、客户ID、产品/商品编码、交易金额、交易时间）与业务维度数据（产品编码、产品单价、产品名称等）相结合，并将满足过滤条件的数据（如统计单笔超3000的实时交易...
Cost-based SQL诊断引擎
更为重要的是，SQL诊断优化服务已经构建了有效的主动式分析，反馈系统，线上诊断失败案例，用户反馈案例，自动优化中的回滚案例会自动回流到案例系统，一刻不停地驱动着诊断服务在快速迭代中成长。支持的引擎 SQL诊断目前已支持的数据库...
加工数据
步骤三：配置ODPS SQL节点 本案例需要将每层加工逻辑通过ODPS SQL调度实现，由于各层节点间存在强血缘依赖，并且在数据采集阶段已将同步任务产出表手动添加为 节点的输出，所以本案例数据加工类的任务依赖关系通过DataWorks 自动解析机制 ...
- 产品推荐
- 这些文档可能帮助您