使用DataHub(实时数据传输)

DataHub 是MaxCompute提供的流式数据处理(Streaming Data)服务,它提供流式数据的发布(Publish)和订阅(Subscribe)的功能,让您可以轻松构建基于流式数据的分析和应用。DataHub同样提供流式数据归档的功能,支持流式数据归档至...

产品概述

用户可以编写应用程序或者使用流计算引擎来处理写入到数据总线 DataHub的流式数据比如实时Web访问日志、应用日志、各种事件等,并产出各种实时的数据处理结果比如实时图表、报警信息、实时统计等。产品概述 数据总线 DataHub基本介绍 阿里...

创建DataHub项目

阿里云流数据处理平台DataHub是流式数据(Streaming Data)的处理平台,提供对流式数据的发布(Publish),订阅(Subscribe)和分发功能,让您可以轻松构建基于流式数据分析和应用。前提条件 您已经完成了 创建RDS MySQL数据库表。操作...

配置DataHub输出

DataHub是流式数据(Streaming Data)的处理平台,为您提供发布、订阅和分发流式数据的功能,让您可以轻松构建基于流式数据分析和应用。前提条件 配置DataHub输出节点前,您需要先配置好相应的输入或转换数据源,实时同步支持的数据源。...

通用数据开发

通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中,虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示:数据产生:业务系统每天会产生大量结构化的...

什么是Quick BI

Quick BI是一款全场景数据消费式的BI平台,秉承 全场景消费数据,让业务决策触手可及 的使命,通过智能的数据分析和可视化能力帮助企业构建数据分析系统,您可以使用Quick BI制作漂亮的仪表板、格式复杂的电子表格、酷炫的大屏、分析思路...

游戏运营融合分析

降低使用成本:DLA融合冷数据分析+ADB存储密集型温数据分析+ADB计算密集型热数据分析,在满足各种分析场景需求的同时,有效地降低客户的总体使用成本。学习成本低:Data Lake Analytics(简称DLA)和ADB兼容标准SQL语法,无需额外学习其他...

引擎类型

流引擎是面向流式数据处理的引擎,提供了流式数据的存储和轻计算功能,帮助您轻松实现将流式数据存储至 云原生多模数据库 Lindorm,满足基于流式数据的处理和应用需求。结合宽表引擎的Ganos时空服务,可以实现基于流式数据的实时轨迹分析...

进入数据质量概览(旧版)

模块 描述 我的订阅 为您展示当前登录用户名下订阅的表,所产生的离线数据和流式数据的报警、阻塞数量,以及订阅的总数。全部数据 为您展示当前工作空间下离线数据和流式数据的全部数据情况。报警趋势图 为您展示 近7天、近30天 和 近半年 ...

数据分析:即时快速分析

数据分析基于“人人都是数据分析师”的产品目标,旨在为更多非专业数据开发人员,如数据分析、产品、运营等工作人员提供更加简洁高效的取数、用数工具,提升大家日常取数分析效率。功能概述 数据分析支持基于个人视角的数据上传、公共数据...

ActionTrail日志清洗

日志数据格式复杂,不利于直接分析 ActionTrail中保存的是JSON格式的数据,一行内多条数据数据以一个Array的形式保存,例如[{"eventId":"event0".},{"eventId":"event1".}]。理论上可以分析上述格式的JSON数据,但非常不便,需要先把每...

UNION ALL语句

UNION ALL语句将两个流式数据合并。两个流式数据的字段完全一致,包括字段类型和字段顺序。语法 select_statement UNION ALL select_statement;示例 测试数据 表1:test_source_union1 a(varchar)b(bigint)c(bigint)test1 1 10 表2:...

Tableau连接

背景信息 Tableau是安全并且灵活的端到端数据分析平台,提供从连接到协作的一整套功能。AnalyticDB PostgreSQL版 支持直接连接Tableau并可视化分析数据。前提条件 已准备好待添加的 AnalyticDB PostgreSQL版 数据源。操作步骤 下载并安装...

数据下载

在DataWorks的数据开发(DataStudio)、数据分析、安全中心模块下载的CSV、XLSX格式文件数据将同步保存至数据下载功能。通过该功能,您可将所需历史下载文件重新下载至本地使用,也可追溯历史下载记录的操作详情。前提条件 已通过如下模块...

查看同步任务

DataHub DataConnector是把DataHub服务中的流式数据同步到其他云产品中的功能,目前支持将Topic中的数据实时/准实时同步到MaxCompute(ODPS)、OSS、ElasticSearch、RDS Mysql、ADS、TableStore中。用户只需要向DataHub中写入一次数据,并在...

使用DataWorks连接

使用DataWorks连接MaxCompute如下方式:数据分析的 SQL查询 功能:实现编辑MaxCompute SQL、查询数据分析数据(电子表格)、在线分享数据及下载数据等功能。SQL查询功能详情请参见 SQL查询。数据开发的MaxCompute任务节点:DataWorks将...

账单数据订阅及查询分析

订阅成功后,账单数据将会定时同步至MaxCompute,您可使用DataWorks的数据分析功能查询并分析账单数据,将分析结果生成可视化图表卡片及报告,同时,也可将您的阿里云消费分析报告分享给其他用户。背景信息 订阅并分析账单数据前,请先了解...

概述

本文介绍DMS数据分析的基本概念、设计理念和主要应用场景。背景信息 DMS数据分析提供典型的数据集、仪表盘和大屏模型,在仪表盘或大屏中提供丰富的可视化图表和组件来展示数据。您可以将数据库中的表或单条SQL查询结果作为数据集,在仪表盘...

基因分析应用

基因数据分析工作,需要用户使用不同的生物信息学工具软件,进行一系列复杂的计算过程,才能得到最终的分析结果。以遗传病的数据分析举例,需要进行数据质控、序列比对、变异检测和变异注释等多个步骤。图1:基因数据分析流程(来源/《中华...

快速体验

DataWorks的数据分析功能为企业提供了全面的数据分析和服务共享能力,可便捷地连接多种数据源、支持SQL查询,并提供电子表格等多样化的数据分析工具,以满足企业日常的数据提取和分析需求。本文将通过MaxCompute引擎在SQL查询中对公共数据...

云产品集成

在 DataV 添加 OceanBase for MySQL 数据源的详细操作,请参见:什么是DataV数据可视化 配置数据库白名单 添加OceanBase for MySQL数据源 Quick BI 数据分析与展现 Quick BI 是一款全场景数据消费式的BI平台,秉承全场景消费数据,让业务...

OSS Foreign Table功能概览

OSS Foreign Table(简称OSS FDW)是基于PostgreSQL Foreign Data Wrapper(简称PG FDW)框架开发的用于访问OSS数据的数据分析方案,支持将OSS数据导入至 AnalyticDB PostgreSQL版,且提供分区表功能,在性能、功能以及稳定性上都优于OSS ...

互联网、电商行业离线大数据分析

通过阿里云MaxCompute、云数据库RDS MySQL、DataWorks等产品,可以实现互联网、电商网站的离线数据分析,且支持通过DataV大屏展示分析后的业务指标数据。概述 电商网站的销售数据通过大数据进行分析后,可以在大屏幕展示销售指标、客户指标...

概述

DataHub Connector可以将DataHub中的流式数据同步至MaxCompute。您只需要向DataHub中写入数据,并在DataHub中配置同步功能,便可以在MaxCompute中使用这些数据。详情请参见 通过DataHub迁移日志数据至MaxCompute。此方法多用于公测和自研。...

Sugar BI连接MaxCompute

Sugar BI是百度智能云推出的敏捷 BI 和数据可视化平台,MaxCompute支持您将MaxCompute项目数据接入Sugar BI,帮助您轻松完成数据分析和数据可视化工作。本文为您介绍如何使用Sugar BI连接MaxCompute项目,并进行可视化数据分析。前提条件 ...

数据查询与分析管控

数据源查询结果的操作权限管控 DataWorks支持对查询结果进行展示、复制、下载、分享等操作,并设置数据分析模块中针对该类操作的管控策略,保障数据的操作安全。具体管控能力说明如下。默认权限 对查询结果相关操作的权限管控能力 所有用户...

典型场景

交互式分析:DLA提供Presto交互式分析,支持BI、分析师的数据分析诉求。联邦分析:同时连接多个数据源做数据的分析 联邦分析:DLA Presto可对接数十种数据源对各种数据源进行查询。轻量级清洗方案:可以通过Presto满足轻量级数据ETL,从OSS...

数据可视化展现

本文为您介绍如何通过DataWorks数据分析实现用户画像数据可视化展示。前提条件 在开始试验前,请确认您已经完成了 加工数据。即已通过数据开发DataStudio将数据加工为用户画像基本数据。数据分析场景 本案例通过数据分析对用户画像数据进行...

AnalyticDB MySQL助力Flowerplus业务高速发展

由此可见,Flowerplus对大数据分析的实时性要求较高,而传统的MySQL数据库无法满足这一需求。复杂数据查询性能 使用传统MySQL数据库对订单、商品流量、采购、业务转化率以及商品售罄报警等分析时速度较慢,数据达到千万级或者亿级时,复杂...

什么是DataV-Card可视分析创作间

产品价值 自动化的数据洞察:对业务人员提供真正友好的数据分析工具,经验与AI的碰撞获取分析灵感,零代码开发就可完成的可视数据分析。智能可视化作品:5分钟内,通过简单、生动、形象的可视分析过程,实现数据作品创作;一次发布,自动...

概述

您可以创建SQL类型的流数据分析任务,并在边缘端执行该任务。边缘端SQL语法与云端Flink SQL语法完全一致,语法说明请参见 Flink SQL概述。在流数据分析中,数据存储用源表、维表、结果表来表示。但由于运行环境不一样,边缘端与云端支持的...

品牌升级

无论是数据湖中的非结构化或半结构化数据,还是数据库中的结构化数据,您都可使用 AnalyticDB for MySQL 构建企业的数据分析平台,同时完成高吞吐离线处理和高性能在线分析,实现降本增效。此次品牌升级,存量分析型数据库MySQL版(ADS)...

创建源表

数据分析的源表是指流式数据存储,流式数据存储驱动流数据分析的运行。因此,每个流数据分析任务必须提供至少一个流式数据存储。创建源表的语法如下所示。CREATE TABLE tableName(columnName dataType[,columnName dataType]*)|PRIMARY ...

数据上云工具

通过简单的配置即可完成数据的采集和传输,结合MaxCompute和StreamCompute可以轻松构建流式数据从采集到分析的一站式解决方案。LogStash的DataHub插件可以将日志数据实时上传到DataHub,并归档到MaxCompute表中。具体示例请参见 Logstash+...

功能发布记录(2024年)

2024.2.6 所有地域 所有DataWorks用户 系统配置 2024-01 功能名称 功能描述 发布时间 发布地域 使用客户 相关文档 数据开发与数据分析的查询结果支持脱敏展示 数据保护伞支持对E-MapReduce表数据进行分类分级、敏感数据识别、数据脱敏展示...

通过操作审计查询行为事件日志

DownloadSqlResult 下载数据分析的SQL查询结果 数据分析 DownloadSheet 下载数据分析电子表格 RunTask 运行数据分析中的SQL查询命令 查看事件详情。单击目标事件的 查看事件详情,即可查看事件的事件源、事件记录、相关资源等详细信息。...

产品优势

无论是数据湖中的非结构化或半结构化数据,还是数据库中的结构化数据,您都可使用 AnalyticDB MySQL 构建企业的数据分析平台,同时完成高吞吐离线处理和高性能在线分析,实现降本增效。弹性能力和扩展性 AnalyticDB MySQL版 采用云原生技术...

数据源Alibaba LindormTSDB

背景信息 如果您使用的是阿里云数据库LindormTSDB,在对接Quick BI进行数据分析时,可以添加云数据源LindormTSDB。为避免因数据源白名单限制导致数据对接访问失败,您需将Quick BI不同网络环境下的IP地址段添加至数据源的白名单中,更多...

数据源Data Lake Analytics

背景信息 如果您使用的是阿里云Data Lake Analytics数据库,在对接Quick BI进行数据分析时,可以添加云数据源Data Lake Analytics,Data Lake Analytics的详情请参见 什么是云原生数据湖分析。使用限制 仅支持空间管理员和开发者的账号添加...

上海新能源汽车车辆基础数据

方案亮点:PB级新能源车辆基础数据、高性能采集入库、高效数据分析、低成本运营。客户感言 2019年开始上海市新能源汽车大数据平台从自建Hadoop集群迁移至阿里云Lindorm+DLA Spark产品,有效解决了我们平台存储和计算的横向动态扩容瓶颈,...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 RDS 数据库备份 DBS 阿里邮箱 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用