Serverless Spark概述
解决方案 Serverless Spark是云原生数据湖团队基于Apache Spark打造的服务化的大数据分析与计算服务。方案架构图如下所示：Serverless Spark将Spark、Serverless、云原生技术，深度整合到一起，相对于传统开源Spark集群版方案，具体以下...
什么是Quick BI
Quick BI——阿里云旗下产品，大数据的高效分析与展现平台。通过对数据源的连接，和数据集的创建，可对数据进行即时分析与查询。并通过电子表格或仪表板功能，以拖拽的方式进行数据的可视化呈现。2020年2月12日,国际知名调研机构Gartner...
基于混合负载的查询优化
传统数仓方案，通过组合多套数据库与大数据产品，利用各自不同的优势来解决不同的分析场景，带来的问题就是整个数据冗余，同时管理多个异构系统的代价。完备数据仓库，首要解决的问题包括：如何更好的支持数据库场景下的交互式分析以及大...
Github实时数据同步与分析
最终效果如下：（可选）历史离线数据分析 实时数仓Hologres与大数据计算服务MaxCompute深度融合，可以组成一体化的大数据查询与分析架构。在MaxCompute公共数据集中，存储了历史GitHub全量数据。如果想要做更长时间的数据分析，有两种方式...
Quick BI如何接入TSDB
Quick BI是一个基于云计算致力于大数据高效分析与展现的轻量级自助BI工具服务平台。通过对数据源的连接和数据集的创建，对数据进行即时的分析与查询；通过电子表格或仪表板功能，以拖拽的方式进行数据的可视化呈现。连入成功后，您可以在...
Quick BI连接MaxCompute
背景信息 智能分析套件Quick BI是一个专为云上用户量身打造的易上手、性能强的大数据分析及可视化平台，可以让每个人都能成为数据分析师。Quick BI不仅是业务人员查看数据的工具，更是数据化运营的助推器。更多Quick BI信息，请参见 Quick ...
Spark概述
Spark是一个通用的大数据分析引擎，具有高性能、易用性和普遍性等特点。架构 Spark架构如下图所示，基于Spark Core构建了Spark SQL、Spark Streaming、MLlib和Graphx四个主要编程库，分别用于离线ETL（Extract-Transform-Load）、在线数据...
AnalyticDB MySQL助力Flowerplus业务高速发展
由此可见，Flowerplus对大数据分析的实时性要求较高，而传统的MySQL数据库无法满足这一需求。复杂数据查询性能 使用传统MySQL数据库对订单、商品流量、采购、业务转化率以及商品售罄报警等分析时速度较慢，数据达到千万级或者亿级时，复杂...
功能发布记录（2024年）
2024.2.6 所有地域 所有DataWorks用户 系统配置 2024-01 功能名称 功能描述 发布时间 发布地域 使用客户 相关文档 数据开发与数据分析的查询结果支持脱敏展示 数据保护伞支持对E-MapReduce表数据进行分类分级、敏感数据识别、数据脱敏展示...
云数据源Alibaba LindormTSDB
背景信息 如果您使用的是阿里云数据库LindormTSDB，在对接Quick BI进行数据分析时，可以添加云数据源LindormTSDB。为避免因数据源白名单限制导致数据对接访问失败，您需将Quick BI不同网络环境下的IP地址段添加至数据源的白名单中，更多...
云数据源Data Lake Analytics
背景信息 如果您使用的是阿里云Data Lake Analytics数据库，在对接Quick BI进行数据分析时，可以添加云数据源Data Lake Analytics，Data Lake Analytics的详情请参见 什么是云原生数据湖分析。使用限制 仅支持空间管理员和开发者的账号添加...
通过Quick BI连接StarRocks实例
背景信息 Quick BI是由阿里云提供的一款全场景数据消费式的BI平台，无缝对接各类云上数据库和自建数据库，大幅提升数据分析和报表开发效率。您只需在Quick BI中添加StarRocks数据源并成功连接，然后可以在Quick BI上进行数据的分析和展示。...
云数据源AnalyticDB for MySQL 2.0
如果您使用的是云原生数仓AnalyticDB MySQL 2.0，在对接Quick BI进行数据分析时，可以添加AnalyticDB for MySQL 2.0云数据源，AnalyticDB MySQL的详情请参见 云原生数据仓库AnalyticDB MySQL。使用限制 仅支持空间管理员和开发者的账号添加...
背景信息以及准备工作
背景信息 DLA作为无服务化的大数据分析服务，通过标准的SQL语句直接对存储在阿里云对象存储服务（Object Storage Service，简称 OSS）、表格存储（Table Store）中的数据进行清洗。例如，使用DLA对OSS中的历史数据按天进行清洗。DataWorks...
云数据源对象存储OSS
背景信息 如果您使用的是阿里云OSS数据库，在对接Quick BI进行数据分析时，可以添加云数据源OSS，OSS的详情请参见 什么是对象存储OSS。使用限制 仅支持空间管理员和开发者的账号添加数据源。仅专业版和高级版的群空间支持新建OSS数据源。...
Quick引擎概述
“慢”虽然只是一种难以精确定义的体感，但想要解决以上问题，就需要BI产品拥有很强的大数据处理架构和能力，可以横向扩展支持不断增长的数据量和计算任务。Quick引擎架构在数据源和数据集之间，用来处理上层数据作品发送到数据集最终下放...
云数据源Alibaba Lindorm宽表
背景信息 如果您使用的是阿里云数据库Alibaba Lindorm宽表，在对接Quick BI进行数据分析时，可以添加云数据源Alibaba Lindorm宽表。为避免因数据源白名单限制导致数据对接访问失败，您需将Quick BI不同网络环境下的IP地址段添加至数据源的...
云数据源Alibaba OceanBase
背景信息 如果您使用的是阿里云OceanBase数据库，在对接Quick BI进行数据分析时，可以添加OceanBase云数据源，阿里云OceanBase的详情请参见 云数据库OceanBase。OceanBase云数据源与Quick BI对接时，数据连通、访问的网络类型支持使用公网...
华为云数据源GaussDB
添加Huawei GaussDB数据源用于连通Huawei GaussDB数据库与Quick BI，连接成功后，您可以在Quick BI上进行数据的分析与展示。本文为您介绍如何添加Huawei GaussDBL数据源。前提条件 已创建Huawei GaussDB数据库。操作步骤 添加白名单。连接...
云数据源MaxCompute
背景信息 如果您使用的是阿里云MaxCompute数据仓库，在对接Quick BI进行数据分析时，可以添加MaxCompute云数据源，MaxCompute的详情请参见 什么是MaxCompute。使用限制 仅支持空间管理员和开发者的账号添加数据源。操作步骤 登录 Quick BI...
云数据源PolarDB for PostgreSQL
背景信息 如果您使用的是PostgreSQL引擎的PolarDB数据库（即，PolarDB for PostgreSQL），在对接Quick BI进行数据分析时，可以添加云数据源PolarDB for PostgreSQL，PolarDB PostgreSQL的详情请参见 云原生关系型数据库 PolarDB PostgreSQL...
AWS数据源MySQL
添加MySQL数据源用于连通AWS_MySQL数据库与Quick BI，连接成功后，您可以在Quick BI上进行数据的分析与展示。本文为您介绍如何添加AWS_MySQL数据源。使用限制 支持5.5、5.6、5.7、8.0版本。操作步骤 添加白名单。连接AWSMySQL之前，需要将 ...
微软云数据源MySQL
添加MySQL数据源用于连通微软云MySQL数据库与Quick BI，连接成功后，您可以在Quick BI上进行数据的分析与展示。本文为您介绍如何添加微软云MySQL数据源。前提条件 已创建微软云MySQL数据库。使用限制 支持5.5、5.6、5.7、8.0版本。操作步骤...
Quick BI数据可视化
Quick BI支持连接 云数据库 SelectDB 版 实例，连接成功后，您可以在Quick BI上进行数据的分析与展示。本文为您介绍如何为Quick BI添加 云数据库 SelectDB 版 数据源。前提条件 已为 云数据库 SelectDB 版 实例 申请公网地址。具体操作，请...
自建数据源达梦
添加达梦数据源用于连通达梦数据库与Quick BI，连接成功后，您可以在Quick BI上进行数据的分析与展示。Quick BI支持以公网或阿里云VPC的方式连接达梦数据库，本文为您介绍如何添加达梦自建数据源。前提条件 请确保您的网络连通性：您通过...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。...数据展现与分享：数据提取成功后，可以通过报表、地理信息系统等多种展现方式，展示与分享大数据分析、处理后的成果。
面临的业务挑战
越来越多的企业大数据分析已不再局限于传统的T+1场景，对数据的实时性分析和处理要求提出了更高要求。传统的批处理模式往往有数小时甚至数天的延迟，不能满足T+0的业务需要，用户要求在秒级，甚至毫秒级完成对海量数据分析。系统极复杂 大...
Napatech案例
Lindorm支持海量数据的低成本存储、快速批量导入和实时访问，具备高效的增量及全量数据通道，可轻松与各类大数据平台集成，完成数据的大规模离线分析。基于Lindorm的解决方案，用户在采用到100Gbps+流量产生的大量数据包元数据直接通过...
规格及选型
案例四：自动驾驶企业 用户为自动驾驶领域企业，需要基于车采数据进行地理位置和时序的采集数据分析，要求对JSON格式的友好兼容和时空数据的分析能力，构建业务看板并支持特征工程。建议：使用 AnalyticDB PostgreSQL版 存储弹性模式，实例...
大数据AI公共数据集分析
学习如何在DataWorks进行简单的大数据分析操作，了解DataWorks的数据分析能力。操作难度 低 所需时间 30分钟 使用的阿里云产品 DataWorks：一站式大数据开发与治理平台，绑定计算引擎后可在DataWorks上开发调度对应引擎的分数据开发治理...
背景信息以及准备工作
或者对存储在 阿里云对象存储服务（Object Storage Service，简称 OSS）、表格存储（Table Store）上的大数据进行分析之后，通过DLA把结果数据回写到MongoDB，供前台业务使用。前提条件 使用DLA读写MongoDB数据前，您需要通过以下操作在...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将...MaxCompute处理业务数据和日志数据后，可以通过Quick BI快速地以可视化方式展现数据处理结果，详情请参见 基于MaxCompute的大数据BI分析。
应用场景
大数据场景：海量数据存储与分析 Lindorm支持海量数据的低成本存储、快速批量导入和实时访问，具备高效的增量及全量数据通道，可轻松与Spark、MaxCompute等大数据平台集成，完成数据的大规模离线分析。优势 低成本：高压缩比，数据冷热分离...
DataWorks V3.0
MapReduce：E-MapReduce（Elastic MapReduce，简称EMR）构建在阿里云云服务器ECS上，基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其它周边系统（例如Hive），来分析和处理自己的数据的大数据引擎...
（邀测）MaxCompute Notebook使用说明
支持用户通过SQL、PyODPS、Python等进行数据分析、探索，挖掘数据的价值，完成大数据与AI的融合应用开发。本文为您介绍如何使用Notebook功能。版本说明 当前MaxCompute Notebook功能处于邀测阶段，每个租户最多可启动3个Notebook实例，每个...
非结构化分析
优势 云原生数据仓库AnalyticDB PostgreSQL版 的向量分析特性针对非结构化数据检索分析，与普通的检索系统有较大的差异，主要体现在下面的几点：结构化和非结构化混合分析 例如，可以检索与输入图片中的连衣裙相似度最高、价格在100元到200...
产品计费
实时搜索分析的数据采用热存储，并会自动适应并创建优化索引，以确保数据的读取速度。开启后赠送1天的数据热存储。洞察分析 0.08元/GB 0.12元/GB 使用SQL洞察自动聚合分析时收取该费用。数据热存储 0.01元/GB/天 0.015元/GB/天 数据热存储...
如何对JSON类型进行高效分析
方案 业务系统采用JSON类型主要由于半结构化数据的灵活性和高效分析的需求，因此，灵活性与高性能就成为衡量海量半结构化数据分析的解决方案好坏的关键指标。传统数据库解决方案 传统关系型数据库（MySQL、PostgreSQL与ClickHouse等）在...
应用场景
实时通道 通过数据总线，业务数据能够实时汇入大数据系统，缩短数据分析周期。2.实时数据清洗和分析 2.1 接入多种异构数据，实时清洗并归一化 通过数据总线和实时计算，您可以把多种数据源的异构数据实时清洗成统一的结构化数据，为进一步...
2023年
支持用户通过SQL、PyODPS、Python等进行数据分析、探索，挖掘数据的价值，完成大数据与AI的融合应用开发。本文为您介绍如何使用Notebook功能。（邀测）MaxCompute Notebook使用说明 2023-09-12 新增在本地环境上使用PyODPS 新说明 PyODPS是...
- 产品推荐
- 这些文档可能帮助您