支持的云服务
MaxCompute和DataWorks提供完善的ETL、数据分析、数据地图、数据治理和数据仓库管理能力，并支持SQL、MapReduce、Graph等多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，保障数据安全。更多DataWorks...
DataWorks on EMR Serverless StarRocks最佳实践
了解DataWorks on EMR Serverless StarRocks DataWorks作为阿里云一站式大数据开发治理平台，通过数据源对接EMR Serverless StarRocks，可实现EMR Serverless StarRocks的数据集成、作业周期性调度，同时结合StarRocks引擎在数据分析和数据...
基于Delta lake的一站式数据湖构建与分析实战
2.统一元数据服务 对象存储本身是没有面向大数据分析的语义的，需要结合Hive Metastore Service等元数据服务为上层各种分析引擎提供数据的Meta信息。数据湖计算与分析 相比于数据仓库，数据湖以更开放的方式对接多种不同的计算引擎，如传统...
SQL Editor
您可以直接在控制台上编写、运行和管理SQL查询语句，无需下载或安装任何本地客户端软件，极大地方便了数据分析师和开发人员对数据进行实时查询与分析。前提条件 已创建StarRocks实例，详情请参见 创建实例。进入SQL Editor 进入EMR ...
快速体验
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集、...
发展历程
2021年 IDC发布《IDC MarketScape：中国政务大数据管理平台市场厂商评估2021》报告，阿里云位居行业领导者位置，产品能力居中国第一。以MaxCompute为核心代表的阿里云数仓进入 Forrester Wave 2021 Q1云数据仓库卓越表现者象限，成为入选...
DataWorks On EMR使用说明
背景信息 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。阿里云...
慢日志分析功能简介
背景信息 慢日志问题极大地影响数据库的稳定性。当数据库出现负载高、性能抖动等问题时，数据库管理员或开发首先会查看是否有慢日志在执行。慢日志由数据库内核输出，不同数据库引擎的配置参数及阈值不相同，具体的配置参数和阈值请参见...
什么是基因分析平台？
阿里云基因分析平台（Genomics Computing Platform）是用户友好的基因分析一站式平台，端到端地提供数据传输、存储管理、生物信息分析等核心能力。平台支持GA4GH社区开放标准，集成丰富的流程工具和公共数据集，帮助用户安全高效、敏捷弹性...
创建MaxCompute数据源
背景信息 MaxCompute即阿里云大数据计算服务，适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化...
湖仓一体
为您提供简单、快速的数据分析体验。概述 云数据库SelectDB 提供多源数据目录功能（Multi-Catalog或Catalog），支持对接数据湖、数据库等外部数据源，进行简单快速地数据分析。Multi-Catalog功能在原有元数据层级之上新增一层Catalog，构成...
基因实体表格
基因实体表格介绍 基因数据除测序文件（如FASTQ，BAM等）外，还需要包括临床、样本、实验等相关元数据信息，这些组合在一起，才能形成生物医学多组学的大数据。除使用阿里云对象存储OSS为基因数据文件提供安全、可靠、无限的存储空间外，...
什么是MaxCompute
MaxCompute还为您提供完善的数据导入方案以及多种经典的分布式计算模型，您可以不必关心分布式计算和维护细节，便可轻松完成大数据分析。MaxCompute适用于100 GB以上规模的存储及计算需求，最大可达EB级别，并且MaxCompute已经在阿里巴巴...
EMR+DLF数据湖解决方案
通过EMR+DLF数据湖方案，可以为企业提供数据湖内的统一的元数据管理，统一的权限管理，支持数据湖的多种管理如数据生命周期，湖格式自动优化，存储分析等。同时支持多源数据入湖以及一站式数据探索的能力。本文为您介绍EMR+DLF数据湖方案...
创建MaxCompute数据源
背景信息 MaxCompute即阿里云大数据计算服务，适用于数据分析场景的企业级SaaS（Software as a Service）模式云数据仓库，以Serverless架构提供快速、全托管的在线数据仓库服务，消除了传统数据平台在资源扩展性和弹性方面的限制，最小化...
T+1多库合并建仓
上述方案可解决因数据量大而导致的用户体验问题，但在对分库分表数据进行大数据分析时，逻辑上的一个表被拆成了多张表，由于没有类似TDDL中间件来屏蔽物理表的拆分，进行数据分析时变得十分复杂。解决方案 T+1多库合并建仓是指通过DLA控制...
客户案例
客户简介 快狗打车则一直坚持通过“连接网络化”、“运力共享化”、“过程数据化”、“匹配智能化”等数字信息化解决方案，将闲散运力统一整合到平台上，通过大数据将运力精准匹配市场需求，实现运力的节能减排，降低空驶率，有效提升行业...
数据可视化
更多信息，请参见【通知】数据可视化（老）功能下线通知 和 数据分析。准备工作 本示例已提前创建 student_courses 表，并插入部分测试数据，SQL语句如下：/*创建表*/CREATE TABLE `student_courses`(`id` BIGINT(20)UNSIGNED NOT NULL ...
文档修订记录
规则管理 2023.08.07 新增功能 数据分析 数据分析提供卡片和报告功能，您无需下载数据，即可快速完成数据可视化分析与报告创作，轻松打造个性化可视化作品，讲述数据故事、表达数据观点。增强分析（卡片和报告）2023.08.04 新增功能 数据...
了解数据资源平台用户和角色体系
工作组分析员 面向数据分析人员，拥有工作组内标签创建、管理和使用权限，可使用工作组内的数据进行数据分析等操作。工作组访客 拥有工作组内各组件的只读访问权限。元数据读取 拥有工作组内云计算资源的元数据信息的访问权限。数据读取 ...
功能简介
数据探索（Data Discovery）是一款面向业务人员的业务模型（智能数据与智能算子组装）编排、调试、运行及运营管理产品，旨在将“大数据”变成“人人都可用的大数据”。数据探索面向行业客户和业务人员，提供工具内容一体化的业务模型构建...
Superset连接数据湖分析
本文主要介绍如何使用Superset连接DLA进行数据分析。背景信息 DLA对外暴露的是MySQL的协议，大多数BI工具可以使用MySQL连接器直接连接DLA，由于Superset对于表的定义语句校验严格，同时DLA的建表语句与MySQL的建表语句存在差别，这导致...
登录集群管理系统
表变更管理 数据查询 SQL执行器 使用SQL语句查询Lindorm宽表的数据。数据查询 集群管理 分组节点管理 查看分组节点的存储空间和使用空间等基本信息；对分组节点进行管理，包括添加和删除分组等。分组节点管理 安全管理 查看和管理黑白名单...
基于SLS+OSS+DLA构建海量、低成本日志分析方案
方案介绍 对于数据分析人员、开发人员或者运维人员而言，日志数据对分析和诊断问题以及了解系统活动等有着非常重要的作用，日志都是其工作过程中必不可缺的数据来源。为了节约成本，通常情况下日志会被设定一定的保存时间，此类日志称之为...
可观测性能力介绍
同时，云数据库Redis版 还基于三大数据支柱进行信息聚合，提供数据分析能力，下表为云数据库Redis与原生Redis的可观测性能力对比。为便于浏览和内容表达，表格约定使用下述注释：✔️表示支持。❌表示不支持。➖表示不涉及。可观测性能力 ...
确定需求
例如，用户可能分为数据分析、运营和维护部门人员，各个部门对数据仓库的需求不同，您需要对不同部门分别进行调研。用户的整体业务架构，各个业务板块之间的联系和信息流动的流程。您需要梳理出整体的业务数据框架。各个已有的业务板块的...
创建及管理外部表
背景信息 Hologres与大数据生态无缝打通，可以直接加速查询外部表数据，也可以将外部表的数据导入至Hologres中处理。Hologres当前仅支持对MaxCompute表进行操作。使用限制 Hologres支持跨工作空间读取外部表数据，您当前使用的账号需要拥有...
添加RAM用户为组织用户
背景信息 Quick BI中的组织用户类型及角色如下：用户类型 在组织层面，有三种用户类型：开发者：企业IT人员、数据分析师和数据运营人员等。分析师：需要进行业务分析、且对技术能力要求不高的业务人员。分析师通过创建仪表板、电子表格等...
添加阿里云账号为组织用户
背景信息 Quick BI中的组织用户类型及角色如下：用户类型 在组织层面，有三种用户类型：开发者：企业IT人员、数据分析师和数据运营人员等。分析师：需要进行业务分析、且对技术能力要求不高的业务人员。分析师通过创建仪表板、电子表格等...
背景信息以及准备工作
背景信息 DLA作为无服务化的大数据分析服务，通过标准的SQL语句直接对存储在阿里云对象存储服务（Object Storage Service，简称 OSS）、表格存储（Table Store）中的数据进行清洗。例如，使用DLA对OSS中的历史数据按天进行清洗。DataWorks...
确定需求
例如，用户可能分为数据分析、运营和维护部门人员，各个部门对数据仓库的需求不同，您需要对不同部门分别进行调研。用户的整体业务架构，各个业务板块之间的联系和信息流动的流程。您需要梳理出整体的业务数据框架。各个已有的业务板块的...
表结构设计规范
数据管理DMS 提供的表结构设计规范中的字段存在性保障功能，帮助您后续进行数据分析、数据清理等操作。本文介绍通过配置安全规则完成保障字段存在性的操作步骤。前提条件 系统角色为管理员、DBA。查看系统角色的具体方法，请参见 查看我的...
概述
应用场景 企业文件管理系统 您可以根据关键词查询文件，例如查询包含某个关键词的文件，查询包含某个人物的视频，统计某个目录下的文件大小等，便于对数据进行管理和分析，更高效地利用OSS或者PDS服务，降低成本，挖掘数据价值，适用于各...
2024年
跨地域灾备 2024-02-08 新增镜像管理 新说明 MaxCompute提供镜像管理功能，内置数据分析、科学计算、机器学习（如Pandas、Numpy、Scikit-learn、Xgboost）等各类常用镜像，并已对镜像进行预先加热，您可在SQL UDF、PyODPS开发等场景中直接...
StarRocks概述
无需人工干预，就可以通过统计信息合理估算执行成本，生成更优的执行计划，大大提高了AdHoc和ETL场景的数据分析效率。联邦查询 StarRocks支持使用外表的方式进行联邦查询，当前可以支持Hive、MySQL、Elasticsearch、Iceberg和Hudi类型的...
Github实时数据同步与分析
本文以使用DataWorks实时同步公共数据至Hologres，并通过Hologres进行实时数据分析为例，为您示例DataWorks的数据同步能力与Hologres的实时分析能力。本教程以申请免费资源为例为您示例详细操作步骤，您也可以使用付费资源，操作类似。教程...
通过任务编排实现跨库数据同步
本文通过在任务编排中创建跨库Spark任务，实现了定期将在线库中的订单表和商品表同步到数据仓库中进行数据分析，并将分析结果回流在线库中供管理者查询。前提条件 准备一个MySQL数据库作为在线库，用于存放订单表和商品表，且您拥有该数据...
使用须知
如果您是数据分析师 如果您是数据分析师，建议熟读 SQL 模块的内容。您可以查询并分析存储在MaxCompute上的大规模数据。MaxCompute SQL支持如下主要功能。功能项 说明 DDL操作 支持管理表、分区、列、生命周期及视图。DML操作 支持插入或...
可观测性能力
同时，云原生内存数据库Tair 还基于三大数据支柱进行信息聚合，提供数据分析能力，下表为 云原生内存数据库Tair、云数据库Redis与原生Redis的可观测性能力对比。为便于浏览和内容表达，表格约定使用下述注释：✔️表示支持。❌表示不支持。...
Quick BI如何接入TSDB
Quick BI是一个基于云计算致力于大数据高效分析与展现的轻量级自助BI工具服务平台。通过对数据源的连接和数据集的创建，对数据进行即时的分析与查询；通过电子表格或仪表板功能，以拖拽的方式进行数据的可视化呈现。连入成功后，您可以在...
- 产品推荐
- 这些文档可能帮助您