数仓规划概述
数据集市 数据集市是对某个业务分类制定细化的业务主题，并通过主题域，基于不同分析视角对目标集市中的数据进行主题划分，最终面向业务应用统计分析数据。例如，运营平台数据集市。详情请参见 数据集市。主题域 主题域用于将数据集市按照...
时序引擎应用开发简介
5.连续查询 连续查询应用于大数据查询的场景。通过创建连续查询对新写入的数据预聚合处理，减少实时查询的数据量，从而减少计算量并降低查询延迟。6.预降采样 预降采样应用于较长时间范围的数据查询场景。在数据写入时按照设置的规则将原始...
东软案例
东软集团围绕运营商、政务云和汽车等行业新一代数字信息系统IT运维场景海量监控数据存储分析痛点，将从遍布全国多地域的手机、平板等终端连接应用系统业务服务的数字足迹和客户数字体验数据、云端&数据中心网络抓包分析数据，应用运行代码...
IoT数据自动化同步至云端解决方案
物联网的体系结构包括设备、网络、平台、分析、应用和安全，其中分析部分的主要内容为大数据分析。大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案...
基于SLS+OSS+DLA构建海量、低成本日志分析方案
DLA提供强大的分析能力，可以对投递到OSS上的日志按年、月、日进行多维度的分区，提高日志的命中率，降低扫描量，从而以极低的成本、极高的性能来完成大数据量历史日志分析。实施步骤 假设您的应用服务部署在ECS集群上，该集群每台机器上的...
什么是MaxCompute
支持多种分析场景 支持开放数据生态，以统一平台满足数据仓库、BI、近实时分析、数据湖分析、机器学习等多种场景。开放的平台 支持开放接口和生态，为数据、应用迁移、二次开发提供灵活性。支持与Airflow、Tableau等开源和商业产品灵活组合...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
什么是EMR on ACK
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。形态对比 阿里云EMR提供on ECS和on ACK两种方式，以...
简介
系统兼容开源GeoMesa、GeoServer等生态，内置了高效的时空索引算法、空间拓扑几何算法、遥感影像处理算法等，结合云数据库HBase强大的分布式存储能力以及Spark分析平台能力，广泛应用于空间、时空、遥感大数据存储、查询、分析与数据挖掘...
应用场景
舆情&风控分析（数据爬虫）场景 通过对舆情信息的分析与把控，可以有效的分析与洞察市场，例如针对点评、新闻、评论等信息的收集分析，需要丰富的多类数据高并发写入以及便捷的数据流转进行计算分析。舆情&风控分析场景中的核心需求如下：...
功能简介
利用智能算法能力自动生成洞察报告，极大降低业务人员分析数据的门槛。智能化深度诊断和建议：快速分析波动原因，提高业务优化决策效率。可针对用户在全平台中指定的波动指标，分钟级诊断深度原因和关联因素。数据集 对连接的数据集统一...
使用平台公共应用
本文介绍如何使用平台公共应用进行基因数据分析。基因分析平台的 应用仓库 提供了不同研究领域和分类的公共应用，这些都是权威的、经过验证的行业最佳实践，并且提供了常见的运行参数，真正的帮助用户实现开箱即用的基因数据分析。浏览公共...
创建DataHub项目
阿里云流数据处理平台DataHub是流式数据（Streaming Data）的处理平台，提供对流式数据的发布（Publish），订阅（Subscribe）和分发功能，让您可以轻松构建基于流式数据的分析和应用。前提条件 您已经完成了 创建RDS MySQL数据库表。操作...
基因分析应用
本文介绍基因分析平台中的应用定义，如何在工作空间中创建、编辑和运行...借助统一的流程语言标准，用户可以导入研究社区里公开的WDL流程，也能够使用平台开发者提供的公共应用，极大降低生信分析的门槛，简单高效地完成基因数据分析任务。
互联网、电商行业离线大数据分析
概述 电商网站的销售数据通过大数据进行分析后，可以在大屏幕展示销售指标、客户指标、销售排名和订单地区分布等业务指标数据。DataV大屏支持可视化动态展示销售数据，触控大屏支持您自助查询数据，极大地提高数据的可读性。应用场景 电商...
基于MaxCompute进行大数据BI分析
方案优势 以AnalyticDB MySQL配合Quick BI快速、实时分析数据的核心能力为切入点，引导用户同步业务数据、日志数据至阿里云的分析型数据库。融合阿里云的日志服务的生态，增强用户体验。例如，无缝对接Blink、Elasticsearch、AnalyticDB ...
支持的云服务
MaxCompute和DataWorks提供完善的ETL、数据分析、数据地图、数据治理和数据仓库管理能力，并支持SQL、MapReduce、Graph等多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，保障数据安全。更多DataWorks...
查询报错问题
查询时报错，提示 scanRows exceed limit 分析型数据库MySQL版查询时报错，错误信息为：ErrMsg:ErrCode:2001 ErrType:QUERY_EXCEED_LIMIT ErrMsg:scanRows exceed limit:xxx>为避免用户输入的SQL误写或性能较差，从而导致扫描表的大量数据...
数据上传
后续操作 数据上传成功后，您可根据需要执行如下操作：数据查询：使用数据分析功能查询与分析数据，详情请参见 SQL查询。查看上传数据详情：在数据上传页面，单击目标表名称，即可进入数据地图查看目标表详细信息。详情请参见 MaxCompute表...
基础常问类问题
它不仅是面向业务人员的数据分析工具，也是数据化运营的助推器，更是解决大数据应用“最后一公里”的神器。针对只用过Excel，想要迁移到Quick BI的人群，有哪些入门文档？请参见 入门概述 和 业务背景介绍和快速连接数据源。控制台上案列...
概述
存储格式 数据来源及特点 数据量增大或减少 详细数据量 JSON 大量应用产生JSON类型的数据，冗余数据量大。增大151.7%3.02GB AVRO Hadoop生态格式的数据，数据由大部分遗留系统产生。增大8.3%1.3GB RCFile Hadoop生态格式的数据，数据由大...
数据大屏
应用场景 场景描述 预期效果 场景一：授予数据大屏编辑权限 让分析师A（分析师A与资源在同一空间）可以在工作空间下编辑数据大屏。场景二：授予数据大屏的查看权限 让访问者B（访问者B与资源不在同一空间）可以在工作空间下查看数据大屏。...
文档修订记录
规则管理 2023.08.07 新增功能 数据分析 数据分析提供卡片和报告功能，您无需下载数据，即可快速完成数据可视化分析与报告创作，轻松打造个性化可视化作品，讲述数据故事、表达数据观点。增强分析（卡片和报告）2023.08.04 新增功能 数据...
应用场景
云数据库MongoDB版支持单节点、副本集和分片集群三种部署架构，具备安全审计、时间点备份等多项企业能力。在互联网、物联网、游戏、金融等...大数据应用：使用云数据库MongoDB作为大数据的云存储系统，随时进行数据提取分析，掌握行业动态。
典型使用场景
数据查询分析 AnalyticDB PostgreSQL版 既通过索引排序等特性支持高并发低延时的多维度点查范围查场景，也通过向量化引擎，CBO优化器，列式存储支持大数据量多表关联聚合的复杂分析场景。例如，数据类业务应用对ADS层数据进行快速查询；...
应用管理
概述 应用是实际的埋点程序，Quick Tracking系统共支持3类应用，APP、网站和小程序。操作说明 1.页面组成“应用管理”主要是由以下几个部分组成 1.组织筛选框：默认展示全部组织，在这里筛选组织后，下面的应用列表会对应展示这些组织下的...
概述
本文介绍DMS数据分析的基本概念、设计理念和主要应用场景。背景信息 DMS数据分析提供典型的数据集、仪表盘和大屏模型，在仪表盘或大屏中提供丰富的可视化图表和组件来展示数据。您可以将数据库中的表或单条SQL查询结果作为数据集，在仪表盘...
应用场景
系统运维和业务实时监控 通过对大规模应用集群和机房设备的监控，实时关注设备运行状态、资源利用率和业务趋势，实现数据化运营和自动化开发运维。通过日志或者其他方式对原始指标数据进行采集和实时计算，最后将实时计算的结果数据存储到 ...
轮播页面
BI分析数据配置面板中的详细操作说明，请参见 BI分析模式数据面板功能介绍。配置字段说明 字段 说明 大屏ID 可视化应用中各轮播页面的ID。大屏名称 可视化应用中各轮播页面的名称。大屏链接 可视化应用中各轮播页面的链接。说明 当组件是以...
读写Elasticsearch数据
云原生数据湖分析DLA（Data Lake Analytics）中支持接入Elasticsearch，通过标准SQL语句读取Elasticsearch中的数据，从而实现Elasticsearch中的数据与其他数据源的数据联合查询等业务需求。本文档主要介绍了DLA读写Elasticsearch数据的操作...
受众与核心能力
总之，使用DataWorks，您不仅可以进行海量数据的离线加工分析，还能完成数据的汇聚集成、开发、生产调度与运维、离线与实时分析、数据质量治理与资产管理、安全审计、数据共享与服务、机器学习、应用搭建等覆盖大数据全生命周期的最佳实践...
应用场景
访问频度极高业务 如社交网络、电子商务、游戏、广告等。...实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作流程。
读写RDS MySQL数据
DLA支持连接RDS（MySQL、SQLServer、PostgreSQL）数据源，然后通过SQL语法查询和分析RDS数据，同时支持将分析结果回写入RDS。本文以RDS MySQL为例介绍如何通过DLA读写RDS数据。注意事项 如果您的RDS实例位于VPC网络内，默认情况下DLA无法...
应用工具栏
您可以通过工具栏功能，完成协同操作、保存、切换数据源、配置数据集加速等操作。前提条件 您已创建一个数据集，请参见 创建并管理数据集。配置工具栏 登录 Quick BI控制台。在Quick BI首页，按照下图指引，进入数据集编辑页面。在数据集...
E-MapReduce弹性低成本离线大数据分析
大数据是一项涉及不同业务和技术领域的技术和工具的集合，海量离线数据分析可以应用于多种商业系统环境，例如，电商海量日志分析、用户行为画像分析、科研行业的海量离线计算分析任务等场景。离线大数据分析概述 主流的三大分布式计算框架...
用户价值
数据应用更智能：提供面向业务人员的无代码业务模型构建能力和数据分析能力，大大降低数据获取和分析门槛，让业务人员可以直接使用数据，积累沉淀业务模型，能够向上层应用提供更加智能的数据。数据资产更清晰：从宏观到微观助力数据管理方...
客户案例
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
分析外部OSS上的数据
数据应用层（ADS）并不只是简单的查询数据和分析结果，也存在大量的计算，甚至会将离线数据和实时数据进行聚合分析，此时，行存格式的MySQL并不能很好的支撑这些操作。使用该功能后，数据架构如下图所示：该架构既解决了数据应用层（ADS）...
2023年
按量付费闲时版 2023-07-17 新增PyODPS DataFrame的代码运行环境 新说明 使用PyODPS DataFrame编写数据应用时，同一个脚本文件中的代码会在不同位置执行，可能导致一些无法预期的问题，本文为您介绍当出现相关问题时，如何确定代码的执行...
Spark应用性能诊断
应用场景 Spark应用性能诊断主要适用于以下场景：数据集性能分析：使用Spark处理大规模数据时，需要对数据集进行性能分析。使用性能诊断工具可以快速定位性能瓶颈（例如：内存峰值、Spill等），提高数据处理效率。大规模应用负载均衡：...
- 产品推荐
- 这些文档可能帮助您