基于MaxCompute进行大数据BI分析
通过MaxCompute、AnalyticDB MySQL强大的数据加工和分析能力，降低大数据平台建设的门槛，轻松解决了海量数据的计算问题。同时有效降低企业成本，并保障数据安全。与第三方开源生态无缝对接，在不侵入用户应用的情况下，传输日志至日志服务...
Serverless Spark概述
解决方案 Serverless Spark是云原生数据湖团队基于Apache Spark打造的服务化的大数据分析与计算服务。方案架构图如下所示：Serverless Spark将Spark、Serverless、云原生技术，深度整合到一起，相对于传统开源Spark集群版方案，具体以下...
DataWorks On Hologres使用说明
数据地图概述 安全中心 数据保护伞 审批中心 安全中心是集数据资产分级分类、敏感数据识别、数据授权管理、敏感数据脱敏、敏感数据访问审计、风险识别与响应于一体的一站式数据安全治理界面，帮助用户落地数据安全治理事项。安全中心概述 ...
DataWorks On EMR使用说明
DataWorks支持基于EMR（E-MapReduce）计算引擎创建Hive、MR、Presto和Spark SQL等节点，实现EMR任务工作流的配置、定时调度和元数据管理等功能，保障数据生产及管理的高效稳定。本文为您介绍在DataWorks上使用EMR的基本开发流程，以及相关 ...
DataWorks On CDP/CDH使用说明
以下简称CDH）和CDP（Cloudera Data Platform，以下简称CDP）集群创建Hive、MR、Presto和Impala等节点，实现CDP/CDH任务工作流的配置、定时调度和元数据管理等功能，保障数据生产及管理的高效稳定。本文为您介绍在DataWorks上使用CDP/CDH的...
功能特性
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
慢日志分析
数据库自治服务DAS（Database Autonomy Service）支持慢日志分析功能，会统计并分析数据库中执行时间超过阈值的SQL语句，并提供相应的治理方案，帮助您快速定位并解决数据库性能问题，提高系统的稳定性和可靠性。前提条件 数据库引擎为RDS ...
发布数据流
完成数据流的配置或变更后，您需要通过发布操作将最新的数据流发布，有效避免部分变更未经确认被直接发布。登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>数据集成>离线集成。单击数据流名称，进入数据流详情页面。可选：...
Serverless模式
您的历史数据无需再迁移到其他存储介质上，让数据分析更简单、高效、低成本，一站式解决金融、互联网等行业快速增长的数据分析需求。对高吞吐写入场景和高性能跑批业务进行了设计优化，同时提供了弹性伸缩能力，适合业务数据量大、并具有...
游戏运营融合分析
本文介绍游戏运营融合分析的场景描述、解决问题、架构图及操作参考链接。场景描述 游戏行业有结构化和非结构化数据融合分析需求的客户。游戏行业有数据实时分析需求的客户，无法接受T+1延迟。对数据成本有一定诉求的客户，希望物尽其用尽量...
DataWorks On MaxCompute使用说明
数据地图概述 安全中心 数据保护伞 审批中心 安全中心是集数据资产分级分类、敏感数据识别、数据授权管理、敏感数据脱敏、敏感数据访问审计、风险识别与响应于一体的一站式数据安全治理界面，帮助用户落地数据安全治理事项。安全中心概述 ...
慢日志
数据库自治服务DAS（Database Autonomy Service）支持慢日志分析功能，会统计并分析数据库中执行时间超过阈值的SQL语句，并提供相应的治理方案，帮助您快速定位并解决数据库性能问题，提高系统的稳定性和可靠性。前提条件 数据库引擎为：...
产品和业务限制
限制项 描述 例外申请方式 购买分析型数据库MySQL版的限制 账户余额大于等于500元现金 请联系技术支持 开通分析型数据库MySQL版的用户限制 用户需实名认证 无 可创建的最大分析型数据库MySQL版数 3个 联系技术支持申请更多 单个分析型数据...
发现并处理Redis的大Key和热Key
该功能可帮助您掌握Key在内存中的占用、Key的访问频次等信息，溯源分析问题，为您的优化操作提供数据支持。离线全量Key分析 优点：可对历史备份数据进行分析，对线上服务无影响。缺点：时效性差，RDB文件较大时耗时较长。对Redis的RDB备份...
发展历程
Gartner发布了《2017年分析型数据管理解决方案（DMSA）魔力象限》报告，阿里云作为云服务商成功冲进Gartner魔力象限。Forrester：CloudData Warehouse Q4 进入第三象限Contender象限。中国数字化转型与创新案例大会：年度大数据创新产品奖...
慢日志
数据库自治服务DAS（Database Autonomy Service）支持慢日志分析功能，会统计并分析数据库中执行时间超过阈值的SQL语句，并提供相应的治理方案，帮助您快速定位并解决数据库性能问题，提高系统的稳定性和可靠性。前提条件 数据库引擎为 ...
数据看板
作用：可以根据冷门榜进行对话流的重新设计或者对话流归档，此处支持下载后供管理员进行冷门对话流分析。对话流明细数据下载 所选机器人在所选时间段内，根据用户对对话流的会话情况，展示对话流的触发详情。并且支持有关数据导出下载。...
StarRocks概述
具体的业务场景如下所示：OLAP多维分析 用户行为分析 用户画像、标签分析、圈人 高维业务指标报表 自助式报表平台 业务问题探查分析 跨主题业务分析 财务报表 系统监控分析 实时数仓 电商大促数据分析 教育行业的直播质量分析 物流行业的...
搜索索引介绍
整体数据流如下图。在此架构下，宽表引擎、LTS和搜索引擎都是以独立服务的方式存在，您可以分别对各个引擎进行管理。如果搜索引擎处理能力不足，只需要扩容搜索引擎。如果LTS同步能力不足，可以单独扩容LTS。宽表引擎、LTS和搜索引擎可以...
文档修订记录
任务调度属性配置概述 2023年2月更新记录 时间 特性 类别 描述 产品文档 2023.2.28 新增功能 数据治理中心 DataWorks支持您根据业务需要，将 治理工作台>治理项问题 页面待解决的治理项问题以通知的形式，通过系统提示、邮件、钉钉群消息等...
会话管理
当数据库出现性能问题或异常操作时，通常需要结合数据库的会话信息，快速定位和解决数据库的问题。数据库自治服务DAS（Database Autonomy Service）的实例会话功能，支持实时查看目标实例的活跃会话、异常会话、会话访问来源和SQL语句等...
产品优势
DBS通过使用阿里实时数据流技术，读取数据库日志并进行实时解析，然后备份至云端存储上，实现对数据库的增量备份。通常，DBS可以将增量备份的延迟控制在秒级别以内，根据实际网络环境不同，延迟时长也会不同。并行备份：全程无锁备份、多...
核心自治技术案例解析
决策中心模块则会根据当前性能数据、实例会话列表数据等信息进行全局判断，以基于根因的全局自治，例如可通过SQL限流来解决当前计算资源不足的问题则会采取限流处理。若确实为突增的业务流量，则会继续进行弹性服务流程。算法模型是整个DAS...
数据流管理
本文介绍如何创建数据流、查看或删除数据流、滚动更新数据流等。背景信息 数据流管理功能适用于日志、事件、指标和其他连续生成数据的场景。如果您将索引和请求直接提交到数据流，数据流会自动将请求路由到存储数据流数据的后备索引上。您...
Iceberg概述
核心能力 Apache Iceberg设计初衷是为了解决Hive数仓上云的问题，经过多年迭代已经发展成为云上构建数据湖服务的表格式标准。关于Apache Iceberg的更多介绍，请参见 Apache Iceberg官网。目前Iceberg提供以下核心能力：基于HDFS或者对象...
慢日志分析
数据库自治服务DAS（Database Autonomy Service）支持慢日志分析功能，会统计并分析数据库中执行时间超过阈值的SQL语句，并提供相应的治理方案，帮助您快速定位并解决数据库性能问题，提高系统的稳定性和可靠性。前提条件 数据库引擎为：...
基于DLF、RDS或Flink、OSS支持Delta Lake或Hudi存储...
Delta Lake和Hudi是数据湖方案中常用的存储机制，为数据湖提供流处理、批处理能力。MaxCompute基于阿里云DLF、RDS或Flink、OSS产品提供了支持Delta或Hudi存储机制的湖仓一体架构。您可以通过MaxCompute查询到实时数据，即时洞察业务数据...
低成本历史库
运维复杂度高，通过分库分表的方式来解决数据量增加造成性能下降，给运维和业务开发增加了巨大的成本。需求：存储成本可控，历史数据的存储成本是在线数据的10分之一。能够弹性的伸缩，计算和存储能力自动水平扩展，不再依赖分库分表解决运...
可观测性能力
实时Top Key统计 功能准确性高，且对性能几乎无影响，帮助您掌握Key在内存中的占用、Key的访问频次等信息，溯源分析问题，为您的优化操作提供数据支持。在控制台目标实例详情页的 CloudDBA>实时Top Key统计 页签中，进行热Key与大Key分析，...
可观测性能力介绍
实时Top Key统计 功能准确性高，且对性能几乎无影响，帮助您掌握Key在内存中的占用、Key的访问频次等信息，溯源分析问题，为您的优化操作提供数据支持。在控制台目标实例详情页的 CloudDBA>实时Top Key统计 页签中，进行热Key与大Key分析，...
引擎类型
云原生多模数据库 Lindorm 内含宽表引擎、时序引擎、搜索引擎、文件引擎、计算引擎和流引擎，兼容HBase/Cassandra/S3、OpenTSDB、Solr、HDFS、Kafka等多种开源标准接口，同时提供SQL查询、时序处理、文本检索分析等能力。为应对动态变化的...
低成本RDS历史库
运维复杂度高，通过分库分表的方式来解决数据量增加造成性能下降，给运维和业务开发增加了巨大的成本。需求：存储成本可控，历史数据的存储成本是在线数据的10分之一。能够弹性的伸缩，计算和存储能力自动水平扩展，不再依赖分库分表解决运...
锁分析
当面临RDS MySQL的死锁问题时，您可以使用锁分析功能，直观地查看和分析数据库最近一次发生的死锁，从而快速定位和解决死锁问题，确保数据库的稳定运行。前提条件 实例为如下版本：RDS MySQL 8.0 高可用系列或集群系列 RDS MySQL 5.7 高...
弧线图
图表概述 使用场景 弧线图适用于展示和分析复杂关系网络的场景，可以用来揭示模式、趋势和关联关系帮助解决问题，例如：销售数据分析、金融市场分析、交通网络分析、网络安全分析等，能够让使用者更直观地观察数据之间的变化趋势。...
2023年
作业运行常见问题 2023-08-01 新增Github公开事件数据 新说明 本文为您介绍MaxCompute公开数据集中Github公开事件数据的基本信息、如何通过MaxCompute执行Github公开事件数据查询以及Query样例和分析结果。Github公开事件数据 2023年7月...
应用场景：低成本历史库
运维复杂度高，通过分库分表的方式来解决数据量增加造成性能下降，给运维和业务开发增加了巨大的成本。需求 存储成本可控，历史数据的存储成本是在线数据的十分之一。能够弹性的伸缩，计算和存储能力自动水平扩展，不再依赖分库分表解决运...
数据资产等级定义
一般性质：数据主要用于日常数据分析，出现问题带来的影响极小。标记为A4。未知性质：无法明确数据的应用场景。标记为Ax。这些性质的重要性依次降低，即重要程度为A1>A2>A3>A4>Ax。如果一份数据出现在多个应用场景汇总，则根据其最重要程度...
产品架构
为了解决这个问题，阿里云自研了云原生多模数据库Lindorm，满足多模型数据的统一存储、查询和分析需求。如下图所示，与传统方案相比，Lindorm系统极大地简化数据存储技术架构设计，大幅度提升系统稳定性，降低建设成本投入。总体架构 ...
数据集成概述
数据传输：数据集成仅完成数据同步（传输），本身不提供数据流的消费方式。数据一致性：数据集成同步仅支持at least once，不支持exact once，即不能保证数据不重复，只能依赖主键+目的端能力来保证。说明 同步任务源端和目标端字段类型...
数据看板
管理员可以根据冷门榜进行对话流的重新设计或者对话流归档，此处支持下载后供管理员进行冷门对话流分析。（展示2000条，可下载20000条，日期筛选器需选择单日期）。对话流明细：所选机器人在所选时间段内，根据用户对对话流的会话情况，...
- 产品推荐
- 这些文档可能帮助您