应用场景
前端的监控系统和大数据处理系统会利用 TSDB 的数据查询和计算分析能力进行业务监控和分析结果的实时展现。电力化工及工业制造监控分析 传统电力化工以及工业制造行业需要通过实时的监控系统进行设备状态检测，故障发现以及业务趋势分析。...
产品简介
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
创建Kudu数据源
Kudu适用HTAP场景（例如物联网），对于数据处理系统的复杂性提出了更高的要求。从早期的OLTP、OLAP拆分，到后来的Lambda架构，都存在数据复制和同步的复杂性，而Kudu的单一数据架构，规避了传统架构数据复制和同步的复杂性。更多详情请参见...
Stage级别诊断结果
如果不广播小表，那么会出现如下图的执行流程：假设上图中的表 Tsmall 在 b 字段上存在严重数据倾斜，那么当表 Tbig 以 a 字段均匀地分布在 AnalyticDB MySQL版 的存储节点上时，对 Tbig 表的重分布会存在处理时间长尾，而且在下游Stage...
2024年
修复数据处理场景中存储引擎处理特定数据时会触发 negative bitmapset member not allowed 报错信息，导致执行引擎异常崩溃的问题。修复数据处理过程中系统在尝试读取数据文件的特定块时发生错误，触发 beam could not read block in file ...
离线同步并发和限流之间的关系
由于各类异构系统对数据处理的复杂和差异性，目前策略是写入失败的数据均被归类于脏数据。在一些数据同步场景，脏数据的出现会导致任务同步效率下降，以关系数据库写出为例，默认是执行batch批量写出模式，在遇到脏数据时会退化为单条写出...
应用场景
批处理系统 很多行业的批处理系统中通常会有大量批处理操作，包含多张大表关联的复杂计算，并且涉及到大量的数据更新。批处理意味着每一次处理的数据量很大，而且有很多张大表要做关联，经常要做一些比较复杂的查询，并且更新量也比较大，...
待处理事件
PolarDB-X 1.0 提供待处理事件服务，当出现待处理事件时，系统会通过邮件、短信和控制台等途径提醒您及时处理，本文将介绍如何在控制台上查看和管理待处理事件。背景信息 PolarDB-X 1.0 待处理事件包括：运维事件：如网络变更等运维提醒，...
2021年
并且因为大数据系统保证任务级别的ACID，当作业并发运行且操作的目标表相同时，可能会出现作业冲突。需要注意的是目前UPDATE/DELETE/MERGE INTO处于公测阶段，不收取计算费用，但公测期间也暂时不对您使用此功能用于生产的作业和数据提供...
迁移 RDS PostgreSQL 实例的数据至 OceanBase 数据库 ...
由于 UPDATE 和 DELETE 操作在 RDS PostgreSQL 中不支持 LIMIT 语法，当全列匹配时匹配到多条数据，可能会出现 UPDATE 或 DELETE 数据比目标端多的情况。例如，无主键表 t1 中存在 c1 和 c2 两列，在源端有两条 c1=1 和 c2=2 的数据。当源...
OceanBase 数据库之间的数据迁移
背景信息 您可以在数据传输控制台创建从 OceanBase 数据库迁移数据至 OceanBase 数据库同类型租户的数据迁移项目，通过结构迁移、全量迁移和增量同步，无缝迁移源端数据库中的存量业务数据和增量数据至目标端数据库。前提条件 数据传输已...
PolarDB MySQL版CPU使用率高
整个数据库系统的缓存区域，是数据交换最为频繁的位置，如果内存不足和内存页争抢，则会出现各种异常的堆积和慢查询。最典型的表现是数据库突然CPU上涨打满，并且出现慢查询。经过排查后发现该问题并非索引缺失，这个时候就有可能是内存...
迁移 PolarDB-X 2.0 数据库的数据至 OceanBase 数据库...
如果源端和目标端的表结构不完全一致，可能会出现数据不一致的情况。目前已知场景如下：用户手动创建表结构时，因超出数据传输的支持范围，可能产生隐式的转换问题导致源端和目标端列的类型不一致。目标端的数据长度小于源端的数据长度时，...
迁移 OceanBase 数据库 MySQL 租户的数据至 MySQL ...
如果源端和目标端的表结构不完全一致，可能会出现数据不一致的情况。目前已知场景如下：用户手动创建表结构时，因超出数据传输的支持范围，可能产生隐式的转换问题导致源端和目标端列的类型不一致。目标端的数据长度小于源端的数据长度时，...
大数据安全治理的难点
大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，难免会出现遗漏的...
常见问题概览
无集团上云商品标签的客户，在购买集团内部按量付费商品时为什么会出现如下错误提示？登录数据库 如何正确的填写登录DMS的数据库账号与密码？在DMS登录数据库失败，提示“access denied”，如何处理？SSL证书过期该怎么处理？在DMS录入阿里...
迁移 PolarDB-X 1.0 数据库的数据至 OceanBase 数据库...
如果源端和目标端的表结构不完全一致，可能会出现数据不一致的情况。目前已知场景如下：用户手动创建表结构时，因超出数据传输的支持范围，可能会产生隐式的转换问题，导致源端和目标端列的类型不一致。目标端的数据长度小于源端的数据长度...
迁移 MySQL 数据库的数据至 OceanBase 数据库 MySQL ...
如果源端和目标端的表结构不完全一致，可能会出现数据不一致的情况。目前已知场景如下：用户手动创建表结构时，因超出数据传输的支持范围，可能会产生隐式的转换问题，导致源端和目标端列的类型不一致。目标端的数据长度小于源端的数据长度...
调优集群性能
如下图所示，某个大表分布不均，存储节点0上的Shard_0和Shard_1中数据量较大，而在存储节点1上的Shard_2和Shard_3中数据量较小，那么当您查询这个大表时，较大概率会出现存储节点0需要处理的数据多，存储节点1上需要处理的数据少的情况，...
性能优化与诊断简介
在RDS PostgreSQL日常运维中，您可以通过数据库自治服务DAS（Database Autonomy ...存储自动扩容 当数据库实例的已使用存储空间大于等于设置的扩容阈值时，系统会进行自动扩容，保障您的业务稳定运行。相关文档 什么是数据库自治服务DAS
技术面临的挑战与革新
在分布式数据库中，同样也可以采用这种模式，将事务集中在一个节点处理，而这限制了事务处理的扩展能力，系统能处理的事务操作的数据范围受限于单个节点所能访问的数据范围，事务处理能力也受限于单个节点的处理能力。
使用执行计划分析查询
系统会根据实际数据量选择Bytes、KB、MB、GB或TB为单位。输入行数 目标Stage输入的行数。输入大小 目标Stage输入的数据量。系统会根据实际数据量选择Bytes、KB、MB、GB或TB为单位。扫描行数 目标Stage扫描的行数。说明 仅当目标Stage中存在...
高效数据治理实施指南
计划已达成或计划到期未达成 当任务处理人治理问题带来的成效达到了系统预设的治理目标值，系统会自动将治理计划置为 已达成 状态，并生成整体性的治理总结，作为整个治理周期情况的分析。如治理计划到期，但目标仍未达成，系统会自动将...
业务切换流程
由于创建的反向迁移任务会将目标库产生的增量数据实时迁移回源库，如果业务运行出现问题，可随时将业务切换回源库。后续步骤 业务切换至目标数据库并稳定运行一段时间，测试所有业务涉及的功能并确认无问题，可结束反向数据迁移的任务，...
业务切换流程
由于创建的反向迁移任务会将目标库产生的增量数据实时迁移回源库，如果业务运行出现问题，可随时将业务切换回源库。后续步骤 业务切换至目标数据库并稳定运行一段时间，测试所有业务涉及的功能并确认无问题，可结束反向数据迁移的任务，...
主备切换
但在切换过程中，会出现以下情况：执行切换的数据节点将出现秒级的连接闪断，可能还会出现30秒内的只读状态。在实例处于 切换中 状态时，将无法执行实例级别的操作（例如变更配置、迁移可用区等）。当实例完成主备切换后，实例状态会显示为...
主备切换
但在切换过程中，会出现以下情况：执行切换的数据节点将出现秒级的连接闪断，可能还会出现30秒内的只读状态。在实例处于 切换中 状态时，将无法执行实例级别的操作（例如变更配置、迁移可用区等）。当实例完成主备切换后，实例状态会显示为...
LTS（原BDS）服务介绍
低成本：LTS在HBase、Phoenix、Cassandra等开源系统上有深入的优化，提供物理文件级别的数据处理，比传统的数据复制效率提高10倍。同时在CPU、缓存、内存、网络IO上的整体优化使LTS提供一个高性价比的数据通道，减少客户数据流转、处理的...
备份数据库
系统会根据您的选择，为您列出所有符合条件的数据源。在 选择备份源 页面，勾选目标数据源，单击 下一步选择备份对象。说明 您可以在此步骤选择单个或多个数据库进行配置。当您进行批量备份时，系统暂不支持多页选择，默认每页为20条数据源...
导入与导出
保证数据处理速度，排查数据生产消费是否同步，保证有足够的数据等待导入 AnalyticDB MySQL。保证客户端机器负载，检查CPU使用率或磁盘IO使用率等系统资源是否充足。湖仓版（3.0）集群的数据接入功能（APS)，是否会单独收取链路费用？不会...
时序引擎版本说明
修复最新值查询在扩容后可能会出现返回多条数据的问题。修复降采样查询中不支持常量折叠计算的问题。修复正则查询降采样数据时间条件不生效的问题。3.4.10 2022年02月28日 新特性 SQL查询语句tags支持通过正则表达式过滤。支持non_negative...
离线同步日志分析
调度系统会将任务下发至数据集成资源组上执行，您可在区域①查看当前任务运行使用的数据集成资源组。不同类型资源组日志打印不同：任务运行在默认的资源组上，日志中会出现如下信息。running in Pipeline[basecommon_group_xxxxxxxxx]任务...
自动SQL限流
除了上述的问题，在现实生活中可能还会出现各种特殊情况，比如值班人员联系不上、工作人员身边没有电脑、信息太多分析难度大、压力大紧张操作失误等。因此需要尽可能的把异常发现、异常SQL定位、SQL限流、跟踪/回滚的整体流程自动化处理。...
LTS（原BDS）服务介绍
低成本：LTS在HBase、Phoenix、Cassandra等开源系统上有深入的优化，提供物理文件级别的数据处理，比传统的数据复制效率提高10倍。同时在CPU、缓存、内存、网络IO上的整体优化使LTS提供一个高性价比的数据通道，减少客户数据流转、处理的...
SQL其他常见问题
但您需要注意，MaxCompute支持的DECIMAL类型数据的最大长度为38位，但实际业务处理过程中如果数据存储为最大长度，在数据处理过程中很容易出现数据溢出问题，建议调小数据长度。新创建的MaxCompute项目不支持数据类型自动隐式转换，如何...
热点行优化
背景信息 热点行面临以下问题：数据库中那些会被频繁执行增删改查操作的数据行称为热点行。当一个事务对一行数据进行更新时，会对目标数据行加锁，直到事务提交或回滚时才释放。同一时段内，对于同一个数据行，只有一个事务能够进行更新，...
客户案例
张炜宇 阿里妈妈基础共享技术开发平台总监“OceanBase 很好的满足了我们广告业务对于存储系统扩展性，并行计算，统计计算，高吞吐，低时延，资源隔离等大数据处理的需求，在报表业务的演进中帮助我们建立了一套业务和平台分离，面向效果...
查看监控信息
在进行数据库日常维护或处理数据库故障时，查看数据库相关的性能指标是必不可少的步骤。RDS MySQL的标准监控提供了丰富的性能监控指标，以及强大的诊断能力，能够及时发现数据库的异常并提供相应的治理方案。并且提供了常见数据库问题场景...
数据风险点监控
DQC以数据集（DataSet）为监控对象，当离线MaxCompute数据发生变化时，DQC会对数据进行校验，并阻塞生产链路，以避免问题数据污染扩散。DQC还提供了历史校验结果的管理，方便数据质量的分析和定级。通过配置DQC的数据质量校验规则，可以...
PolarDB HTAP实时数据分析技术解密
但是应用这个方案的前提是用户需要迁移到对应的NewSQL数据库系统，而这会出现各种兼容性适配问题。一体化的行列混合存储方案 较多副本Divergent Design方法更进一步的方案，是在同一个数据库实例中采用行列混合存储，同时响应TP型和AP型...
- 产品推荐
- 这些文档可能帮助您