扩展性原理
针对这类在线数据库上复杂SQL的处理，PolarDB-X 1.0 额外扩展了单机并行处理器（Symmetric Multi-Processing，简称SMP）和多机并行处理器（DAG）。前者完全集成在 PolarDB-X 1.0 内核中；而对于后者，PolarDB-X 1.0 构建了一个计算集群，...
技术原理
针对这类在线数据库上复杂SQL的处理，PolarDB-X 1.0 额外扩展了单机并行处理器（Symmetric Multi-Processingy，简称SMP）和多机并行处理器（DAG）。前者完全集成在 PolarDB-X 1.0 内核中；而对于后者，PolarDB-X 1.0 构建了一个计算集群，...
并行网关
在拓扑任务中，您可以添加并行网关实现多个节点并行处理效果，满足业务存在多个独立任务需要并行处理的需求，以此提高整体处理性能。本文将快速引导您如何在拓扑任务中使用并行网关。操作步骤 创建拓扑子任务。创建两个或两个以上的简单或...
查询流程和执行计划
Stage的数据来源可以是底层存储系统中的数据或者网络中传输的数据，一个Stage由分布在不同Executor节点上相同类型的Task组成，多个Task会并行处理数据。说明 AnalyticDB MySQL版 SQL诊断功能支持对Stage级别进行结果诊断。更多详情，请参见...
创建项目
该值为 10 表示同一时间可以并行处理 10 个任务（如文档格式转换、图片标签检测等），查询类 API（如 GetImage 获取图片信息）也会占用该额度。如果您有更高的并行处理要求，请使用钉钉搜索钉钉群号31690030817加入钉钉群进行反馈。授权...
名词解释
同一任务的各个实例并行处理各自的输入数据。实例是 BatchCompute 调度与执行的最小单元，这些实例会动态的运行在系统分配的虚拟服务器节点上。集群 一系列的VM实例组在 BatchCompute 中被定义为一个集群（Cluster）。一个集群可以由多个...
如何高效扫描数据
并行的全表扫描：如果需要从所有库导出数据，可以通过SHOW指令查看表拓扑结构，针对分表并行处理。通过HINT进行表遍历 执行 SHOW TOPOLOGY FROM TABLE_NAME 指令获取表拓扑结构。mysql>SHOW TOPOLOGY FROM DRDS_USERS;ID|GROUP_NAME|TABLE_...
离线异步任务场景
并行处理 离线GPU任务需要处理大量数据，对GPU资源供给要求高，并行运行加快处理速度。数据源集成 离线GPU任务对数据源的需求多种多样，处理过程中需要与多种存储产品（例如对象存储OSS）和多种消息产品（例如消息队列）进行频繁交互。更多...
验证分析型查询请求能力
OceanBase 数据库采用了分布式架构，将数据分片存储在不同的节点上，通过数据分片和任务分片实现了数据和计算的并行处理。在OceanBase 中，每个节点都可以独立地执行任务，并且可以通过高速的网络互相通信，实现数据的交互和同步。PARALLEL...
应用场景
例如，来自不同数据源的计量数据被收集到日志服务，函数计算 的定时器定时触发 云工作流 执行，云工作流 利用 函数计算 对多个Shard的计量数据做并行处理，并将结果分别写回日志服务；然后可以将所有Shard产生的文件进行聚合，写入表格存储...
应用场景
并行转码：根据视频文件数量，自动进行毫秒级的弹性伸缩，并行处理多个文件。成本低廉：提供丰富的计量模式，在不同场景下有显著的成本优势。快速迁移：FFmpeg相关命令可以直接移植到函数计算，在虚拟机上部署的基于FFmpeg的服务可以轻松...
应用场景
并行转码：根据视频文件数量，自动进行毫秒级的弹性伸缩，并行处理多个文件。成本低廉：提供丰富的计量模式，在不同场景下有显著的成本优势。快速迁移：FFmpeg相关命令可以直接移植到函数计算，在虚拟机上部署的基于FFmpeg的服务可以轻松...
什么是实时数仓Hologres
亚秒级交互式分析 Hologres采用可扩展的大规模并行处理（MPP）架构全并行计算，通过向量化算子发挥CPU最佳算力，基于AliORC压缩存储，面向SSD存储优化IO吞吐，支持PB级数据亚秒级交互式分析体验。在线高性能主键点查 基于行存表的主键索引...
服务端人脸识别SDK
检测模块和识别模块并行处理 获取视频流之后，通过人脸检测识别出人脸，根据跟踪的ID进行人脸质量的判断。一个人脸的质量可以通过关键点定位是否准确、人脸质量模块分值是否比较高、人脸的角度是否在一定的范围内进行挑选，然后送入到活体...
使用MapReduce处理JindoFS上的数据
Hadoop MapReduce是一个使用简易的软件框架，基于它写出来的应用程序能够运行在由上千个商用机器组成的大型集群上，并以一种可靠容错的方式并行处理上T级别的数据集。一个MapReduce作业通常会把输入的数据集切分为若干独立的数据块，由Map...
基于HBase Java API的应用开发
创建一个只有一个分区的表/由于单Region会限制集群并行处理能力和负载均衡效果，因此在建表时建议根据数据特点预先分区。所有的数据将存储在同一个分区中，无法实现在多个分区间的并行处理和负载均衡。这可能导致性能瓶颈和数据热点问题。...
概述
PolarDB 集群备份和恢复功能均采用多线程并行处理，并通过其它技术创新，10分钟内即可完成从备份集（快照）恢复到一个新的集群。说明 一级备份默认开启，无法关闭。一级备份（快照）总大小如下图所示。说明 PolarDB 集群 一级备份（快照）...
QueryContent-查询文档内容
云原生数据仓库AnalyticDB PostgreSQL版是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。Metadata object 元数据 Map。string 元数据。{"title":"test"} FileName string 文件名。my_doc.txt LoaderMetadata string...
RDS SQL Server CPU使用率高问题排查
CPU使用率高的因素有很多，其中最常见的因素说明及解决方法如下：实例的并行度设置不合理 排查步骤 线程并行处理任务时，由于每个线程处理的数据量不一致，会出现CXPACKET等待情况，CXPACKET等待发生比较多的话，就会造成CPU使用率高。...
支持HTTP2.0
多路复用（MultiPlexing）：消除了 HTTP 1.x 中并行处理和发送请求及响应时对多个连接的依赖。可客户端和服务器可以把HTTP消息分解为互不依赖的帧，然后乱序发送，最后再在另一端把它们重新组合起来。从而避免不必要的延迟，提升效率，在...
计费概述
用户使用这些分析应用提交的运行任务，会被流程执行引擎解析成众多的后端计算作业，并由平台自动化、智能化的并行处理，直至任务完成。基因分析平台采用 按量付费 的方式，以 运行任务 中的 计算作业 为基本单位，对用户实际消耗的平台资源...
概述
PolarDB 集群备份和恢复功能均采用多线程并行处理，并通过其他技术创新，10分钟内即可完成从备份集（快照）恢复到一个新的集群。说明 一级备份默认开启，无法关闭。一级备份保留时长最多可支持30天，如果您需要使用该功能，可以 联系我们 ...
并行步骤
本文介绍了并行步骤和相关使用示例。介绍 并行（Parallel）步骤用来并行执行多个步骤。它定义了多个分支（Branches），每个分支包含一系列串行步骤。并行步骤的每个分支都对应一个本地变量。执行并行步骤会并发执行所有分支包含的串行步骤...
并行查询配置参数说明
本章节介绍了并行查询功能相关的参数和变量。并行查询相关参数 表 1.系统参数 参数名 级别 描述 max_parallel_degree Global、Session 单个查询的最大并行度，即并行执行的最大Worker数量。取值范围：[0-1024]；默认值：0，表示关闭并行...
深度解析PolarDB数据库并行查询技术
传统的优化器只能生成串行的执行计划，为了实现并行读取数据，同时并行处理数据，首先必须对现有的优化器进行改造，让优化器可以生成需要的并行计划。例如，选择哪个表或哪些表可以并行读取，并且通过并行读取会带来足够的收益；或者哪些...
并行循环步骤
本文介绍了并行循环步骤和其相关使用示例。介绍 并行循环（Foreach）步骤遍历输入中的某个数组类型参数，对于数组中的每个元素并行执行其串行步骤。并行循环步骤类似于编程语言中的 foreach，不同之处是这里的迭代是并行执行的。并行循环...
使用场景
即使对于一个特定的查询已经产生了并行查询计划，在一些情况下执行时也不会并行执行该计划。如果发生这种情况，那么领导者将会自己执行该计划在 Gather 节点之下的部分，就好像 Gather 节点不存在一样。上述情况将在满足下面的任一条件时...
PolarDB MySQL版8.0.2版本性能（集群版）
PolarDB MySQL版 8.0.2版本优化增强了并行查询和Hash Join能力。并行查询：并行查询重磅升级到2.0版本，对复杂分析查询进行了更全面的支持。多阶段的执行框架，SQL语句被拆解为多个计算算子。每个算子可以分布到多个worker上并行完成，算子...
减灾与应急时空解决方案与案例
可在表级和操作级充分利用时空并行处理能力加快大数据计算效率。系统原生部署在云端，支持直接使用SQL实现传统GIS服务软件提供的大部分功能，还支持性能及存储空间同时线性扩展。项目价值 领域专业数据一体化融合管理和处理能力，提供存储...
补数据
补数据功能说明 为什么小时分钟任务补数据选择了并行但实际不生效？为什么补数据选择业务时间后不运行，实例显示黄色，实例状态显示等待时间？为什么补数据选择业务时间昨天和今天，也会出现等待时间的情况？为什么补数据选择补0点~1点生成...
异常事件
本文介绍通过异常事件了解每一个异常行为的详细信息，并设置处理策略。IoT安全中心基于处理策略自动响应后续的异常事件。背景信息 IoT安全中心基于设备的行为分析，筛选存在异常的行为。异常行为可能是攻击者发起的攻击，也可能是潜伏的...
如何通过ChatOps处理告警
本文介绍如何通过ChatOps处理告警。背景信息 ChatOps是一种集成了聊天和自动化工具的协作方法和文化，旨在提高团队的协作效率和可见性。ChatOps可以让团队成员在一个聊天平台上进行交流，同时可以使用自动化工具完成任务，例如自动化构建、...
简介
同一任务的各个实例并行处理各自的输入数据。镜像 Image 镜像（Image）是集群资源创建或者作业运行环境的模板。它是一个标准的或者自定义的 ECS 镜像，需要安装 BatchCompute Agent，然后授权给 BatchCompute 服务使用
热点行优化
因此 PolarDB 在数据库内核层进行了创新性的优化，不但能够自动识别热点行更新请求，而且将一定时间间隔内对同一数据行的更新操作进行分组，不同分组采用流水线的方式并行处理，通过这些优化，极大地提升了系统的性能。具体方案如下：串行...
PolarDB MySQL版8.0.1版本发布日志
修复并行查询将GROUP BY下推到Worker上去并行执行时，在有分区表的情况下，返回结果集中存在分组重复的问题。修复执行 EXCHANGE PARTITION 操作时，因索引顺序不同导致索引损坏，无法访问表数据的问题。修复主键不包含分区键的分区表在使用...
2021年
开启时空并行查询 优化 栅格图像处理 ST_SubRaster函数支持栅格像元类型转换以及像元值拉伸。支持多波段遥感影像转三波段图像的AI识别场景。ST_SubRaster 缺陷修复 修复栅格解析无效的直方图信息可能会导致数据库崩溃的问题。修复进行投影...
VACUUM
对于并行清理，每个处理器的睡眠与该处理器完成的工作成比例。PolarDB包括了一个“autovacuum”工具，它可以自动进行例行的清理维护。示例 清理单一表 onek，为优化器分析它并且打印出详细的清理活动报告：VACUUM(VERBOSE,ANALYZE)onek;
PolarDB MySQL版8.0.2版本发布日志
修复使用polar_abbrev_sort_key_size参数控制排序操作时，写坏内存的问题。修复在主键不包含分区键的分区表上执行等值查询操作，选择唯一键（UK）进行index merge的场景下，只返回第一个分区中的数据的问题。8.0.2.2.20 类别 说明 发布时间...
填充数据库
第一次填充数据库时可能需要插入大量的数据。本节包含一些如何让这个处理尽可能高效的建议。1.禁用自动提交 在使用多个 INSERT 时，关闭自动提交并且只在最后做一次提交（在普通 SQL 中，这意味着...因此如果你使用该选项，就可能插入坏数据。
ECS系统事件汇总
您可以通过系统事件获取ECS资源的风险和异常信息，例如 某一实例到期、实例因底层升级需迁移或因系统维护重启了某一实例等，然后及时响应和处理系统事件，避免因ECS资源可用性或性能受损而影响业务。本文汇总了云服务器ECS支持的系统事件...
- 产品推荐
- 这些文档可能帮助您