简介
批量计算服务（Batch Computing Service，简称BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。我们提供了丰富的API接口，您可以基于此API很方便使用BatchCompute的服务以及开发自己的应用程序。请确保在使用这些接口前，...
基本概念
它是一种为图像和图形运算工作优化的微处理器，适用于大规模并行计算等场景。VM Virtual Machine，虚拟机，指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。云边一体 云边一体，又叫云边协同，其中...
音视频弹性处理
可以在短时间内准备大量的计算资源进行大规模并行转码处理。能简单迁移基于FFmpeg自建的转码服务。方案简介 本示例是将MOV格式文件转换为FLV、AVI、MP4格式的文件，并将转换后的文件存储到对象存储的指定目录中。方案实施如下：上传视频...
Windows系统实例的宕机问题排查
定位宕机原因 您可以通过以下方式，定位ECS实例发生宕机的具体原因。方式一：（推荐）通过自助诊断工具定位 登录 ECS管理控制台，左侧导航栏单击 自助问题排查。单击 实例问题排查 页签。选择 实例无法连接或启动异常>实例出现宕机，然后...
CPFS并行文件存储
秒级故障检测功能：可快速检测坏盘和宕机的服务节点。支持多种数据保障模式：多副本模式：2副本、3副本 纠删码模式：（4+2p）、（4+3p）、（8+2p）、（8+3p）丰富的接口协议 支持POSIX（SMB、NFS）、Object、HDFS等接口协议：NFS v4.0、NFS...
PyODPS概述
如tunnel下载操作、execute操作、to_pandas操作等，因此，很多初始使用PyODPS的用户会试图把数据拉取到本地，处理完成后再上传到 MaxCompute上，很多时候这种方式是十分低效的，拉取数据到本地彻底丧失了MaxCompute的大规模并行能力的优势...
已停售的实例规格
计算：处理器与内存配比为1:2 处理器：采用第三代Intel ® Xeon ® 可扩展处理器（Ice Lake），基频2.7 GHz，全核睿频3.5 GHz，计算性能稳定 支持开启或关闭超线程配置 存储：I/O优化实例 仅支持ESSD云盘 实例存储I/O性能与计算规格对应...
监控管理
通过监控管理功能，实时监控并管理边缘一体机的内存使用、CPU使用、存储用量等信息。监控管理显示网关的如下信息：参数 描述 操作系统 边缘一体机的操作系统。...处理器 边缘一体机的处理器。软件版本 边缘一体机使用的边缘版本号。
产品规格
计算配置 网络配置 存储配置 推荐应用场景 通用型 ecs.g6.8xlarge 处理器：2.5 GHz主频的Intel ® Xeon ® Platinum 8269（Cascade Lake）vCPU：32 内存：128GiB GPU：无 以太网：10Gbit/s 高效云盘 ESSD云盘 SSD云盘 通用的大规模多机并发...
摄像机控制器
相机位置 单击 起点对齐场景相机，将当前摄像机的位置对齐场景窗口的起点位置。高度 设置当前摄像机的高度。半径 设置当前摄像机的半径。角度 设置当前摄像机的角度。视场角 设置当前摄像机的视场角。相机位置 单击 终点对齐场景相机，将...
并行网关
在拓扑任务中，您可以添加并行网关实现多个节点并行处理效果，满足业务存在多个独立任务需要并行处理的需求，以此提高整体处理性能。本文将快速引导您如何在拓扑任务中使用并行网关。操作步骤 创建拓扑子任务。创建两个或两个以上的简单或...
什么是基因分析平台？
提供计算侧的文件访问缓存加速，支持计算作业直接读写OSS文件，解决并行任务的I/O和吞吐问题 大规模并行计算调度，提供容器/虚拟机执行环境，支持多种异构计算，加速基因分析。工程化的流程执行引擎，支持GA4GH标准（WDL/CWL）,无需迁移...
未来规划
云计算架构的核心逻辑就是通过虚拟化技术带来池化资源，云原生数据库采用分布式数据库架构，实现大规模扩展，每套数据库系统横跨多台服务器和虚拟机，带来了全新的系统管理挑战。其中最核心的挑战就是如何实现弹性以及高可用，实现按需按量...
超级计算集群概述
GPU计算型超级计算集群实例规格族sccgn7ex sccgn7ex的特点如下：sccgn7ex是阿里云为了面对日益增长的大规模AI训练需求开发的高带宽超算集群实例。多台裸金属服务器之间采用第三代RDMA SCC网络互联，支持800 G的互联带宽。您可以根据训练...
功能概览
可以 恢复到源大规模文件系统，或者 恢复到一个新的大规模文件系统。费用 大规模文件系统备份主要产生以下费用：存储容量费用：云备份提供本地冗余与同城冗余两种备份存储。按照您的备份数据实际消耗的云备份的备份库的容量进行计算，您...
计划加速
QUERY PLAN-PartitionedTableScan on prt1(cost=0.00.1.00 rows=1 width=40)->Seq Scan on prt1(cost=0.00.1.00 rows=1 width=40)(2 rows)并行查询 支持分区表的 并行查询，它能很好的处理大规模数据的查询。和 Append 一样，...
计划加速
QUERY PLAN-PartitionedTableScan on prt1(cost=0.00.1.00 rows=1 width=40)->Seq Scan on prt1(cost=0.00.1.00 rows=1 width=40)(2 rows)并行查询 PolarDB PostgreSQL版 支持分区表的 并行查询，它能很好的处理大规模数据的查询。...
技术原理
原理架构 MPP和只读资源 PolarDB-X 1.0 通过多组DRDS计算节点提供大规模多级并行处理能力（Massively Parallel Processing，简称MPP），针对计算节点进行Scale-out完成MPP处理能力的线性扩展。同时通过AiSQL三节点基于Paxos构建Row-based...
概述
弹性并行查询（Elastic Parallel Query）针对云上用户实例CPU资源利用率较低、使用不均衡的特征，充分挖掘集群中多核CPU的并行处理能力，以8核32 GB（独享规格）的 PolarDB MySQL版 集群版为例，示意图如下所示：前提条件 PolarDB 集群版本...
应用场景
基因数据处理 云工作流 可以将多个批量计算分布式作业串联或并行编排，可靠地支持执行时间长、并发量大的大规模计算。如基因数据分析中将基因序列对齐，将所有染色体并行做变异分析，最终将各染色体数据聚合产出结果。云工作流 根据指定的...
LLM on DLC-Megatron on DLC最佳实践
附录：PTD-P并行技术原理介绍 大规模并行训练的一个关键因素是并行训练策略的选择。在 Efficient Large-Scale Language Model Training on GPU Clusters Using Megatron-LM 和 Reducing Activation Recomputation in Large Transformer ...
使用多机MPP对海量数据分析提速
本文介绍了多机并行执行能力的技术背景、技术原理、适用场景以及使用说明等内容。背景信息 列存索引（IMCI）是PolarDB的HTAP解决方案。随着用户查询数据量、查询复杂度以及对OSS等外部表的查询需求的增加，单个只读列存节点已无法满足海量...
常见问题
2）大规模并行计算，不受限本地计算资源规模，支持Scatter-Gather的模式，对生信流程进行并行计算优化。3）加速硬件和算法，提供Sentieon软件、FPGA、GPU等多种加速手段，针对长耗时的计算步骤进行优化，并可以和用户脚本自由组合。问：...
计算资源优化
GPU的功能特性如下：拥有大量擅长处理大规模并发计算的算术逻辑单元（Arithmetic and Logic Unit，即ALU）、能够支持多线程并行的高吞吐量运算、逻辑控制单元相对简单。适用于视频转码、图片渲染、AI训练、AI推理、云端图形工作站等场景。...
PAI灵骏智算服务概述
PAI灵骏 主要面向图形图像识别、自然语言处理、搜索广告推荐、通用大模型等大规模分布式的AI研发场景，适用于自动驾驶、金融风控、药物研发、科学智能、元宇宙、互联网和ISV等行业。您只需为AI训练所消耗的资源付费，无需建设、调优和运维...
弹性并行查询（Elastic Parallel Query）常见问题
并行加速效果不明显的原因有如下几种：通过 explain/*+FORCE_SLAVE()*/SELECT.查看执行计划，判断SQL是否完成了执行计划，查看是否使用了并行查询，在explain中如看到 Parallel scan 字段，则表明使用了并行查询。并行查询的基本原理是将...
设备和交换机之间的链路故障
本文介绍SAG-1000设备发生设备和交换机之间链路故障的原因和处理方法。问题现象 设备和交换机接口之间ping不通。设备的Web端口配置页，端口前的状态灯为红色。动态路由OSPF接入时，Web端口配置页，端口前的状态灯为红色。设备的Web状态查询...
灵骏常见问题
在并行度极高的大规模计算场景，比如自然语言处理、自动驾驶模型训练、推荐引擎等，相比普通GPU托管服务可以减少训练的时间和成本，建立更大、更复杂的模型。开通集群后，是否需要安装GPU驱动？灵骏计算节点的操作系统镜像中已包含GPU驱动...
可视化MapReduce模型
子任务failover策略 当执行节点宕机下线后，是否将子任务重新分发给其他机器执行。开启该配置后，发生failover时，子任务可能会重复执行，需自行做好幂等。说明 客户端版本为1.8.13及以上。主节点参与执行 主节点是否参与子任务执行。在线...
可视化MapReduce模型
子任务failover策略 当执行节点宕机下线后，是否将子任务重新分发给其他机器执行。开启该配置后，发生failover时，子任务可能会重复执行，需自行做好幂等。说明 客户端版本为1.8.13及以上。主节点参与执行 主节点是否参与子任务执行。在线...
PolarDB并行查询
串行优化流程中做针对并行执行的补强，例如修正table扫描方式等，这也是上面性能数据中Q6/Q12会有超线性加速比的原因。全算子统计信息推导+代价计算，补充了一系列的cost formula和cardinality estimation推导机制。自适应执行策略 在早期...
2021年
跨机并行查询 PX支持并行Delete 跨机并行查询支持并行delete，包括带子查询和不带子查询的并行delete。通过设置polar_px_enable_delete参数，开启或关闭该功能，默认值为false。设置为true时，表示开启并行delete功能。设置为false时，表示...
对分区表使用跨机并行查询
PolarDB PostgreSQL版（兼容Oracle）支持对分区表使用跨机并行查询的功能。通过对分区表使用跨机并行查询，提升数据库的性能。功能介绍 当前对分区表使用跨机并行查询支持的功能如下所示：支持range分区的并行查询。支持list分区的并行查询...
对分区表使用跨机并行查询
PolarDB PostgreSQL版（兼容Oracle）支持对分区表使用跨机并行查询的功能。通过对分区表使用跨机并行查询，提升数据库的性能。功能介绍 当前对分区表使用跨机并行查询支持的功能如下所示：支持range分区的并行查询。支持list分区的并行查询...
2021年
跨机并行查询 2021年12月 PX支持并行Delete 跨机并行查询支持并行delete，包括带子查询和不带子查询的并行delete。通过设置polar_px_enable_delete参数，开启或关闭该功能，默认值为false。设置为true时，表示开启并行delete功能。设置为...
并行查询性能
并行查询利用多核CPU的并行处理能力，以8核32 GB 独享规格 的集群为例，并行查询示意图如下所示。下文将介绍8.0.1和8.0.2版本并行查询参数取值分别设置为如下表所示时，PolarDB 集群负载 并行查询测试方法 与 执行结果。关于如何配置参数，...
PolarDB PostgreSQL版：ePQ架构详解
PolarDB PostgreSQL版 实现了弹性跨机并行查询（ePQ）特性，能够帮助您解决原先的 PolarDB PostgreSQL版 在处理复杂的AP查询时会遇到的问题。前提条件 支持的 PolarDB PostgreSQL版 的版本如下：PostgreSQL 11（内核小版本1.1.28及以上）...
PolarDB PostgreSQL版：ePQ架构详解
PolarDB PostgreSQL版（兼容Oracle）实现了弹性跨机并行查询（ePQ）特性，能够帮助您解决原先的 PolarDB PostgreSQL版（兼容Oracle）在处理复杂的AP查询时会遇到的问题。前提条件 支持的 PolarDB PostgreSQL版（兼容Oracle）的版本如下：...
PolarDB HTAP实时数据分析技术解密
并行查询的加入使得PolarDB突破了单核执行性能的限制，利用多核CPU的并行处理能力，PolarDB部分SQL查询耗时成指数级下降。Why We Need Column-Store 并行执行框架突破了CPU扩展能力的限制，带来了显著的性能提升。然而受限于行式存储及行式...
日志位点监控
根据以上命令，查询延迟较大的备节点，进而排查对应备节点延迟较大的原因。一致性位点延迟 如果 WP-CP 较大，说明一致性位点延迟较大，需要及时关注。一致性位点延迟会导致无法及时有效地执行checkpoint，进而导致数据库集群崩溃恢复的耗时...
- 产品推荐
- 这些文档可能帮助您