产品概述
什么是批量计算 批量计算（BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。BatchCompute 可支持海量作业并发规模，系统自动完成资源管理、作业调度和数据加载，并按实际使用量计费。通俗的讲，就是您可以提交一个任意的...
基本概念
VM Virtual Machine，虚拟机，指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。云边一体 云边一体，又叫云边协同，其中“云”指的是中心云计算，“边”指的是边缘云计算。云边一体主要是针对提供用户...
并行网关
在拓扑任务中，您可以添加并行网关实现多个节点并行处理效果，满足业务存在多个独立任务需要并行处理的需求，以此提高整体处理性能。本文将快速引导您如何在拓扑任务中使用并行网关。操作步骤 创建拓扑子任务。创建两个或两个以上的简单或...
什么是人工智能平台PAI
什么是机器学习 机器学习是一门多学科交叉专业，涵盖概率论知识、统计学知识、近似理论知识和复杂算法知识，它使用计算机作为工具并致力于真实、实时地模拟人类学习方式，并将现有内容进行知识结构划分来有效提高学习效率。机器学习对研究...
扩展性原理
针对这类在线数据库上复杂SQL的处理，PolarDB-X 1.0 额外扩展了单机并行处理器（Symmetric Multi-Processing，简称SMP）和多机并行处理器（DAG）。前者完全集成在 PolarDB-X 1.0 内核中；而对于后者，PolarDB-X 1.0 构建了一个计算集群，...
创建项目
该值为 10 表示同一时间可以并行处理 10 个任务（如文档格式转换、图片标签检测等），查询类 API（如 GetImage 获取图片信息）也会占用该额度。如果您有更高的并行处理要求，请使用钉钉搜索钉钉群号31690030817加入钉钉群进行反馈。授权...
如何高效扫描数据
并行的全表扫描：如果需要从所有库导出数据，可以通过SHOW指令查看表拓扑结构，针对分表并行处理。通过HINT进行表遍历 执行 SHOW TOPOLOGY FROM TABLE_NAME 指令获取表拓扑结构。mysql>SHOW TOPOLOGY FROM DRDS_USERS;ID|GROUP_NAME|TABLE_...
数据处理
不同处理方法可连接不同的上游节点，实现数据并行处理。参数 说明 处理方法 编写JavaScript函数体，返回结果可为任意类型。表格中仅提供 其他配置 中的参数说明，其他参数配置请参见 公共参数说明。输出结果：每个处理方法对相应上游节点的...
Kyuubi概述
Kyuubi可以在用户级别缓存后台引擎实例，以更好的实现计算资源共享和快速响应，并行处理大量数据的查询并快速返回结果。批数据处理：Kyuubi提供了SQL接口用于常见的批处理，通常是大型提取、转换、加载（ETL）过程。Kyuubi及其引擎都是存储...
产品概述
云原生数据仓库 AnalyticDB PostgreSQL 版 是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。云原生数据仓库 AnalyticDB PostgreSQL 版 基于开源项目Greenplum构建，由阿里云深度扩展，兼容ANSI SQL 2003，兼容...
影响查询性能的因素
但 AnalyticDB MySQL版 能否充分利用多节点来并行处理查询，还取决于数据在存储节点上的分布特征。如果数据能够均匀分布在存储节点上，那么 AnalyticDB MySQL版 中的多个子任务在处理数据时，就能几乎同时结束任务，实现理想的查询处理；...
基本介绍
通过并行循环（foreach）步骤来并行处理数组数据。流程包含以下属性：version（必需）：流程版本，仅支持 v1。type（必需）：flow表示是流程类型。steps（必需）：定义了流程的多个串行步骤。一个步骤执行完成后，如果成功，则会执行下一个...
验证分析型查询请求能力
OceanBase 数据库采用了分布式架构，将数据分片存储在不同的节点上，通过数据分片和任务分片实现了数据和计算的并行处理。在OceanBase 中，每个节点都可以独立地执行任务，并且可以通过高速的网络互相通信，实现数据的交互和同步。PARALLEL...
热点行优化
这样的流水线式的处理方式能够充分利用硬件资源，提升CPU的使用率，提高数据库系统的并行处理能力，从而最大限度地提升数据库系统的吞吐量。消除申请行锁时的等待 为了保证数据的逻辑一致性，对一个数据行进行更新时，首先会对该数据行加锁...
MaxFrame概述
MaxFrame可直接使用MaxCompute海量弹性计算资源，并支持自动分布式、并行处理，大幅缩短数据处理的时间。更便捷的开发体验 MaxFrame已与MaxCompute Notebook、DataWorks集成，无需配置环境即可直接使用；同时MaxFrame也支持在用户本地环境...
离线异步任务场景
本文介绍什么是GPU离线异步任务场景和如何使用函数计算GPU异步调用、异步有状态调用服务离线AI推理、离线AI训练、离线GPU加速场景，以及如何基于非Web Server模式的Custom Container满足离线GPU应用场景。场景介绍 在离线异步应用场景中，...
Semi-Join的并行加速
下文展示了在标准TPC-H中，SCALE为100 GB的数据量热数据场景下，开启并行后多阶段的并行处理能力。说明 本文的TPC-H的实现基于TPC-H的基准测试，并不能与已发布的TPC-H基准测试结果相比较，本文中的测试并不符合TPC-H基准测试的所有要求。...
CreateFileSystem-创建文件系统
例如：快照的源文件系统版本是 1，需要创建版本 2 的文件系统，可以先通过快照创建一个文件系统 A，然后再创建一个满足版本 2 配置的文件系统 B，把文件系统 A 中的数据拷贝至文件系统 B，拷贝完成后把业务迁移到文件系统 B 即可。...
CreateFileSystem-创建文件系统
例如：快照的源文件系统版本是 1，需要创建版本 2 的文件系统，可以先通过快照创建一个文件系统 A，然后再创建一个满足版本 2 配置的文件系统 B，把文件系统 A 中的数据拷贝至文件系统 B，拷贝完成后把业务迁移到文件系统 B 即可。...
配置数据库代理
开启弹性并行查询（ePQ）能够有效利用多核CPU（集群内空闲计算资源）的并行处理能力，对复杂查询进行加速，详情请参见 弹性并行查询。说明 自2023年4月1日起，集群满足以下条件时会默认开启弹性并行查询，且默认的并行度为2：新创建的集群...
流程定义介绍
循环（Map）：通过循环（Map）状态并行处理数组数据。成功（Succeed）：通过成功（Succeed）状态提前终止流程。失败（Fail）：通过失败（Fail）状态提前终止流程。流程属性 流程包含以下属性。字段 类型 是否必选 描述 示例值 Type String ...
什么是实时数仓Hologres
本文为您介绍什么是实时数仓Hologres以及Hologres的功能。Hologres是阿里巴巴自主研发的一站式实时数仓引擎（Real-Time Data Warehouse），支持海量数据实时写入、实时更新、实时加工、实时分析，支持标准SQL（兼容PostgreSQL协议和语法，...
概述
弹性并行查询（Elastic Parallel Query）针对云上用户实例CPU资源利用率较低、使用不均衡的特征，充分挖掘集群中多核CPU的并行处理能力，以8核32 GB（独享规格）的 PolarDB MySQL版 集群版为例，示意图如下所示：前提条件 PolarDB 集群版本...
应用场景
ACSpeed进行AI训练的典型业务场景如下所示：场景 适用模型 常用存储 图像分类、图像识别 Resnet、VGG16模型等，以及Stable Diffusion等AIGC模型 并行文件存储系统CPFS CTR预估 Wide&Deep模型 文件系统HDFS NLP自然语言处理 Transformer、...
集群消费和广播消费
分布式数据处理：在大规模数据处理的场景中，使用集群消费模式可以将数据分发给多个处理节点进行并行处理。每个节点只处理其中一部分数据，从而加速数据处理的速度。注意事项 集群模式下，不保证每一次失败重投的消息投递到同一台机器上。...
可视化MapReduce模型
可视化MapReduce模型在MapReduce模型的基础上，新增了可视化可运维的能力。您无需修改后端代码，只需在SchedulerX控制台将分布式模型改为可视化MapReduce，即可新增一个子任务列表页面，并且可以查看每个子任务的详情、结果和日志，同时...
可视化MapReduce模型
可视化MapReduce模型在MapReduce模型的基础上，新增了可视化可运维的能力。您无需修改后端代码，只需在SchedulerX控制台将分布式模型改为可视化MapReduce，即可新增一个子任务列表页面，并且可以查看每个子任务的详情、结果和日志，同时...
构建基于Serverless架构的弹性高可用音视频处理系统
在音视频系统中，音视频转码是比较消耗计算力的一个子系统，您可以通过 函数计算 和 Serverless 工作流 构建弹性高可用的Serverless音视频处理系统。本文会从工程效率、运维、性能和成本方面介绍Serverless音视频处理系统和传统方案的差异...
电子邮件安全指南
电子邮件安全是指电子邮件遭到攻击者获取或篡改邮件、病毒邮件...4）打开实时监控防火墙：实时监控技术为电子邮件和系统安全构筑起一道动态、实时的反病毒防线，它通过修改操作系统，使操作系统本身具备反病毒功能，拒病毒于计算机系统之门外
添加访问地址
将只需要获取数据副本的读操作分散到多个从节点上，可实现并行处理和负载均衡，减少数据库的负载和响应时间，提高用户的体验和满意度。更多信息，请参见 数据库代理。概念介绍 主地址：其读写模式为可读可写，默认读主，提供强一致读写。...
什么是数据管理DMS
AnalyticDB PostgreSQL版：云原生数据仓库AnalyticDB PostgreSQL版是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。OSS：对象存储服务OSS（Object Storage Service）是阿里云提供的海量、安全、低成本、高可靠的云...
安装树莓派系统
初始化系统 下载树莓派计算机系统的镜像文件：Raspbian Buster with desktop。使用 Win32DiskImager 工具，将IMG磁盘镜像文件烧写到TF卡。将TF卡插入读卡器连接到PC端。打开Win32磁盘映像工具。导入镜像文件，单击 写入。说明 如果TF卡中已...
任务管理
（6）运行状态是获取处理器执行权的就绪任务所处的状态，单处理器系统，任意时刻只有一个任务可以运行。AliOS Things允许任务处于组合状态，如阻塞挂起状态：任务在阻塞状态下，被其他任务挂起，则进入阻塞挂起状态。该状态下，若任务被...
通过ARMS告警大盘提高告警处理效率
本文介绍了如何通过告警的历史告警总览大盘和告警处理效率总览大盘提高告警处理效率。背景信息 企业在处理系统告警时，经常会遇到以下痛点：如何查看过去一段时间系统发生了哪些告警，哪类告警占比较高。告警配置没有收敛，多人在多个系统...
减灾与应急时空解决方案与案例
可在表级和操作级充分利用时空并行处理能力加快大数据计算效率。系统原生部署在云端，支持直接使用SQL实现传统GIS服务软件提供的大部分功能，还支持性能及存储空间同时线性扩展。项目价值 领域专业数据一体化融合管理和处理能力，提供存储...
应用场景
背景信息 设备将原始数据通过 MQTT 协议发送到物联网平台，经由物联网平台将数据转发到消息服务系统，继而通过流计算系统对这些数据进行实时计算处理后写入到 TSDB 中存储，或者经由物联网平台直接将原始数据写入 TSDB 中存储。前端的监控...
性能监控概念
性能监控对象 性能监控的对象包括计算机系统、网络、应用程序等，主要分为以下几类：服务器：包括物理服务器和虚拟服务器，监控服务器的CPU、内存、磁盘、网络等资源使用情况。操作系统：监控操作系统的运行状态、进程、服务、文件系统等。...
弹性并行查询（Elastic Parallel Query）常见问题
本文档介绍了弹性并行查询（Elastic Parallel Query）的常见问题。PolarDB读写集群地址是否可以通过hint开启并行查询？优先推荐您在 PolarDB 控制台的 集群地址配置 页面开启并行查询。如果您希望在SQL语句级别生效，可以通过/*+PARALLEL(n...
产品优势
广电级媒体处理 4K级高速并行转码系统，转码任务规模无缝扩展，提供视频截图、视频标签、视频水印等多种功能，满足广电、视频网站、短视频等场景需求。全方位加密保障 访问限制、播放鉴权、视频加密（阿里云加密、HLS加密、DRM加密）、安全...
概述
文件存储CPFS 文件存储CPFS（Cloud Paralleled File System）是一款并行文件系统，其数据存储在集群中的多个数据节点，多个客户端可以同时访问，满足大型高性能计算机集群的高IOPS、高吞吐、低时延的数据存储需求。文件存储HDFS版 文件存储...
- 产品推荐
- 这些文档可能帮助您