未来规划
云计算架构的核心逻辑就是通过虚拟化技术带来池化资源，云原生数据库采用分布式数据库架构，实现大规模扩展，每套数据库系统横跨多台服务器和虚拟机，带来了全新的系统管理挑战。其中最核心的挑战就是如何实现弹性以及高可用，实现按需按量...
什么是自动驾驶开发平台
能够解决的问题如下 海量非结构化数据快速预处理 利用数据管理并行计算框架，在阿里云上以云原生的方式分布式处理海量非结构化数据，采集到的感知数据处理效率提高10倍。感知数据多模态检索 无论是经过标注还是未经标注的传感器输出数据，...
数据科学计算概述
MaxFrame是由阿里云自研的分布式科学计算框架，是对历史相关产品功能（PyODPS、Mars）的重大升级，在MaxCompute之上提供一套完全兼容Pandas接口的API，让用户用更为熟悉、更符合Python社群习惯的方式使用MaxCompute。本文为您介绍...
Map模型
10 子任务全局并发数（仅适用于拉模型）并行计算 内存网格 网格计算 分布式拉模型支持全局子任务并发数，可以进行限流。1,000 发送50条消息的Demo示例（适用于Map模型）@Component public class TestMapJobProcessor extends ...
技术面临的挑战与革新
云计算下如何平衡扩展性和稳定性SLA 云计算环境下，企业和个人通过开启云服务，即可以得到所需的软件功能、计算资源、存储空间，并按实际使用量付费。在业务量逐步上涨的过程中，用户需要不断提升计算和存储资源来满足业务需要。因此，扩展...
PolarDB-X适用场景
基于并行计算的DML以及大事务的支持能力，可以有效满足跑批处理和执行效率。高性能全局二级索引（GSI）让用户不局限于拆分规则，可根据任意维度对 PolarDB-X 进行查询。Binlog日志服务是保证事务有序性的分布式数据库统一变更日志服务，且...
概述
文件存储HDFS版 文件存储HDFS版（Apsara File Storage for HDFS）是一款面向阿里云ECS实例及容器服务等计算资源的文件存储服务，满足以Hadoop为代表的分布式计算业务类型对分布式存储性能、容量和可靠性的多方面要求。表格存储 表格存储...
任务管理
10 子任务全局并发数（仅适用于拉模型）并行计算 内存网格 网格计算 分布式拉模型支持全局子任务并发数，可以进行限流。1,000 在 定时配置 配置向导页，设置定时参数和高级配置参数，然后单击 下一步。定时参数说明如下：配置项 说明 时间...
任务管理
10 子任务全局并发数（仅适用于拉模型）并行计算 内存网格 网格计算 分布式拉模型支持全局子任务并发数，可以进行限流。1,000 在 定时配置 配置向导页，设置定时参数和高级配置参数，然后单击 下一步。定时参数说明如下：配置项 说明 时间...
MapReduce模型
10 子任务全局并发数（仅适用于拉模型）并行计算 内存网格 网格计算 分布式拉模型支持全局子任务并发数，可以进行限流。1,000 发送500条消息的Demo示例（适用于MapReduce模型）@Component public class TestMapReduceJobProcessor extends ...
全场景解决方案
金融级高可靠性 深度集成 OceanBase 分布式数据库以及 SOFA 金融级云原生分布式框架，保证应用和数据弹性扩展，同时具备高可用（RTO=0，RPO）和一致性，通过蚂蚁集团自身业务沉淀的“资金核对体系”、“全链路压测”等技术风险防控组件，...
整体架构
AnalyticDB MySQL版 融合了分布式、弹性计算与云计算的优势，对规模性、易用性、可靠性和安全性等方面进行了大规模的改进，充分满足不同场景实时数据仓库的需求。支持更大规模的并发访问、更快读写能力以及更智能的混合查询负载管理等，...
概述
为应对数据爆炸式增长的挑战，PolarDB分布式版本基于对象存储设计了一套列存索引（Clustered Columnar Index，CCI）功能，支持将行存数据实时同步到列存存储上，并支持以下功能：在线事务处理和实时数据分析的一体化能力，满足OLTP和OLAP...
MaxFrame概述
MaxFrame是由阿里云自研的分布式计算框架，支持Python编程接口、兼容Pandas接口且自动进行分布式计算，同时可直接使用MaxCompute计算资源及数据接口，与MaxCompute Notebook、镜像管理等功能共同构成了MaxCompute完整的Python开发生态。...
计算设置概述
Apache Flink Apache Flink是一个分布式处理引擎，用于对无界和有界数据流进行有状态计算。Fusioninsight Flink Fusioninsight Flink 是一种基于Apache Flink的流式处理引擎，可以实现高速数据流的实时计算和分析。Blink独享版 Blink是阿里...
技术架构
PolarDB PostgreSQL版（兼容Oracle）采用Shared Everything架构，利用分布式共享存储实现存储和计算的分离。计算节点与存储节点分离的架构设计给 PolarDB PostgreSQL版（兼容Oracle）带来了实时的水平扩展能力。由于单个数据库实例的计算...
PolarDB PostgreSQL版架构介绍
PolarDB PostgreSQL版 在原来单机执行引擎上支持了MPP分布式并行执行，同时对Shared-Storage进行了优化。基于Shared-Storage的MPP是业界首创。原理如下：Shuffle算子屏蔽数据分布。ParallelScan算子屏蔽共享存储。如图所示：表A和表B做join...
产品概述
云原生数据仓库 AnalyticDB PostgreSQL 版 是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。云原生数据仓库 AnalyticDB PostgreSQL 版 基于开源项目Greenplum构建，由阿里云深度扩展，兼容ANSI SQL 2003，兼容...
PolarDB PostgreSQL版架构介绍
加速比 TPC-H性能：和传统MPP数仓对比 分布式执行加速索引创建 分布式并行执行加速多模：时空数据库 传统数据库的问题 随着用户业务数据量越来越大，业务越来越复杂，传统数据库系统面临巨大挑战，例如：存储空间无法超过单机上限。...
ACK One概述
分布式云容器平台 ACK One（Distributed Cloud Container Platform for Kubernetes）是阿里云面向混合云、多集群、分布式计算、容灾等场景推出的企业级云原生平台。ACK One 可以连接并管理您任何地域、任何基础设施上的Kubernetes集群，并...
SOFAStack 总体经济影响报告
从技术发展的视角来看，近年来以基于容器、面向微服务、动态编排为主要特性的云原生技术在Kubernetes的平台化势能下加速发展并趋向成熟，不仅重塑了云计算厂商的产品架构设计与市场格局，而且在应用基础设施、应用软件架构、开发模式与部署...
PolarDB PostgreSQL版：ePQ架构详解
PxScan算子将shared-storage的数据映射为shared-nothing的数据，通过Worker之间的协调，将目标表划分为多个虚拟分区数据块，每个Worker扫描各自的虚拟分区数据块，从而实现了跨机分布式并行扫描。PxScan算子扫描出来的数据会通过Shuffle算...
序言
趋势二：随着容器和编排技术的成熟和统一，PaaS 层的技术方向也趋于稳定 企业应用迁移上云的历程，亦代表着业界对云计算的认知和云计算技术本身成熟度的升级过程。业务应用逐渐从对 IaaS 层的依赖，发展向对 PaaS 层的依赖。这些 PaaS 领域...
PolarDB PostgreSQL版：ePQ架构详解
PxScan算子将shared-storage的数据映射为shared-nothing的数据，通过Worker之间的协调，将目标表划分为多个虚拟分区数据块，每个Worker扫描各自的虚拟分区数据块，从而实现了跨机分布式并行扫描。PxScan算子扫描出来的数据会通过Shuffle算...
产品功能
SchedulerX主要提供调度...子任务失败自动重试：如果是分布式任务（并行计算/内网网格/网格计算），子任务也支持失败自动重试和重试间隔，同样可以通过任务管理的高级配置进行配置。报警监控 失败报警 超时报警 无可用机器报警 报警方式：短信
技术原理
扩展性原理 扩展性本质在于分而治之，PolarDB-X 1.0 计算资源通过水平拆分（分库分表）和垂直拆分，将数据分散到多个存储资源MySQL以实现获取数据读写并发和存储容量分散的效果。水平拆分（分库分表）PolarDB-X 1.0 具备数据水平拆分的能力...
迁移Batch批量计算到分布式工作流Argo集群
通过Loops工作流可以实现数据分片和并行处理，加快海量数据的处理速度。更多Loops示例，请参见 工作流（Workflows）Loops。apiVersion:argoproj.io/v1alpha1 kind:Workflow metadata:generateName:loops-spec:entrypoint:loop-example ...
引擎简介
Lindorm 核心能力实现的数据库内 高性能、低成本、稳定可靠 的分布式计算服务，满足用户在 云原生多模数据库 Lindorm 支撑场景下的数据生产、交互式分析、机器学习和图计算等场景中的计算需求，支持对海量数据的高并发处理。Lindorm计算...
概述
PolarDB MySQL版 8.0.2版本除了支持原有的单机并行查询，又将线性加速能力提升了一个等级，引入了多节点分布式并行计算能力，即多机并行查询。基于代价将执行计划优化为更灵活的并行执行计划，改进了单机并行查询可能存在的Leader单点瓶颈...
产品概述
什么是批量计算 批量计算（BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。BatchCompute 可支持海量作业并发规模，系统自动完成资源管理、作业调度和数据加载，并按实际使用量计费。通俗的讲，就是您可以提交一个任意的...
功能特性
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
PolarDB并行查询
PQ1.0 最早发布的并行查询能力，其基本的思路是计算的下推，将尽可能多的计算分发到多个worker上并行完成，这样像IO这样的重操作就可以同时进行，但和一般的share-nothing分布式数据库不同，由于底层共享存储，PolarDB 并行中对于数据的分...
常见问题
您可以用顺序、选择、并行等方式来编排分布式任务，云工作流 会按照设定好的步骤可靠地协调任务执行，跟踪每个步骤的状态转换，并在必要时执行用户定义的重试逻辑，以确保工作流顺利完成。云工作流 通过提供日志记录和审计来监视工作流的...
计算资源
另外分布式系统中不同节点之间可能会竞争有限的计算资源，例如某个节点过度占用了计算资源，导致其他节点无法获得足够的资源，这会导致性能下降和任务延迟。计算资源分配不均可能会导致系统性能下降、任务延迟增加、资源浪费等。常见的容错...
基本概念
发起方 Initiator，分布式事务的发起方负责启动分布式事务，通过调用参与者的服务，将参与者纳入到分布式事务当中，并决定整个分布式事务是提交还是回滚。一个分布式事务有且只能有一个发起方。分组标识 用于在网关上做全局的唯一标识，...
使用Stage和Task详情分析查询
AnalyticDB for MySQL 在前端接入节点接收到查询请求后，会将查询切分成多个Stage，在存储节点（Worker节点）和子任务执行节点（Executor节点）分布式进行数据的读取和计算。部分Stage可以并行执行，但部分Stage之间存在依赖关系，只能串行...
函数存储选型
为了满足业务存储和访问文件的诉求，函数计算 提供丰富的存储类型，包括文件存储NAS、对象存储OSS、临时硬盘和层。本文介绍 函数计算 支持的存储类型的适用场景及差异，供您进行技术选型。选型分析 对比项 文件存储NAS 对象存储OSS 临时...
函数存储选型
为了满足业务存储和访问文件的诉求，函数计算 提供丰富的存储类型，包括文件存储NAS、对象存储OSS、临时硬盘和层。本文介绍 函数计算 支持的存储类型的适用场景及差异，供您进行技术选型。选型分析 对比项 文件存储NAS 对象存储OSS 临时...
可观测概述
分布式追踪 分布式追踪是Service Mesh中实现可观测性的重要组成部分之一，是一种用于对应用程序进行概要分析和监视的方法，尤其是针对使用微服务架构构建的应用程序。在微服务架构中，服务之间的通信通过网络进行，因此需要采用分布式追踪...
应用场景
基因数据处理 云工作流 可以将多个批量计算分布式作业串联或并行编排，可靠地支持执行时间长、并发量大的大规模计算。如基因数据分析中将基因序列对齐，将所有染色体并行做变异分析，最终将各染色体数据聚合产出结果。云工作流 根据指定的...
- 产品推荐
- 这些文档可能帮助您