概述
针对金融级场景下大规模分布式系统的特点，提供了丰富的发布策略以满足不同的场景，如：分组发布、Beta 发布、灰度发布等，帮助传统架构平滑过渡，适应金融技术风险保障需求，实现大规模金融级运维场景下的容器服务落地。容器应用服务致力...
源为PolarDB-X的任务配置方案
方案对比 对比项 方案一 方案二 性能 拆分成多个DTS任务，性能成倍增长，可承载大规模的 PolarDB分布式版 数据写入，仅配置一个以 PolarDB分布式版 为源的DTS任务，当业务系统写入源实例数据量较大时，会存在性能瓶颈。稳定性 稳定性较强。...
源为PolarDB-X的任务配置方案
方案对比 对比项 方案一 方案二 性能 拆分成多个DTS任务，性能成倍增长，可承载大规模的 PolarDB分布式版 数据写入，仅配置一个以 PolarDB分布式版 为源的DTS任务，当业务系统写入源实例数据量较大时，会存在性能瓶颈。稳定性 稳定性较强。...
基本概念
您可以在创建集群时购买EIU，也可以在高吞吐写入或大数据量扫描时购买或扩容EIU。EIU的性能指标，请参见 弹性IO资源（EIU）扩容。ACU ACU，全称为AnalyticDB Compute Unit，是 AnalyticDB for MySQL 湖仓版（3.0）计算资源和存储资源的最小...
产品优势
微服务产品在蚂蚁集团内部已支撑数万个节点规模的分布式应用架构，具有高可用性、高可扩展性、高性能、高时效性、稳定可靠等核心优势，并提供丰富的功能来帮助用户简化分布式系统的管理，让业务开发人员可以专注于业务逻辑实现，提升研发...
表结构设计
尽量不要选择日期、时间和时间戳类型的字段作为分布键，写入时容易发生倾斜影响写入性能，且多数查询通常是限定了日期或者时间段，如：查询最近一天或者一个月的数据，可能会导致要查询的数据只存在于一个节点上，无法充分利用分布式数据库...
多语言版本分片模型
动态分片：主要场景是分布式处理未知数据量的数据，例如一张大表在不停变更，需要分布式跑批。主流的框架为SchedulerX提供的MapReduce模型，目前还没有对外开源。功能特性 多语言版本分片模型还具有以下特性。兼容elastic-job的静态分片...
多语言版本分片模型
动态分片：主要场景是分布式处理未知数据量的数据，例如一张大表在不停变更，需要分布式跑批。主流的框架为SchedulerX提供的MapReduce模型，暂时还没有对外开源。功能特性 多语言版本分片模型还具有以下特性。兼容elastic-job的静态分片...
产品优势
高性能 支持秒级别调度，轻量级分布式计算可以帮助您完成准实时的大数据跑批。节约成本和提升效率 无机器和人工运维成本，接入简单，提供报警监控。安全防护 多层次安全防护，包括：支持HTTPS，VPC访问。支持用户隔离、命名空间隔离和应用...
四川农信
分布式应用系统运维，为了实现分布式数据库大规模集群环境的运维管理，必须具备一套运维工具，实现自动化部署、统一指标和日志监控、运维管理工作台、数据库版本滚动升级、灰度发布等管理和维护功能，使运维自动化、工具化，降低运维难度，...
查看同步链路状态和性能
相关参数解释如下：BPS：链路中模块间每秒传输的数据量，单位为MB/s。RPS：链路中模块间每秒传输的行数。网络延迟：链路中模块间的网络延迟。一键诊断 通过检查源库、目标库、网络和DTS在增量同步时的性能，提供诊断结果和建议。具体操作...
监控任务性能
相关参数解释如下：BPS：链路中模块间每秒传输的数据量，单位为MB/s。RPS：链路中模块间每秒传输的行数。网络延迟：链路中模块间的网络延迟。增量同步性能 可查看增量数据采集性能、日志缓存模块性能、增量同步性能。例如增量同步的同步...
概述
Apache Flume是一个分布式、可靠和高可用的系统，可以从大量不同的数据源有效地收集、聚合和移动日志数据，从而集中式的存储数据。使用场景 Flume使用最多的场景是日志收集，也可以通过定制Source来传输其他不同类型的数据。Flume最终会将...
查看增量迁移链路状态和性能
相关参数解释如下：BPS：链路中模块间每秒传输的数据量，单位为MB/s。RPS：链路中模块间每秒传输的行数。网络延迟：链路中模块间的网络延迟。一键诊断 通过检查源库、目标库、网络和DTS在增量迁移时的性能，提供诊断结果和建议。具体操作...
技术面临的挑战与革新
在Proxy的协同下，甚至可以做到节点切换对应用无感知 传统分布式架构与存储计算分离架构对比 分布式数据库其实已经有了不短的历史，早期的分布式数据库，在整体架构上可以分为share nothing和share disk两大类。share disk通过扩展底层的...
暂停DTS实例
若您的实例为没有增量任务的迁移实例，且传输的数据量较小，则可能会出现暂停失效的情况。数据订阅实例不支持暂停，您可以根据实际情况选择释放实例。更多信息，请参见 释放DTS实例。操作步骤 说明 本操作以同步实例为例，为您介绍结束实例...
资源观测
访问来源IP（B/S）选择 使用方式（例如：Tunnel Batch上传）及 表名称（例如：testtable），则表示当前资源组里使用Tunnel Batch方式上传的testtable表的各访问来源IP每秒传输的数据量曲线图。错误个数 当前资源组发生 500 和 429 错误的...
产品优势
数据访问代理 提供水平拆分、平滑扩缩容、读写分离的在线分布式数据库服务，为海量数据访问提供低消耗、高性能、高可用的轻量级解决方案，确保在高并发、数据库异常的情况下依然非常稳定与可靠。数据同步服务 具备多种数据库的日志解析能力...
DataCheckConfigure参数说明
fullCheckMaxReadBps Integer 每秒读取的最大数据量（Byte），取值为0~9007199254740991的整数。说明 取值为0时表示不做限制。dataCheckNoticePhone String 全量或增量数据校验任务告警联系人的手机号。当校验任务触发告警时，将以短信的...
数据库采集器问题
采集主要收集数据库本身记录的一些统计信息，主要的数据量来自数据库对象的DDL和记录的历史SQL文本信息，所有大小取决于客户的对象数量、大小和SQL文本大小，一般都不会超过1G。终端提示“connection to database fail,please check ...
行业趋势与背景
分布式数据库是发展方向 近年来，随着互联网、大数据的飞速发展，特别是“双十一”指数型的成交总额发展曲线，让世界看到了中国电子商务业务的火箭式发展势头。而同时，对于背后的业务支撑系统来说，同样经历了火箭式的系统压力增长。以...
产品概述
另外在业界主流的分布式数据库里，分布式下的Redolog/Binlog等数据库变更日志其实一直被厂商所忽视，从关系数据库的发展历史来看，生态和标准对于市场规模化非常重要，PolarDB分布式版 支持Binlog日志服务，兼容和拥抱MySQL数据库生态，...
如何解决全量迁移慢或迁移卡住
可能原因 源库待同步或迁移的数据量大或无主键。源库创建了多个DTS任务。源或目标库连接异常。例如，数据库设置了白名单、账号权限不足、账号密码错误等。源或目标库的性能、网络延时、网络带宽等原因。目标库不支持写入数据。例如，目标库...
技术架构
PolarDB-X 的架构继承了DRDS和X-DB技术的稳定性，结合了PolarDB的云原生技术，融入了NewSQL对于分布式数据一致性的能力，为用户提供新的 云原生+分布式 的产品体验。整体架构 PolarDB-X 的整体架构如下：核心组件 元数据服务（Global Meta ...
迁移 PolarDB-X 2.0 数据库的数据至 OceanBase 数据库...
背景信息 云原生数据库 PolarDB 分布式版（简称 PolarDB-X）是由阿里巴巴自主研发的高性能云原生分布式数据库，为您提供高吞吐、大存储、低延时、易扩展和超高可用的云时代数据库服务。详情请参见 什么是云原生数据库 PolarDB 分布式版。...
产品架构
业务背景 伴随着信息技术的飞速发展，各行各业在业务生产中产生的数据种类越来越多，有结构化的业务元数据、业务运行数据、设备或者系统的量测数据，也有半结构化的业务运行数据、日志、图片或者文件等。按照传统方案，为了满足多种类型...
基本概念
适用于数据量很大的业务场景。调度过程分为拆分阶段和执行阶段。节点 节点（Node）表示一台装了 Docker 和 Kubelet，用以运行应用负载的物理机或者虚拟机。监控产品 监控产品（Monitoring Products），指为实现自定义监控而提供的一些工具...
整体架构
BSP模式，通过DAG进行任务切分，分批调度，满足有限资源下大数据量计算，支持计算数据落盘。羲和计算引擎提供自动切换能力，即当查询使用MPP模式无法在一定耗时内完成时，系统会自动切换为BSP模式进行执行。湖仓版新增的开源Spark计算引擎...
附录：SOFAStack 产品目录
数据访问代理 数据访问代理（Open Database Proxy，简称 ODP）能够解决海量请求下的数据访问瓶颈和数据库的容灾问题，提供水平拆分、平滑扩缩容、读写分离的在线分布式数据库服务，为海量数据访问提供低消耗、高性能、高可用的轻量级解决...
公交出行：启迪公交
通过承接公交信息化和智慧化项目建设，应用先进的互联网商业模式，将”人、车、线、站“的大数据资源及相关配套资源进行商业化转换，引领行业提升公交系统的创新能力和服务水平，助力“互联网+城市公交”的提升发展。业务挑战 中国规模最大...
HDFS概述
HDFS（Hadoop Distributed File System）是一种Hadoop分布式文件系统，具备高度容错特性，支持高吞吐量数据访问，可以在处理海量数据（TB或PB级别以上）的同时最大可能的降低成本。HDFS适用于大规模数据的分布式读写，特别是读多写少的场景...
迁移 PolarDB-X 1.0 数据库的数据至 OceanBase 数据库...
背景信息 PolarDB-X 1.0 是由阿里巴巴自主研发的云原生分布式数据库，融合分布式 SQL 引擎和分布式自研存储 X-DB，基于云原生一体化架构设计。PolarDB-X 1.0 可以支撑千万级并发规模，以及百 PB 级海量存储。详情请参见 产品概述。PolarDB-...
调整迁移速率
数据传输服务DTS（Data Transmission Service）的同步和迁移实例在进行数据传输的过程中，您可以根据源和目标库的...可能是源库有其他业务，或者待同步、迁移的数据量较大。如何关闭限速？参考 操作步骤，将 是否限制全量迁移速率 选择为 否。
离线同步并发和限流之间的关系
限制和最佳实践：分布式执行模式下，配置较大任务并发度可能会对您的数据存储产生较大的访问压力，请评估数据存储的访问负载。如果您的独享资源组机器台数为1，不建议使用分布式执行模式，因为执行进程仍然分布在一台Worker节点上，无法...
什么是PolarDB MySQL企业版
无锁备份 利用底层分布式存储的快照技术，只需分钟级别即可完成对上TB数据量大小的数据库的备份，且整个备份过程不需要加锁，效率更高，影响更小。PolarDB MySQL版 目前支持 集群版 和 多主集群（库表）2种不同的产品系列。具体请参见 企业...
网商银行
客户简介 浙江网商银行股份有限公司是中国首批试点...在大数据风控上，做到每日离线计算超过 200T 数据量。在线计算能够做到毫秒级延迟的实时风控能力。实现全业务三地五中心多活、数据单元化能力，目前正在向数据弹性、混部的方向探索实践。
功能特性
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
高压缩引擎（X-Engine）介绍
数据量太大导致数据备份时间过长甚至备份失败；同时如何存放备份数据也是一个问题。针对如上问题，一种做法是对历史数据做归档，将长期不使用的数据迁移至以文件形式存储的廉价存储设备上，如阿里云OSS或者阿里云数据库DBS服务。然而，在...
同步 OceanBase 数据库的数据至 RocketMQ
背景信息 消息队列 RocketMQ 是阿里云基于 Apache RocketMQ 构建的低延迟、高并发、高可靠的分布式消息中间件。数据传输的数据同步功能可以帮助您实现 OceanBase 数据库的物理表和 RocketMQ 数据源之间的数据实时同步，扩展消息处理能力。...
产品整体介绍
在第三方认证层面，AnalyticDB PostgreSQL版 通过了“国际数据库TPC官方TPC-H 30TB认证”（性价比综合排名第一），信通院“分布式事务型数据库基础能力评测”（TPC-C）和“分布式分析型数据库大规模性能认证”（640节点 TPC-DS 100TB）。...
- 产品推荐
- 这些文档可能帮助您