PolarDB-X历史
DRDS的商业化成功，标志着阿里巴巴分布式数据库技术完成了从内部孵化到市场化运营的阶段性转变，以及从分布式数据库中间件到分布式数据库系统实质性跨越。PolarDB-X 1.0阶段 关键字：架构与品牌升级；国计民生项目 2018~2019年，DRDS凭借...
概述
数据访问代理 SOFAStack 数据访问代理是金融级分布式数据库中间件，用于解决海量请求下数据访问的瓶颈及数据库的容灾问题，提供水平拆分、平滑扩缩容、读写分离的在线分布式数据库服务。数据访问代理兼容 MySQL 协议和语法，支持分库分表、...
未来规划
云计算架构的核心逻辑就是通过虚拟化技术带来池化资源，云原生数据库采用分布式数据库架构，实现大规模扩展，每套数据库系统横跨多台服务器和虚拟机，带来了全新的系统管理挑战。其中最核心的挑战就是如何实现弹性以及高可用，实现按需按量...
源为PolarDB-X的任务配置方案
方案对比 对比项 方案一 方案二 性能 拆分成多个DTS任务，性能成倍增长，可承载大规模的 PolarDB分布式版 数据写入，仅配置一个以 PolarDB分布式版 为源的DTS任务，当业务系统写入源实例数据量较大时，会存在性能瓶颈。稳定性 稳定性较强。...
源为PolarDB-X的任务配置方案
方案对比 对比项 方案一 方案二 性能 拆分成多个DTS任务，性能成倍增长，可承载大规模的 PolarDB分布式版 数据写入，仅配置一个以 PolarDB分布式版 为源的DTS任务，当业务系统写入源实例数据量较大时，会存在性能瓶颈。稳定性 稳定性较强。...
外部表概述
背景信息 MaxCompute SQL作为分布式数据处理的主要入口，可实现EB级别离线数据的快速处理和存储。随着大数据业务的不断扩展，新的数据使用场景在不断产生，MaxCompute计算框架也在不断演化。MaxCompute原来主要面对内部特殊格式数据的强大...
2023年
授权实践 2023-09-14 新增（邀测）MaxCompute Notebook使用说明 新说明 MaxCompute Notebook是由MaxCompute提供的全托管、交互式数据分析挖掘模块，为数据工程师、数据分析师及数据科学家等人员提供Web交互式开发环境。支持用户通过SQL、...
全场景解决方案
深度集成 OceanBase 分布式数据库以及 SOFA 金融级云原生分布式框架，保证应用和数据弹性扩展，同时具备高可用（RTO=0，RPO）和一致性，通过蚂蚁集团自身业务沉淀的“资金核对体系”、“全链路压测”等技术风险防控组件，可以保障分布式...
应用场景
本节主要介绍 OceanBase 数据库的主要应用场景。交易支付透明拆分 交易支付是蚂蚁集团最核心的一个业务，最初...由于 OceanBase 数据库的原生分布式数据库特点，可以完美地解决传统数据库的单点性能瓶颈问题，而且还可以节省扩容带来的成本。
网商银行
DAAS（Data as a Service）层围绕大数据处理和计算，面向业务提供风控和数据分析能力。SAAS（Software as a Service）层提供面向用户端的金融服务和产品，提供最为直接的服务和体验。网商银行之所以能够顺利完成分布式的云计算架构建设，...
技术架构
PolarDB-X 1.0 的架构继承了DRDS和X-DB技术的稳定性，结合了PolarDB的云原生技术，融入了NewSQL对于分布式数据一致性的能力，为用户提供新的“云原生+分布式”的产品体验。整体架构 PolarDB-X 1.0 由计算层实例与存储层私有定制RDS实例组成...
Second delay
通过内存网格和秒级别调度，可以不停地处理海量的数据。统计信息：SchedulerX还提供了秒级别任务的统计信息，例如当天执行了多少次，成功的次数和失败的次数，最近10次运行结果等。Second delay定时配置示例 在创建调度任务时可以使用...
Second delay
不但简单Java任务支持秒级别调度，分布式Java任务以及脚本任务同样适用。通过内存网格和秒级别调度，可以不停地处理海量的数据。统计信息：SchedulerX还提供了秒级别任务的统计信息，例如当天执行了多少次，成功的次数和失败的次数，最近10...
组件中心
数据库访问代理 解决海量请求下数据访问的瓶颈及数据库的容灾问题，提供水平拆分、平滑扩缩容、读写分离的在线分布式数据库服务。微服务平台 提供实现经典 SDK 模式和 ServiceMesh 两种微服务模式所需的各种组件，致力于帮助企业快速构建...
计算设置概述
Apache Flink Apache Flink是一个分布式处理引擎，用于对无界和有界数据流进行有状态计算。Fusioninsight Flink Fusioninsight Flink 是一种基于Apache Flink的流式处理引擎，可以实现高速数据流的实时计算和分析。Blink独享版 Blink是阿里...
事务引擎介绍
HTAP（事务与分析一体化）HybridDB for MySQL事务引擎为HTAP（Hybrid Transaction/Analytical Processing）关系型数据库，可以基于一份数据进行事务（OLTP）与分析（OLAP）混合处理，免去了以往在线数据库（Operational Database）和数据...
概述
数据访问代理是蚂蚁金融科技自主研发的金融级分布式数据库中间件，用于解决海量请求下数据访问的瓶颈及数据库的容灾问题，提供水平拆分、平滑扩缩容、读写分离的在线分布式数据库服务。十年来专注于为海量数据访问提供低消耗、高性能、高...
数据重排
因为 ORDER BY 是全局排序，对计算性能的开销较大，而且集中在单个Reduce上排序并不能起到分布式处理的效果，所以可以通过 DISTRIBUTE BY+SORT BY 和 CLUSTER BY 两种方式来进行数据重排。注意事项 进行数据重排会占用和消耗计算资源，如果...
创建同步任务
分布式处理能力 用于控制是否开启分布式模式来执行当前任务。开启：分布式执行模式可以将您的任务切片分散到多台执行节点上并发执行，进而做到同步速度随执行集群规模做水平扩展，突破单机执行瓶颈。未开启：配置的并发数据仅仅是单机上的...
使用ossimport迁移数据
迁移方案 使用分布式模式将第三方存储迁移至OSS的过程如下：说明 在ECS上搭建ossimport分布式环境后，ossimport从腾讯云COS广州（华南）区域下载数据到ECS华东1（杭州），建议使用外网。使用ossimport从ECS华东1（杭州）将数据上传到OSS...
概述
随着云原生技术在业界持续升温，越来越多的金融客户希望将能将云搭建在拥有云原生能力的平台之上，利用各类云原生的红利迅速实现技术转型，...可以配合 SOFAStack 各中间件产品、OceanBase 分布式数据库，形成单元化异地多活架构解决方案。
通过脚本模式配置离线同步任务
当您需要实现更精细化的配置管理时，您可以使用脚本模式配置离线同步任务，通过编写数据同步的JSON脚本并结合DataWorks调度参数使用，将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍脚本模式配置离线同步任务...
产品优势
高性能 支持秒级别调度，轻量级分布式计算可以帮助您完成准实时的大数据跑批。节约成本和提升效率 无机器和人工运维成本，接入简单，提供报警监控。安全防护 多层次安全防护，包括：支持HTTPS，VPC访问。支持用户隔离、命名空间隔离和应用...
备份与恢复概览
数据库备份DBS 支持备份、恢复多种数据库引擎（备份源）...恢复SQL Server逻辑备份、恢复SQL Server物理备份 恢复PostgreSQL数据库 恢复MariaDB数据库 恢复PolarDB MySQL数据库 恢复MongoDB数据库 恢复Redis数据库 恢复PolarDB分布式版数据库
技术架构
另外在业界主流的分布式数据库里，分布式下的redolog/binlog等数据库变更日志其实一直被厂商所忽视，从关系数据库的发展历史来看，生态和标准对于市场规模化非常重要，PolarDB-X 支持binlog日志服务，兼容和拥抱MySQL数据库生态，用户可以...
概述
任务调度 TS（Task Scheduler）提供分布式任务调度框架，实现任务的分布式处理，并能规范化、自动化、可视化和集中化对金融企业不同业务系统的任务进行统一的调度和全方位监控运维管理，达到所有任务有序、高效运行的目的，极大降低开发和...
无感集成（Zero-ETL）
云原生数据仓库 AnalyticDB PostgreSQL 版 提供无感集成（Zero-ETL）功能，可以帮助您一站式完成数据同步和管理，实现事务处理和数据分析一体化，专注于数据分析业务。公测时间 2024年4月1日至6月30日。公测地域 华东2（上海）。方案概述 ...
管理报警规则
说明 在 关联资源 区域，选择 产品 为 云原生分布式数据库PolarDB-X 1.0。关于其它参数的设置，详情请参见 创建报警规则。单击 确认 即可。报警规则管理 登录 PolarDB分布式版控制台。在页面左上角选择目标实例所在地域。在 实例列表 页，...
典型客户案例
解决方案 基于金融分布式架构 SOFAStack 和分布式数据库 OceanBase 研发的银行核心系统，让网商银行拥有处理高并发金融交易，海量大数据，弹性扩容和异地多活的能力。利用互联网和大数据的优势，给更多小微企业提供金融服务。客户收益 网商...
天弘基金
业务挑战 在大规模分布式应用中，曾经的单体应用按横向和纵向的维度被拆分到集群的各个节点之中，为了解决服务及数据调用的问题，引入了分布式服务框架、分布式消息集群、分布式文件存储、分布式缓存等一系列服务。应用的拆分及分布式中间...
应用场景
下文以支付转账为场景说明消息队列如何实现以下功能：异步解耦 分布式事务的数据一致性 削峰填谷 异步解耦 传统处理方式 最常见的一个场景是支付转账成功后，需要生成交易双方的账单，并更新用户权益，发送用户通知。传统的做法有以下两种...
安装日志采集客户端
instanceId 为机器组标识，可以在 分布式链路跟踪>设置 页面查看。region 为域环境标志，如华东 2（上海），即 cn-shanghai ，其值可参考 地域和可用区。执行运维脚本。在 金融分布式架构 控制台中选择 经典应用服务>日常运维>服务器运维，...
自动同步PolarDB-X元数据
PolarDB-X是 高性能云原生分布式数据库，可支撑千万级并发规模及百PB级海量存储。PolarDB-X 2.0实例 开通列存引擎，绑定 湖仓版（3.0）集群后，湖仓版（3.0）集群 会自动 创建元数据发现任务，PolarDB-X 2.0实例列存表的元数据信息会自动...
通过DTS导入数据
通过数据传输服务DTS（Data Transmission Service），您可以将 PolarDB分布式版（原DRDS）的数据导入至 AnalyticDB MySQL 湖仓版（3.0）或 数仓版（3.0），轻松实现数据的传输，用于实时数据分析。操作方法 您可以选择数据同步或数据迁移...
数据分析整体趋势
随着Google等互联网企业崛起，以Hadoop为代表的基于传统x86服务器集群的大数据技术迅速发展，同时开源分布式数据库如Greenplum等也成为相应替代方案，为广大中小企业，尤其是互联网行业大大降低了数据分析的技术和成本门槛，还有分布式技术...
四川农信
分布式应用系统运维，为了实现分布式数据库大规模集群环境的运维管理，必须具备一套运维工具，实现自动化部署、统一指标和日志监控、运维管理工作台、数据库版本滚动升级、灰度发布等管理和维护功能，使运维自动化、工具化，降低运维难度，...
应用场景
访问频度极高业务 如社交网络、电子商务、游戏、广告等。...实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作流程。
产品架构
流引擎 LindormStream 是面向流式数据处理的引擎，提供了流式数据的存储和轻计算功能，兼容Kafka API和Flink SQL，帮助业务基于Lindorm快速构建基于流式数据的处理和应用。LindormStream内部包含流存储、流计算两大组件，通过两者的一体化...
通过向导模式配置离线同步任务
数据集成提供向导式的开发引导，您无需编写任何代码，通过在界面勾选数据来源与去向，并结合DataWorks调度参数，实现将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍向导模式配置离线同步任务的常规配置，各...
专业版公测（2022年01月26日）
融合大数据DataWorks任务 在实际业务场景中业务处理往往依赖前置数据准备，目前在分布式任务调度平台上可进行DataWorks任务数据处理与业务数据处理任务依赖编排定时调度。更多信息，请参见 DataWorks任务。如何升级为专业版 操作步骤 ...
- 产品推荐
- 这些文档可能帮助您