应用场景
访问频度极高业务 如社交网络、电子商务、游戏、广告等。...实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作流程。
MaxFrame概述
处理数据量大、处理逻辑复杂，需要基于MaxCompute海量数据及弹性计算资源、MaxFrame分布式能力进行大规模数据分析、处理及数据挖掘，提高开发效率。面向Data+AI开发，需要依赖第三方或自定义镜像完成数据开发、模型开发等整体流程。支持的...
应用场景
背景信息 设备将原始数据通过 MQTT 协议发送到物联网平台，经由物联网平台将数据转发到消息服务系统，继而通过流计算系统对这些数据进行实时计算处理后写入到 TSDB 中存储，或者经由物联网平台直接将原始数据写入 TSDB 中存储。前端的监控...
2024年
03-26 新增Pandas API 新说明 MaxFrame提供了兼容Pandas的API接口，您可以用类似于Pandas的方式来操作MaxCompute中的数据，同时利用MaxCompute强大的分布式计算能力，简化您在大数据环境下的数据处理工作。Pandas API支持 2024-03-26 新增...
迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL ...
TiCDC 工具会通过多个 TiCDC 进程获取 TiKV 节点的数据并进行处理后，同步数据至 Kafka 集群。Kafka 集群会保存 TiCDC 工具转换的 TiDB 数据库的增量日志信息，以便数据传输在执行增量数据同步时，从 Kafka 集群中获取相应数据并实时迁移...
SELECT TRANSFORM
类型 select transform UDTF 数据类型 子进程基于标准输入和标准输出传输数据，所有数据都当做STRING类型处理，因此 select transform 比UDTF多了一步类型转换。UDTF的输出结果和输入参数支持多种数据类型。数据传输 数据传输依赖于操作...
SELECT TRANSFORM
类型 select transform UDTF 数据类型 子进程基于标准输入和标准输出传输数据，所有数据都当做STRING类型处理，因此 select transform 比UDTF多了一步类型转换。UDTF的输出结果和输入参数支持多种数据类型。数据传输 数据传输依赖于操作...
从RDS MySQL同步至Tablestore
表格存储（Tablestore）是阿里云自研的多模型结构化数据存储，提供海量结构化数据存储以及快速的查询和分析服务。通过数据传输服务DTS（Data Transmission Service），您可以将MySQL数据库（例如自建MySQL或RDS MySQL）同步至Tablestore...
PolarDB-X 2.0迁移至Tablestore
脏数据处理策略 选择数据写入错误时的处理策略，取值为：跳过 阻塞 数据写入模式 选择数据写入的模式，取值为：行覆盖：使用UpdateRowChange会做行级别覆盖。行更新：使用PutRowChange会做行级别更新。批量写入方式 批量写入调用接口，取值...
PolarDB-X 2.0同步至Tablestore
脏数据处理策略 选择数据写入错误时的处理策略，取值为：跳过 阻塞 数据写入模式 选择数据写入的模式，取值为：行覆盖：使用UpdateRowChange会做行级别覆盖。行更新：使用PutRowChange会做行级别更新。批量写入方式 批量写入调用接口，取值...
应用场景
批处理意味着每一次处理的数据量很大，而且有很多张大表要做关联，经常要做一些比较复杂的查询，并且更新量也比较大，使得传统的集中式数据库，出现了单点瓶颈，垂直扩容成本非常高，几乎不可接受。OceanBase 数据库的 SQL 引擎在经过了近 ...
RDS MySQL迁移至Tablestore
RDS MySQL实例 MySQL自建数据库：有公网IP的自建数据库 ECS上的自建数据库 通过数据库网关接入的自建数据库 通过云企业网CEN接入的自建数据库 通过专线、VPN网关或智能网关接入的自建数据库 说明 本文以RDS MySQL实例为源数据库介绍配置...
数据导入性能优化
单进程无法完全利用系统资源，且一般客户端需要处理数据、攒批等操作，难以跟上数据库的导入速度，通过多并发导入可以加快导入速度。导入并发受攒批、数据源、客户端机器负载等影响，没有最合适的数值，建议通过测试逐步计算合适的并发能力...
数据导入性能优化
单进程无法完全利用系统资源，且一般客户端需要处理数据、攒批等操作，难以跟上数据库的导入速度，通过多并发导入可以加快导入速度。导入并发受攒批、数据源、客户端机器负载等影响，没有最合适的数值，建议通过测试逐步计算合适的并发能力...
PolarDB PostgreSQL版架构介绍
分布式执行加速索引创建 分布式并行执行加速多模：时空数据库 传统数据库的问题 随着用户业务数据量越来越大，业务越来越复杂，传统数据库系统面临巨大挑战，例如：存储空间无法超过单机上限。通过只读实例进行读扩展，每个只读实例独享一...
PolarDB PostgreSQL版架构介绍
加速比 TPC-H性能：和传统MPP数仓对比 分布式执行加速索引创建 分布式并行执行加速多模：时空数据库 传统数据库的问题 随着用户业务数据量越来越大，业务越来越复杂，传统数据库系统面临巨大挑战，例如：存储空间无法超过单机上限。...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
HDFS概述
HDFS（Hadoop Distributed File System）是一种Hadoop分布式文件系统，具备高度容错特性，支持高吞吐量数据访问，可以在处理海量数据（TB或PB级别以上）的同时最大可能的降低成本。HDFS适用于大规模数据的分布式读写，特别是读多写少的场景...
填充数据库
第一次填充数据库时可能需要插入大量的数据。本节包含一些如何让这个处理尽可能高效的建议。1.禁用自动提交 在使用多个 INSERT 时，关闭自动提交并且只在最后做一次提交（在普通 SQL 中，这意味着在开始发出 BEGIN 并且在结束时发出 COMMIT...
无锁结构变更方案对比
有无触发器对比 有触发器：基于触发器设计的工具代码逻辑相对简单，大部分数据上的工作交给了触发器去完成，包含数据库的隐式处理、数据类型以及切换等相关操作，简化了进行实时表迁移的大量流程。无触发器：无触发器设计最大的优点是和...
无侵入观测概述
Kernel Space用于抓取和预处理数据。抓取：Kernel Hook模块会根据KProbe的定义，拦截网络数据。用于拦截的KProbe内核函数包括connect、accept、write等。预处理：预处理模块会根据用户态配置进行数据的拦截、丢弃以及数据协议的推断，只有...
常见Latency（时延）事件的处理建议
本文向您介绍常见Latency事件超过阈值时间的原因及处理建议，您可参考本文了解并处理对应的时延问题。背景信息 原生Redis在2.8.13版引入时延监控（Latency...相关文档 设置实例参数 发现并处理大Key和热Key 实时Top Key统计 清除数据 扩容实例
资源组
资源组（Resource Group）是 PolarDB PostgreSQL版（兼容Oracle）提供的可以对进程、数据库和用户三种粒度所使用资源进行限制的机制，可以对CPU，内存资源实现精细化的控制。背景信息 如果在同一个节点上存在多个实例或者一个实例存在复杂...
什么是数据资源平台
阿里云数据资源平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据标准、数据建模、数据加工、质量评估、业务模型构建、资产管理、数据服务等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据...
集群自定义监控报表
集群数据库 io_write_rt SSStore 每次写入平均耗时 集群数据库 io_read_size SSStore 每秒读取数据量 集群数据库 io_size SSStore 每秒处理数据量 集群数据库 io_write_size SSStore 每秒写入数据量 集群数据库 transaction_multi_...
选型配置说明
E-MapReduce配置选型不仅要考虑企业大数据使用场景、估算数据量、服务可靠性要求，还应该考虑企业预算。大数据使用场景 E-MapReduce各集群的场景和核心组件如下表。说明 具体各集群类型支持的组件以控制台实际展示为准。集群类型 场景介绍 ...
常见Latency（时延）事件的处理建议
本文向您介绍常见Latency事件超过阈值时间的原因及处理建议，您可参考本文了解并处理对应的时延问题。背景信息 原生Redis在2.8.13版引入时延监控...相关文档 设置实例参数 发现并处理Redis的大Key和热Key 实时Top Key统计 清除数据 扩容实例
调优集群性能
如下图所示，某个大表分布不均，存储节点0上的Shard_0和Shard_1中数据量较大，而在存储节点1上的Shard_2和Shard_3中数据量较小，那么当您查询这个大表时，较大概率会出现存储节点0需要处理的数据多，存储节点1上需要处理的数据少的情况，...
使用clickhouse-client导入数据
多进程导入：将原始文件等分为多份，启动多个client多进程并发导入。步骤四：查询 云数据库ClickHouse 表 通过DMS连接集群，详情请参见 通过DMS连接ClickHouse。执行查询语句。SELECT*FROM test_tbl_distributed;说明 如果您导入的是本地表...
2024年
修复数据处理场景中存储引擎处理特定数据时会触发 negative bitmapset member not allowed 报错信息，导致执行引擎异常崩溃的问题。修复数据处理过程中系统在尝试读取数据文件的特定块时发生错误，触发 beam could not read block in file ...
可观测性能力
当某个Key含有较多数据成员或者占用较大内存时，可以将其称为大Key（Big keys），若未能及时处理大Key会导致执行命令的耗时增加，严重时甚至引发内存溢出（Out Of Memory）。您可以通过 实时Top Key统计 功能，帮助定位热Key与大Key，实时...
可观测性能力介绍
当某个Key含有较多数据成员或者占用较大内存时，可以将其称为大Key（Big keys），若未能及时处理大Key会导致执行命令的耗时增加，严重时甚至引发内存溢出（Out Of Memory）。您可以通过 云数据库Redis版 的 实时Top Key统计 功能，帮助定位...
数据标准
因此，数据处理的前奏就是数据标准化，数据标准作为一个统一的数据共识，在标准化中起到重要作用。数据标准落标说明 数据标准落标的意义在于从源头进行数据的标准化生产，加速数据的融合与统一的效率，节省大量数据应用和处理的成本。完成...
RDS外部表
当您需要向RDS外部表写入大量数据时，采用并行多进程写入方式，会小概率出现某个写入进程数据重写情况，导致数据重复。MaxCompute里建的RDS外部表，其中DECIMAL数据类型默认小数18位，不能修改，只能建成 decimal(38,18)。如果小数位数比较...
面临的业务挑战
越来越多的企业大数据分析已不再局限于传统的T+1场景，对数据的实时性分析和处理要求提出了更高要求。传统的批处理模式往往有数小时甚至数天的延迟，不能满足T+0的业务需要，用户要求在秒级，甚至毫秒级完成对海量数据分析。系统极复杂 大...
什么是RDS MySQL
RDS MySQL 阿里云关系型数据库服务RDS（Relational Database Service）支持MySQL引擎，RDS MySQL是基于阿里巴巴MySQL源码分支的在线数据库服务，经过双十一高并发、大数据量的考验，拥有优良的性能。RDS MySQL支持实例管理、账号管理、数据...
参数说明
资源消耗参数 参数名 参数说明 shared_buffers 数据库使用的共享内存大小，越大的缓存区可以缓存的数据更多，PolarDB中该值与规格相关。work_mem 指定在写到临时磁盘文件之前被内部排序操作和哈希表使用的内存量。注意对于一个复杂查询，...
常见问题
选型与购买 云数据库ClickHouse和官方版本对比多了哪些功能和特性？购买实例时，推荐选择哪一个版本？单双副本实例各有什么特点？购买链路资源时显示“当前区域资源不足”，应该如何处理？扩容与缩容 水平扩缩容耗时受什么影响？扩缩容期间...
导入概述
异步导入 Spark Load 通过外部的Spark资源实现对导入数据的预处理，提高StarRocks大数据量的导入性能并且节省StarRocks集群的计算资源。Spark Load是一种异步导入方式，需要通过MySQL协议创建导入作业，并通过 SHOW LOAD 查看导入结果。...
区域热力层（v2.x版本）
导入地理边界geojson数据接口 按组件绘制格式处理数据后，导入组件，重新绘制。不需要重新请求服务端数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 数据响应结果 区域。导入热力值数据接口 按组件绘制格式处理数据后...
- 产品推荐
- 这些文档可能帮助您