导入Elasticsearch数据
查询的复杂度 如果导入任务中存在复杂的Elasticsearch查询，则Elasticsearch服务端执行请求消耗的时间可能会比较长，从而影响整体的数据读取速度。Logstore Shard数量 日志服务的写性能取决于目标Logstore的Shard数量（单个Shard支持5 MB/s...
实时同步任务运行与管理
数据读取速度（BPS）：数据同步读取数据的速度。记录速度：写入日志的数据同步读取数据速度。数据集成资源组：任务实例运行使用的数据集成资源组。3 在该区域，您可以对所选择的任务实例进行如下操作。启动：启动未运行的同步任务。停止：...
产品计费
实时搜索分析的数据采用热存储，并会自动适应并创建优化索引，以确保数据的读取速度。开启后赠送1天的数据热存储。洞察分析 0.08元/GB 0.12元/GB 使用SQL洞察自动聚合分析时收取该费用。数据热存储 0.01元/GB/天 0.015元/GB/天 数据热存储...
2023年
2023-02-01 全部地域 使用标签分账 2023-01 功能名称 功能描述 发布时间 发布地域 相关文档 支持Hologres外部表存储直读 支持Hologres存储直读，直读Hologres存数据时可以减少Hologres的连接数和提高读取数据的速度。2023-01-21 全部地域 ...
通过缓存优化性能
Delta缓存通过使用快速中间数据格式在节点的本地存储中创建远程文件的副本来加速数据读取。每当需要从远程位置获取文件时，数据都会自动缓存。然后在本地的连续读取上述数据，从而显著提高读取速度。说明 详细内容可参考Databricks官网文章...
OSS-HDFS数据源
支持多种类型数据读取，支持列常量。支持递归读取、支持通配符*和?多个File可以支持并发读取。重要 OSS-HDFS Reader暂不支持单个File多线程并发读取，此处涉及到单个File内部切分算法。离线写 使用OSS-HDFS Writer时，请注意以下事项：目前...
OSS数据源
支持多种类型数据读取（使用String表示），支持列裁剪、列常量。支持递归读取、支持文件名过滤。支持文本压缩，现有压缩格式为 gzip、bzip2 和 zip。说明 一个压缩包不允许多文件打包压缩。多个Object可以支持并发读取。单个Object（File）...
HDFS数据源
支持多种类型数据读取（使用String表示），支持列裁剪，支持列常量。支持递归读取、支持正则表达式*和?支持ORCFile数据压缩，目前支持 SNAPPY 和 ZLIB 两种压缩方式。支持SequenceFile数据压缩，目前支持 lZO 压缩方式。多个File可以支持...
迁移 MySQL 数据库的数据至 OceanBase 数据库 MySQL ...
本文为您介绍如何使用数据传输迁移 MySQL 数据库的数据至 OceanBase 数据库 MySQL 租户。重要 如果数据迁移项目长期处于非活跃状态（项目状态为 失败、已暂停 或 已完成），受增量日志保留时长等影响，项目可能无法恢复。数据传输将主动...
导入概述
为了更好地满足各种不同的业务场景，StarRocks支持多种数据模型，StarRocks中存储的数据需要按照特定的模型进行组织。本文为您介绍数据导入的基本概念、原理、系统配置、不同导入方式的适用场景，以及一些最佳实践案例和常见问题。背景信息...
功能概述
功能介绍 传统的压测方案大部分基于现有的压测工具（如sysbench、TPCC等），给定场景，改变数据写入和读取速度，观测压力变化对被测对象性能的影响；使用自动化方式替代需要手工重复的部分，例如自动化数据生成、自动测试、自动分析报告...
读取OSS数据
带宽打满直接影响到OSS外表的数据读取和写入速度。关 于OSS带宽详情，请参见 OSS有带宽和QPS限制吗？示例：读取OSS数据-非分区表（内置文本数据解析器）基于 示例：通过内置文本数据解析器创建OSS外部表-非分区表 中创建的OSS外部表mc_oss_...
配置同步任务
数据库类型 数据源 关系型数据库 MySQL、Oracle、Microsoft SQL Server、PostgreSQL、AnalyticDB for PostgreSQL 开源大数据数仓存储 Hive、TDH Inceptor 说明 HBase作为数据源或者目标数据源，支持的版本为HBase V1.1.x、HBase V0.94.x。...
新功能发布记录
配置条件分支节点 任务编排中新增SQL赋值任务节点 新增 SQL赋值节点可以读取数据，并将读取到的数据赋值给该节点的输出变量。配置SQL赋值节点 08月 功能名称 变更类型 功能描述 相关文档 数据管理DMS升级到5.0版本 迭代 数据管理DMS 5.0...
将数据写入OSS
带宽打满直接影响到OSS外表的数据读取和写入速度。关 于OSS带宽详情，请参见 OSS有带宽和QPS限制吗？前提条件 在向OSS写入数据前，请您确认已完成如下操作：已授予访问OSS的权限。更多授权信息，请参见 OSS的STS模式授权。（可选）已准备好...
上下游存储
Flink和Kafka之间的网络连通并不意味着能读取数据，只有Kafka Broker在bootstrap过程中返回的集群metadata中描述的Endpoint，才可以连通Flink和Kafka，并读取到Kafka的数据，详情请参见 Flink-cannot-connect-to-Kafka。检查办法为：使用...
应用开发概览
规划数据库对象 二级目录 文档名称 规划数据对象 创建数据库 创建表 创建索引 数据写入 二级目录 文档名称 数据写入 插入数据 更新数据 删除数据 替换数据 数据读取 二级目录 文档名称 文档名称 数据读取 关于查询 单表查询 条件查询 排序...
如何选择备份方式
日志读取速度也会随着数据库日志产生速度而调整。特性 支持进行更精细的库、表级别备份。不会对数据库加锁，对数据库性能影响较小。仅支持备份整个数据库实例。从数据库磁盘中读取数据，对数据库IO性能有一定影响。通常情况下，物理备份与...
逻辑备份、物理备份与快照
日志读取速度也会随着数据库日志产生速度而调整。特性 支持进行更精细的库、表级别备份。不会对数据库加锁，对数据库性能影响较小。仅支持备份整个数据库实例。从数据库磁盘中读取数据，对数据库IO性能有一定影响。通常情况下，物理备份与...
计算引擎版本说明
1.4.1 功能优化 支持宽表引擎（数据源）复杂数据类型的数据读取。优化资源申请相关配置的生成逻辑。1.3.0 新特性 新增数据类型转化函数，支持将HBase编码的BINARY类型的数据解析为真实数据类型（例如INT、LONG等）。详细介绍，请参见 访问...
工作组成员管理
角色 包括工作组管理员、工作组开发者、工作组分析员、元数据读取、数据读取、数据变更。其中，元数据读取、数据读取和数据变更是专业模式下的角色。工作组管理员：工作组的管理者，拥有工作组内的所有权限。工作组开发者：拥有工作组内的...
工作组成员管理
角色 包括工作组管理员、工作组开发者、工作组分析员、元数据读取、数据读取、数据变更。其中，元数据读取、数据读取和数据变更是专业模式下的角色。工作组管理员：工作组的管理者，拥有工作组内的所有权限。工作组开发者：拥有工作组内的...
数据传输与迁移概述
离线数据批量数据读取（外部表-湖仓一体）场景特征：主要用于数据联邦查询分析，偶尔需要对数据进行搬运。典型场景。类型 典型场景 OSS数据与MaxCompute数据下载 UNLOAD命令。外部表，湖仓一体。Hologres读取MaxCompute数据 Hologres外部表...
权限列表
工作组成员管理角色包括：工作组管理员、工作组开发者、工作组分析员、元数据读取、数据读取、数据变更。全局成员管理配置角色包括：租户管理员、租户访客、租户数据资产管理员、租户运维人员、租户一般用户。对号（√）表示支持，叉号（X...
权限列表
工作组成员管理角色包括：工作组管理员、工作组开发者、工作组分析员、元数据读取、数据读取、数据变更。全局成员管理配置角色包括：租户管理员、租户访客、租户数据资产管理员、租户运维人员、租户一般用户。对号（√）表示支持，叉号（X...
创建Redis表并读取数据
name|id|age|+-+-+-+|lily|3|30|lucy|4|20|bond|2|20|james|1|10|读取JSON数据 读取dla_person_json表数据：select*from dla_person_json;name|id|age|+-+-+-+|lucy|210|3|james|110|1|bond|210|2|lily|310|3|接下来您可以通过MySQL客户端...
产品架构
DTS使用增量数据读取模块来获取全量数据迁移过程中发生的数据更新。当全量数据迁移开始时，增量数据读取模块将被激活。在全量数据迁移阶段，增量数据会被解析、重新格式化并存储在本地DTS服务器上。增量数据迁移：当全量数据迁移完成后，...
概述
应用程序只需连接读写分离地址进行数据读取及写入操作，读写分离程序会自动将写入请求发往主实例，而将读取请求按照权重发往各个只读实例。用户只需通过添加只读实例的个数，即可不断扩展系统的处理能力，应用程序上无需做任何修改。什么是...
配置DataHub输入组件
配置DataHub输入组件后，可以将DataHub数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置DataHub输入组件。前提条件 已创建离线单条管道，详情请参见 通过单条管道创建集成任务。操作步骤 ...
配置DataHub输入组件
配置DataHub输入组件后，可以将DataHub数据源中的数据读取至大数据平台对接的存储系统内，并进行数据整合和二次加工。本文为您介绍如何配置DataHub输入组件。前提条件 已创建离线单条管道，详情请参见 通过单条管道创建集成任务。操作步骤 ...
使用Stage和Task详情分析查询
表数据读取量 当某个Stage的算子树中有表扫描节点（TableScan）时，表示该Stage的所有表扫描节点从源表读取的数据行数和数据大小。对该字段进行排序，可以判断源表数据是否存在数据倾斜。如果存在数据倾斜，您可以通过控制台进行分布字段...
查询非结构化数据
说明 您可以根据需要选择Extractor、StorageHandler或Outputer类型：Extractor：自定义输入数据解析器，用来实现自定义处理数据读取的逻辑，即如何读取非结构化数据。StorageHandler：用于指定和配置自定义Extractor和Outputer的实现类。...
一键诊断
建表与表访问检测 表访问检测 表访问检测会自动检测指定时间段内被访问的表，包括最大数据读取量、平均数据读取量、最大数据读取耗时、平均数据读取耗时和表访问次数5个指标，并按照当前检测指标降序排列。数据分布倾斜表详情 AnalyticDB ...
Amazon S3数据源
Simple Storage Service（简称S3）是一种专为从任意位置存储和检索任意数量的数据而构建的对象存储，DataWorks数据集成支持使用Amazon S3 Reader插件从S3数据库读取数据，本文为您介绍DataWorks的Amazon S3数据读取能力。支持的Amazon S3...
MaxCompute
使用Databricks 读写MaxCompute数据 读取maxCompute数据集的dwd_product_movie_basic_info表中ds=20170519分区的数据到DataFrame中,代码实现。说明 odpsUrl和tunnelUrl相关介绍和配置 参照文档 MaxCompute数据管理权限 参照文档 警告 ...
什么是RDS MySQL
应用程序只需连接读写分离地址进行数据读取及写入操作，读写分离程序会自动将写入请求发往主实例，而将读取请求按照权重发往各个只读实例。用户只需通过添加只读实例的个数，即可不断扩展系统的处理能力，应用程序上无需做任何修改。数据库...
管理数据集合
您可以通过EMAS Serverless提供的数据存储服务API对集合（相当于MySQL中的表）进行数据读取、写入、更新、删除等操作。读取数据 以下代码示例展示了适用于不同场景的数据读取方法：从集合中读取所有数据。例如，查询所有图片：mpserverless...
ORC文件
它针对大型流式数据读取进行了优化，但集成了对快速查询所需要行的相关支持。ORC和Parquet文件格式的区别：本质上Parquet针对Spark进行了优化，而ORC针对Hive进行的优化。前提条件 通过主账号登录 阿里云 Databricks控制台。已创建集群，...
版本发布记录
无 改进读取方式 改进ADB3.0数据读取方式为流式，之前非流式会导致内存占用过高。无 1.0.0 类别 功能点 描述 数据分析 OSS文件数据分析 支持针对单个OSS文件数据进行分析，或者多个OSS Bucket文件进行关联分析。分析结果写入OSS 支持将分析...
主键列自增
注意事项 写入数据到带有自增主键列的表时，请务必返回并记录自增列的值，用于后续数据更新或者数据读取。前提条件 已初始化Client。具体操作，请参见 初始化。使用方法 创建表时，将非分区键的主键列设置为自增列。只有整型的主键列才能...
- 产品推荐
- 这些文档可能帮助您