将表格存储的增量数据转换为全量数据格式
通过DataWorks控制台，您可以在MaxCompute中使用merge_udf.jar包将 表格存储 的增量数据转换为全量数据格式。前提条件 已导出 表格存储 全量数据到MaxCompute，且已配置同步 表格存储 增量数据到MaxCompute。具体操作，请分别参见 全量导出...
数据湖投递概述
应用场景 利用数据湖投递可以实现如下场景需求：冷热数据分层 数据湖投递结合 表格存储 的 数据生命周期 功能，可以快速实现OSS低成本存储全量数据，表格存储 提供热数据的低延迟查询和分析的需求。全量数据备份 数据湖投递可以自动将 表格...
数据导出到OSS概述
实现原理 DataWorks数据集成的离线同步功能将不同数据源的同步抽象为从来源数据源读取数据的Reader插件以及向目标数据源写入数据的Writer插件，方便您通过定义来源与去向数据源并结合DataWorks调度参数使用，将来源数据源中的全量或增量...
迁移工具
将MySQL数据同步迁移到表格存储 将HBase数据同步到表格存储 将MaxCompute数据同步到表格存储 将表格存储数据同步到MaxCompute 将表格存储数据同步迁移到OSS 将表格存储数据表中数据同步到另一个数据表 将表格存储时序表中数据同步到另一个...
常见问题
消息数据 表格存储 自研的Timeline模型主要用于消息数据，能够抽象出支撑海量Topic的轻量级消息队列，可以存储大量社交信息，包括IM聊天，以及评论、跟帖和点赞等Feed流信息，接口简单易用。目前 表格存储 Timeline模型已被应用在众多IM...
产品优势
多模型数据存储 表格存储 支持宽表（WideColumn）模型、时序（TimeSeries）模型、消息（Timeline）等多种数据存储模型，能实现多种类型数据的一体化存储。宽表模型：经典模型，目前绝大部分半结构化、结构化数据均使用宽表模型进行存储。...
环境准备
使用Flink访问表格存储中的表前，您需要开通实时计算Flink服务并创建Flink全托管实例以及开通表格存储Tablestore服务并创建Tablestore实例。背景信息 阿里云实时计算Flink版是一套基于Apache Flink构建的⼀站式实时大数据分析平台，提供...
表格存储
消息数据 表格存储自研的Timeline模型主要用于消息数据，能够抽象出支撑海量Topic的轻量级消息队列，可以存储大量社交信息，包括IM聊天，以及评论、跟帖和点赞等Feed流信息。目前表格存储Timeline模型已被应用在众多IM系统中，例如支撑钉钉...
快速玩转Tablestore入门与实战
数据流计算篇 基于Tablestore打造亿量级订单管理解决方案 基于Tablestore多元索引打造亿量级店铺搜索系统 海量智能元数据管理系统实现解析 基于Tablestore的海量保险单查询平台 消息数据 表格存储 自研的Timeline模型主要用于消息数据，...
准备工作
说明 在表格存储中通过控制台或者SDK创建存储电商数据的原始订单表OrderSource，OrderSource表有两个主键UserId（用户ID）和OrderId（订单ID）和两个属性列price（价格）和timestamp（订单时间）。DataV数据可视化 登录DataV的用户名和密码...
数据备份概述
为了防止由于误删、恶意篡改等导致重要数据不可用，您可以使用 表格存储 数据备份功能备份实例中宽表数据，并在数据丢失或受损时及时恢复。背景信息 云备份（Cloud Backup）作为阿里云统一灾备平台，是一种简单易用、敏捷高效、安全可靠的...
数据集成服务
数据导入的迁移方案包括同步MySQL数据到表格存储、同步Oracle数据到表格存储、同步Kafka数据到表格存储、同步HBase数据到表格存储、同步MaxCompute数据到表格存储、同步表格存储数据表中数据到另一个数据表和同步表格存储时序表中数据到另...
数据类型
本文介绍表格存储提供的五种数据类型与Node.js SDK数据类型的对应关系。说明 表格存储的数据类型请参见 命名规则和数据类型。表格存储数据类型 Node.js SDK数据类型 描述 String string JavaScript语言中的基本数据类型 Integer int64 Node...
Kafka数据接入
通过创建Tablestore Sink Connector，将 云消息队列 Kafka 版 实例的数据源Topic导出到 表格存储（Tablestore）。前提条件 云消息队列 Kafka 版 已为实例开启Connector。具体操作，请参见 开启Connector。已为实例创建数据源Topic。更多...
创建投递任务
format：投递的数据的存储以Parquet列存格式存储，数据湖投递默认使用PLAIN编码方式，PLAIN编码方式支持任意类型数据。eventTimeColumn：事件时间列，用于指定按某一列数据的时间进行分区。如果不设置此参数，则按数据写入表格存储的时间...
表格存储服务关联角色
使用表格存储数据湖投递功能时，需要具有OSS资源的访问权限，此时可以通过表格存储控制台自动创建表格存储服务关联角色AliyunServiceRoleForOTSDataDelivery用于获取对OSS资源的访问权限。背景信息 服务关联角色是一种可信实体为阿里云服务...
通过控制台投递数据到OSS
通过表格存储控制台创建投递任务，将表格存储数据表中的数据投递到OSS Bucket中存储。前提条件 已开通OSS服务且在表格存储实例所在地域创建Bucket，详情请参见 开通OSS服务。说明 数据湖投递支持投递到和表格存储相同地域的任意OSS Bucket...
前言
背景信息 表格存储 提供了宽表模型、时序模型、消息模型等多种数据模型，SDK参考文档中主要介绍使用宽表模型和时序模型时的功能操作。请根据要使用的数据模型执行相应操作，具体功能的使用流程说明请参见下表。说明 关于消息模型的更多信息...
数据存储量
如下图所示，表格存储中实例的数据总量是所有表的数据量之和，表的数据量是表中所有行的数据量之和，所有行的数据量是所有单行数据的主键列和属性列数据量之和。说明 关于最新的单价信息，请参见 表格存储价格详情页。下面举例说明如何计算...
物联网存储介绍
基于物联网场景中多源异构数据存储、高并发吞吐、海量数据高性价比存储、多维度数据处理与分析等需求，表格存储推出了一站式物联网存储IoTstore解决方案，为物联网设备元数据、消息数据、时序轨迹等海量数据提供存储、查询、检索、分析、...
创建投递任务
Format：投递的数据的存储以Parquet列存格式存储，数据湖投递默认使用PLAIN编码方式，PLAIN编码方式支持任意类型数据。EventTimeColumn：事件时间列，用于指定按某一列数据的时间进行分区。如果不设置此参数，则按数据写入表格存储的时间...
对接DataV
通过DataV控制台添加表格存储数据源后，您可以使用DataV可视化展现表格存储的数据。前提条件 首次使用表格存储时，请开通表格存储服务以及创建实例和数据表等。具体操作，请参见 通过控制台使用 或者 通过命令行工具使用。首次使用DataV时...
导出全量数据到OSS
如果要以更低成本备份 表格存储 中的全量数据或者以文件形式导出 表格存储 数据到本地，您可以通过DataWorks数据集成服务将 表格存储 中的全量数据导出到OSS。全量数据导出到OSS后，您可以自由下载文件到本地。注意事项 此功能适用于 表格...
数据可视化工具
DataV可用于展示表格存储数据表或者二级索引表中的数据，一般用于构建复杂的大数据处理分析展现的企业应用系统。对接DataV Grafana Grafana是一款开源的可视化和分析平台，支持Prometheus、Graphite、OpenTSDB、InfluxDB、Elasticsearch、...
概述
假设将1.2GB的数据以CSV、TSV或者LOG等格式存储在OSS中，通过DLA将CSV、TSV或者LOG格式转换为其他格式后，数据在OSS中所占用的存储空间如下表所示。存储格式 数据来源及特点 数据量增大或减少 详细数据量 JSON 大量应用产生JSON类型的数据...
功能发布记录
2023-04-12 全部地域 将MySQL数据同步到表格存储 将Oracle数据同步到表格存储 时序模型支持时序Writer工具 表格存储支持通过时序Writer将时序数据写入时序表，时序Writer还支持多表写入、写入状态统计、行级别回调和自定义配置功能。...
使用SDK
format：投递的数据的存储以Parquet列存格式存储。默认值为Parquet。数据湖投递默认使用PLAIN编码方式，PLAIN编码方式支持任意类型数据。目前仅支持Parquet，一般无需配置，保持默认即可。eventTimeColumn：事件时间列，用于指定按某一列...
数据量
存储数据量 存放存储介质的实际数据大小，与备份数据量不同，存储数据量取决于备份数据量、备份数据存储格式、压缩算法等因素。空间大小：数据库磁盘空间（RDS/ECS）>数据文件空间（实际使用）>备份数据量（DBS）>存储数据量（内置存储）。
使用函数计算
通过函数计算访问表格存储，对表格存储增量数据进行实时计算。背景信息 函数计算（Function Compute，简称FC）是事件驱动的全托管计算服务。使用函数计算，您无需采购与管理服务器等基础设施，只需编写并上传代码或镜像。函数计算为您准备...
什么是备份数据量
与备份数据量不同，存储数据量取决于备份数据量、备份数据存储格式、压缩算法等因素。空间大小 在单次全量备份情况下，数据库磁盘空间（RDS/ECS）>数据文件空间（实际使用）>备份数据量（DBS）>存储数据量（OSS）。综上所述，您可通过调整...
JDBC连接表格存储
表格存储数据类型转换为Java类型 当使用ResultSet方法获取SQL返回结果时，表格存储数据类型自动转换为Java数据类型的注意事项请参见下表。表格存储数据类型 转换原则说明 Integer 转换为整型时，如果值超出类型的数值范围，则系统会抛出...
数据读取
本文介绍如何通过 开源大数据平台 EMR（E-MapReduce）控制台，快速创建一个 EMR 集群并使用Spark3读取 表格存储 的数据。前提条件 已使用阿里云账号对 EMR 服务授权。具体操作，请参见 角色授权。已创建 表格存储 数据表。具体操作，请参见...
数据复制
本文介绍如何在 开源大数据平台 EMR（E-MapReduce）集群上，使用Spark3将 表格存储 中一张表的数据复制到另一张表中，全程使用SQL语句实现表的创建以及数据的复制操作。前提条件 已创建 EMR 集群。具体操作，请参见 创建EMR集群。重要 创建...
通道服务概述
通道服务（Tunnel Service）是基于表格存储数据接口上的全增量一体化服务。通道服务提供了增量、全量、增量加全量三种类型的分布式数据实时消费通道。通过为数据表建立数据通道，您可以简单地实现对表中历史存量和新增数据的消费处理。背景...
如何修改表格存储中已存在的表名称
不支持直接修改表名称。您可以通过新建一个表，然后将当前表中的数据迁移到新表中实现。请使用DataX、通道服务等工具进行数据迁移。具体操作，请参见 将表格存储数据表中数据同步到另一个数据表。
恢复Tablestore数据
当 表格存储 实例出现异常或者存在错误操作时，您可以将备份源中的数据恢复到源 Tablestore 实例或其他处于同一地域的 Tablestore 实例中。本文介绍通过 云备份 创建 Tablestore 恢复任务的操作方法。前提条件 已创建 Tablestore 备份计划...
如何将高性能实例改为容量型实例
高性能实例当前无法直接调整为容量型实例，需要您自行通过数据迁移实现。您可以使用DataX、通道服务等工具进行数据迁移。具体操作，请参见 将表格存储数据表中数据同步到另一个数据表。
批计算
步骤一：在表格存储侧创建数据表或全局二级索引 创建表格存储的数据表。具体操作，请参见 概述。本示例中数据表名称为tpch_lineitem_perf，主键列为l_orderkey（LONG类型）、l_linenumber（LONG类型），属性列分别为l_comment（STRING类型...
创建数据表
如果创建数据表时未开启局部事务功能，创建数据表后需要使用该功能，请 提交工单 进行申请 或者加入钉钉群23307953（表格存储技术交流群-3）进行咨询。示例 创建数据表时不带索引 以下示例用于创建数据表。该表的主键为pk（String类型），...
配置Hive输出组件
根据Hive中数据存储格式不同，支持选择压缩格式不同：数据存储格式为 orc：支持选择的压缩格式包括 zlib、snappy。数据存储格式为 parquet：支持选择的压缩格式包括 snappy、gzip。数据存储格式为 textfile：支持选择的压缩格式包括 gzip、...
- 产品推荐
- 这些文档可能帮助您