数据服务概述
数据服务价值 为了解决常见的数据应用问题，在数据服务体系下，开发人员开发数据服务时，提供简易向导和灵活脚本两种模式，从而降低开发门槛、提高开发效率、统一代码质量，方便管理变更；业务人员应用数据服务时，提供安全、稳定的数据...
设置列存数据压缩算法
LZ4：一种无损数据压缩算法，压缩速度大于每核500 MB/s。具体可参见 LZ4 GitHub。ZSTD（全称Zstandard）：一种无损数据压缩算法，压缩速度与LZ4相当。具体可参见 Zstandard GitHub。建表时设置压缩算法 语法：在建表时，您只需要在 CREATE ...
确定需求
您需要了解真实的业务需求，以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功。在数仓建设项目启动前，您需要请相关的业务人员介绍具体的业务，以便明确各个团队的...
PSL4发布说明
通过FPGA/ASIC芯片进行数据压缩可以减少写入存储介质的数据量，从而节省更多的存储空间。更多的空闲空间可以有效降低SSD磁盘固有的写放大，从而实现了性能的显著提升。数据被压缩后，物理Flash的存储数据访问量减少，从而提升了数据的访问...
PSL4发布说明
通过FPGA/ASIC芯片进行数据压缩可以减少写入存储介质的数据量，从而节省更多的存储空间。更多的空闲空间可以有效降低SSD磁盘固有的写放大，从而实现了性能的显著提升。数据被压缩后，物理Flash的存储数据访问量减少，从而提升了数据的访问...
确定需求
您需要了解真实的业务需求，以及确定数据仓库要解决的问题。业务调研 充分的业务调研和需求分析是数据仓库建设的基石，直接决定数据仓库能否建设成功。在数仓建设项目启动前，您需要请相关的业务人员介绍具体的业务，以便明确各个团队的...
Quick BI连接MaxCompute
数据源权限控制问题请参见 Quick BI关于业务分析人员连接MaxCompute数据源权限控制问题解决方案及常见报错解析。测试成功后，单击 确定，完成数据源的添加。此时您可以在数据源列表中，看到您创建的数据源。说明 Quick BI添加MaxCompute云...
PSL4发布说明
通过FPGA/ASIC芯片进行数据压缩可以减少写入存储介质的数据量，从而节省更多的存储空间。更多的空闲空间可以有效降低SSD磁盘固有的写放大，从而实现了性能的显著提升。数据被压缩后，物理Flash的存储数据访问量减少，从而提升了数据的访问...
概览
查看表的详情 宽表的详细信息包括表的行数、占用的热存储空间和冷存储空间，表结构信息，列簇的最大版本号、TTL和数据压缩类型，数据预览，分片的数量和每个分片的大小等。在 概览 页面，可根据idc、分组、Namespace和表四个维度进行查询...
X-Engine如何支撑钉钉跃居AppStore第一
数据压缩是以计算资源换存储空间的技术，因此选用一个压缩率小及压缩/解压速度快的压缩算法也非常关键，经过大量对比测试，X-Engine默认选用ZSTD压缩算法，但同时也支持其他算法。除了使用压缩之外，Compaction操作会对无效记录进行删除，...
如何处理Tair集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
如何处理Redis集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
处理慢SQL问题
您可以通过DAS对数据库进行监控，及时发现并优化慢SQL，解决数据库的性能问题。操作视频 解决方案 您可以通过DAS从以下三个方面来解决慢SQL问题：查看并优化单个实例的慢SQL 查询治理所有实例上的慢SQL 开启自动SQL优化 查看并优化单个实例...
引擎功能
高效时序存储技术 时序数据压缩 Lindorm时序引擎使用高效的数据压缩技术，将单个数据点的平均使用存储空间降为1~2个字节，可以降低90%存储使用空间，同时加快数据写入的速度。冷数据归档能力 Lindorm时序引擎支持将长期存储的冷数据归档到...
产品优势
无优化 成本 数据压缩 深度优化的ZSTD算法，JNA重写，可杜绝Core dump，并且基于字典采样优化，压缩率比snappy提高50%，数据压缩比可高达10:1。默认为Snappy，使用ZSTD需依赖Hadoop-3.0，存在Core Dump的概率。编码 IndexableDelta算法，...
OSS存储
轨迹数据的数据量通常很大，并且在很多场景中...compress":"zstd"数据压缩方式。更多压缩方式，请参见 ST_ExportTo。导出到OSS后，查询的SQL指令和原来相同。但是效率会降低。另外，当需要建立索引时，应当先建立索引，再将数据导出到OSS中。
数据压缩
数据压缩功能支持设备与物联网平台之间的消息传输，压缩数据，从而节约设备流量、提高传输速度。本文介绍数据压缩功能的使用。前提条件 已获取设备认证信息。已获取SDK。使用限制 数据压缩仅支持 尊享型企业版实例 和 标准型企业版实例。更...
OSS存储
轨迹数据的数据量通常很大，并且在很多场景中...compress":"zstd"数据压缩方式。更多压缩方式，请参见 ST_ExportTo。导出到OSS后，查询的SQL指令和原来相同。但是效率会降低。另外，当需要建立索引时，应当先建立索引，再将数据导出到OSS中。
OSS存储
轨迹数据的数据量通常很大，并且在很多场景中...compress":"zstd"数据压缩方式。更多压缩方式，请参见 ST_ExportTo。导出到OSS后，查询的SQL指令和原来相同。但是效率会降低。另外，当需要建立索引时，应当先建立索引，再将数据导出到OSS中。
MongoDB 分片集群介绍
MongoDB分片集群技术用于解决海量数据的存储问题，本文介绍MongoDB分片集群相关的常用知识。什么情况下使用分片集群？当您遇到如下问题时，可以使用分片集群解决：存储容量受单机限制，即磁盘资源遭遇瓶颈。读写能力受单机限制，可能是CPU...
产品优势
否 否 数据压缩 内置深度优化的压缩算法，数据压缩率高达10:1以上，相比snappy提高50%以上。支持snappy/LZ4/LZO，压缩率不高 支持snappy/LZ4，压缩率不高 编码 面向数据类型的自适应编码，压缩率高，并且无需解码，即可快速查找。支持DIFF...
HBase Shell使用介绍
云数据库HBase的数据压缩详情介绍请参见 数据压缩与编码。alter 'test',NAME=>'cf',COMPRESSION=>'SNAPPY' 为指定表的列族设置Block Encoding类型。将test表列族的Block Encoding类型设置为DATA_BLOCK_ENCODING。alter 'test',NAME=>'cf',...
支持的云服务
MaxCompute和DataWorks提供完善的ETL、数据分析、数据地图、数据治理和数据仓库管理能力，并支持SQL、MapReduce、Graph等多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，保障数据安全。更多DataWorks...
压缩测试
背景信息 Lindorm除多模超融合、开放兼容和云原生弹性等能力外，还具备了高效的数据压缩能力。Lindorm不仅支持深度优化的ZSTD压缩算法，还在此基础上对字典采样进行了优化，进一步减少存储成本。本文测试压缩能力所使用到的数据库版本及其...
DB2数据源
DB2数据源作为数据中枢，为您提供读取和写入DB2数据库的双向通道，能够快速解决海量数据的计算问题。本文为您介绍DataWorks的DB2数据同步的能力支持情况。支持的版本 DB2 Reader和DB2 Writer使用的DB2驱动版本为 IBM Data Server Driver ...
表存储格式定义
列存表可以提供平均 3-5倍的较高数据压缩率。示例：列存表必须是追加优化表。例如，要创建一个列存表，必须指定为"appendonly=true。CREATE TABLE bar(a int,b text)WITH(appendonly=true,orientation=column)DISTRIBUTED BY(a);压缩 压缩...
核心优势
低成本 高压缩：HBase增强版内置深度优化的Zstandard算法，最高可达13倍数据压缩比，比常用SNAPPY提升50%。冷热分离：面对大多场景中近热远冷的数据特点，增强版内置全自动的分层存储能力，应用无需任何改造，系统支持自动冷热分离，冷数据...
管理问题数据
支持保留问题数据的规则列表与问题数据口径 目前支持保留问题数据的监控规则，及各规则问题数据的定义，详情请参见：附录：支持保留问题数据的规则列表与问题数据口径。注意事项 目前仅MaxCompute表支持配置保留问题数据功能。目前仅部分...
数据扫描和识别
本文介绍敏感数据扫描和识别的常见问题及解决方法。数据扫描会影响我的数据库性能吗？DSC支持扫描的数据源有哪些？数据源授权完成后需要多长时间完成扫描？DSC对于非结构化数据源（OSS）的扫描机制是怎样的？是否支持对已扫描过的OSS文件...
配置项常见问题
本文介绍组件配置项的常见问题及解决方法。数据系列与配置项系列有什么关系？数据系列 很多基础二维组件（如折线图、柱状图等）都支持多个不同系列的系列展示，您只需在配置面板的 数据 页签中配置不同的 s 字段即可。配置项系列 支持多...
实例选型和集群规划
列存储支持较高的数据压缩率，可以达到2~5倍的压缩比，即对于1 TB原始数据，入库后若采用了列存储压缩设置，数据在0.5 TB以内，那么可以按1 TB的用户数据存储空间来规划集群实例规格。云原生数据仓库PostgreSQL版也支持OSS外表的扩展，可...
配置项常见问题
本文介绍组件配置项的常见问题及解决方法。数据系列与配置项系列有什么关系？数据系列 很多基础二维组件（如折线图、柱状图等）都支持多个不同系列的系列展示，您只需在配置面板的 数据 页签中配置不同的 s 字段即可。配置项系列 支持多...
文档修订记录
任务调度属性配置概述 2023年2月更新记录 时间 特性 类别 描述 产品文档 2023.2.28 新增功能 数据治理中心 DataWorks支持您根据业务需要，将 治理工作台>治理项问题 页面待解决的治理项问题以通知的形式，通过系统提示、邮件、钉钉群消息等...
云数据库录入
本文介绍如何将阿里云数据库录入至数据管理DMS中。前提条件 支持录入的云数据库类型，请参见 支持的云数据库。系统角色为DBA或管理员。查看系统角色的操作，请参见 查看我的系统角色。已在云数据库的白名单中添加DMS的服务器访问地址。详细...
恢复数据库
数据库备份DBS 提供数据恢复能力，通过创建恢复任务将已完成备份的数据恢复到云数据库、本地数据库或DBS沙箱中，可用于误操作后恢复以及分析历史数据等场景。前提条件 DBS备份计划的运行状态为 运行中。已完成数据库备份。相关操作，请参见...
字典编码（公测）
云原生数据仓库AnalyticDB PostgreSQL版 Beam存储引擎提供的字典编码功能，可以将低基数的字符串类型数据压缩为整型数据，提升存储效率，加速过滤、聚合等类型查询的性能。注意事项 仅存储弹性模式 v7.0.x版本 支持Beam字典编码功能。字典...
表结构说明
Compressed_algorithm 数据压缩算法。暂不支持。Enabled DLM策略是否生效。取值范围：ENABLED（默认）：DLM策略生效。DISABLED：DLM策略不生效。Priority_number DLM策略的执行优先级。暂不支持。Tier_partition_number 以 PARTITION COUNT...
云数据库录入
本文介绍如何通过数据管理DMS录入阿里云数据库。前提条件 支持录入的云数据库类型，请参见 支持的云数据库。系统角色为DBA或管理员。查看系统角色的操作，请参见 查看我的系统角色。已在云数据库的白名单中添加DMS的服务器访问地址。详细...
非结构化分析
AnalyticDB PostgreSQL版 的向量分析旨在帮助您实现非结构化数据的近似检索和分析，具备丰富...低成本 向量数据占用空间非常大，1条512维float向量，占用2k存储空间，AnalyticDB PostgreSQL版 向量支持FP32数据压缩成FP16，降低一半存储成本。
标准架构
支持数据备份功能，用户可以针对备份集回滚实例或者克隆实例，有效地解决数据误操作等问题。同时，在支持容灾的可用区（例如杭州可用区H+I）创建的实例，还具备同城容灾的能力。兼容性 标准架构完全兼容Redis协议，自建的Redis数据库可以...
- 产品推荐
- 这些文档可能帮助您