物联网存储介绍
设备消息数据：主要数据为设备事件上报消息、平台控制指令下发消息和消息推送，具有消息有序性、消息队列多等特点，需要使用消息队列模型存储，并且支持消息保序、大量队列数以及低成本海量数据存储。设备时序数据：主要数据为传感器采集...
Dataphin支持的数据源
在使用Dataphin前，您需要选择符合业务场景需求的数据库或数据仓库作为数据源，用于读取原始数据和写入数据建设过程中的数据。Dataphin集成了丰富的数据引擎，支持接入MaxCompute等数据仓库，也支持对接企业传统数据库，如MySQL、Oracle等...
IO加速
针对临时表和查询产生的临时文件，RDS PostgreSQL的IO加速能力允许将这些临时数据存储到高速的缓存介质中，使得数据库引擎对这些临时数据的读写IO更快，大大加快查询的处理，在复杂查询场景下可提高100%查询性能。价值效益 RDS PostgreSQL...
数据源管理概述
功能介绍 多数据源类型接入：Dataphin内置丰富的数据源类型，支持对接的数据源包括大数据存储型数据源、文件型数据源、消息队列型数据源、关系型数据源和NoSQL数据源。更多信息，请参见 Dataphin支持的数据源。自定义数据源类型：在内置的...
填充数据库
它没 INSERT 那么灵活，但是在大量数据装载时导致的负荷也更少。因为 COPY 是单条命令，因此使用这种方法填充表时无须关闭自动提交。如果你不能使用 COPY，那么使用 PREPARE 来创建一个预备 INSERT 语句也有所帮助，然后根据需要使用 ...
产品简介
湖管理，将为您提供对湖内数据存储的分析及优化建议，加强对数据生命周期管理，优化使用成本，方便您进行数据运维管理。应用场景 数据分析场景，通过元数据发现、数据探索能力，可以快速的对OSS内结构化、半结构化数据进行分析、探索。结合...
数据重排
在MaxCompute的使用过程中，如果已经积累了大量数据占用了大量存储资源，且已经通过削减数据存储生命周期和删除非必要数据等方式进行了治理，在您的存储预算有限，计算资源还有冗余的情况下，可以考虑使用数据重排方式对存储空间进行优化。...
数据服务系统配置
指定redis实例：将缓存数据存储到指定的Redis，适用于大量API开启缓存，缓存数据量较大的场景。如需添加Redis实例，请参见 创建Redis数据源。重要 请勿删除作为API缓存数据的Redis实例，否则缓存数据存储将失败且API开启的缓存将失效。单击...
什么是表格存储
适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。基本概念 在使用 表格存储 前，您需要了解以下基本概念。术语 说明 地域 地域...
解决MySQL实例空间满自动锁定的问题
当存在对InnoDB表长时间不结束的查询语句，而且在查询过程中表有大量的数据变化时，系统会生成大量的undo信息，占用大量存储空间。说明 对于RDS MySQL 8.0，系统会自动清理undo文件，不会出现此问题。general_log文件磁盘占用高。当RDS ...
产品架构
数据源地址动态适配 对于数据订阅及同步链路，容灾系统还会监测数据源的连接地址切换等变更操作，一旦发现数据源发生连接地址变更，它会动态适配数据源新的连接方式，在数据源变更的情况下，保证链路的稳定性。数据迁移工作原理 数据迁移...
功能特性
监控告警 数仓和数据湖 功能集 功能 功能描述 参考文档 数据存储 数据缓存 云数据库SelectDB支持数据缓存功能，当您需要管理缓存数据并提升云数据库 SelectDB 版的访问速度时，可以根据该文档对缓存进行有效管理，并利用LRU和TTL管理策略，...
03创建数据元
通过配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据，本章节为您介绍如何新建数据元。前提条件 已新建工作组“信息中心(xxzx)”，具体操作，请参见 新建工作组。已在工作组...
Hudi概述
Apache Hudi是一种数据湖的存储格式，在Hadoop文件系统之上提供了更新数据和删除数据的能力以及消费变化数据的能力。Hudi表类型 Hudi支持如下两种表类型：Copy On Write 使用Parquet格式存储数据。Copy On Write表的更新操作需要通过重写...
Hive数据导入
Hive存储模式为 数据湖存储 的E-MapReduce集群，数据存储在OSS中，可以通过元数据发现功能将数据导入 湖仓版（3.0）。具体操作，请参见 通过元数据发现导入至湖仓版。ECS自建CDH集群。已创建Hive库表，且Hive表为分区表。具体操作，请参见 ...
功能概述
表格存储 面向海量结构化数据提供Serverless表存储服务，适用于海量账单、IM消息、物联网、车联网、风控、推荐等场景中的结构化数据存储，提供海量数据低成本存储、毫秒级的在线数据查询和检索以及灵活的数据分析能力。基本概念 在使用 ...
方案背景
因此车联网场景下车辆轨迹数据存储与分析的需求如下：数据存储：车辆轨迹数据会随着时间动态变化，要长期保存车辆轨迹信息，需要单表规模极大以及高性价比存储。数据写入：面向众多车辆，需要支持百万级节点实时写入。数据检索：根据多个...
概述
表（Table）数据存储在Kudu的位置。Table有Schema和全局有序的Primary Key属性，且可以划分为多个Tablet。分片（Tablet）一个表可以被分到若干个分片中，称为Tablet。一个Tablet是指表上一段连续的Segment。一个特定的Tablet会被复制到多个...
方案背景
气象数据中大量的数据是时空数据，记录了时间和空间范围内各个点的各个物理量的观测量或者模拟量，每天产生的数据量常在几十TB到上百TB的规模，且在爆发性增长。如何存储和高效的查询这些气象数据越来越成为一个难题。传统的方案采用关系型...
多租户管理使用说明
若在租户下创建的数据库名称与内置存储过程中的 schema_name 相同，将无法调用该数据库下的内置存储过程。在系统租户下管理数据库 创建数据库 连接数据库，在系统租户下创建数据库。示例如下：CREATE database 'db1@tenant_1';删除数据库 ...
迁移时源库为Redis的注意事项及限制
如果迁移的源数据库类型为Redis，如自建Redis、云数据库Redis版，您需要在配置具体的迁移任务前，参考本文的注意事项及限制，以保障数据迁移任务的正常运行。源库为Redis的迁移方案概览 根据如下迁移方案，查看迁移任务的注意事项及限制：...
同数据库归档
当数据库中表的数据量过大时，可能会影响查询数据速率，在不考虑将数据迁移到其他数据库的情况下，您可以将数据库中的历史数据或使用频率低的冷数据归档在当前数据库下的其他表中。同时，结合DMS提供的归档时清理源表功能，帮助您提升数据...
数据模型架构规范
数据处理流程架构 数据划分及命名空间约定 请根据业务划分数据并约定命名，建议针对业务名称结合数据层次约定相关命名的英文缩写，这样可以给后续数据开发过程中，对项目空间、表、字段等命名做为重要参照。按业务划分：命名时按主要的业务...
什么是数据管理DMS
DMS提供全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，致力于帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。视频介绍 功能特性 详情信息，请参见 功能概览。为什么选择数据管理DMS 全域数据...
存储过程
设置数据库在线 数据库全局授权 删除数据库 设置更改跟踪 开启数据库变更捕获 关闭数据库变更捕获 配置实例参数 增加链接服务器Linked Server 设置跟踪标志 更改数据库的名称 Server级别角色授予 关于SQL Server存储过程的更多介绍，请参见...
A100使用指南
用户指南访问入口 功能模块 操作指南链接 管理数据库审计实例 启用数据库审计实例 配置数据库审计实例 管理数据库审计实例的标签 管理数据库 登录数据库审计系统 添加数据库实例 部署Agent程序 查看SQL语句存储空间用量 开启系统管理员和...
账单数据订阅及查询分析
您可在用户中心订阅不同类型的账单数据，例如，计费项明细账单、计费项账单按天汇总等。订阅成功后，账单数据将会定时同步至MaxCompute，您可使用DataWorks的数据分析功能查询并分析账单数据，将分析结果生成可视化图表卡片及报告，同时，...
新建数据元
数据元管理通过分析业务流程，抽象关键业务对象和业务对象属性，并把关键业务对象新建为数据元，并配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据。本文介绍如何新建数据元...
新建数据元
数据元管理通过分析业务流程，抽象关键业务对象和业务对象属性，并把关键业务对象新建为数据元，并配置数据元的类型、长度、质量校验函数和引用数据字典，为模型标准化设计及数据治理过程中的质量监控提供规则依据。本文介绍如何新建数据元...
X-Engine引擎使用须知
以下举例说明：用户开启一个事务插入大量数据，在插入的过程中，由于先提交了一部分数据，其它请求就可以访问到插入的数据。用户开启一个事务修改大量数据，回滚的时候，已经执行了commit in middle的事务无法回滚。drop table t1;create ...
新建函数
函数是一种与存储过程十分相似的过程式数据库对象。与存储过程一样，都是由 SQL 语句和过程式语句组成的代码片段，并且可以被应用程序和其他 SQL 语句调用。自定义函数与存储过程的区别：函数有且仅有一个返回，适合做处理数据后返回一个...
C100售后支持相关问题
购买数据库审计实例后，您可以通过以下操作配置数据库审计服务：启用数据库审计实例 配置数据库审计实例 登录数据库审计系统 管理数据库资产 安装Agent 如果您想配置审计规则和告警通知，更多信息，请参见 C100快速入门。如何将跨地域、跨...
离线同步能力说明
功能概述 离线同步支持的能力如下图所示：功能 描述 异构数据源间的数据同步 数据集成目前支持40+数据源类型，包括关系型数据库、非结构化存储、大数据存储、消息队列间的数据同步。您可以通过定义来源与去向数据源，并通过数据集成提供的...
数据迁移概述
将数据迁移至OSS 您可以基于实际业务需求将本地、第三方存储设备或者OSS源存储空间（Bucket）内的数据迁移至OSS目标Bucket，具体如下表所示：迁移方式 说明 相关文档 在线迁移 使用在线迁移服务，您可以将第三方数据轻松迁移至阿里云对象...
深度解析Lindorm搜索索引（SearchIndex）特性
背景 在海量数据存储的背景下，伴随着云原生、5G/IoT时代的到来，新的业务模型在不断涌现，除了简单的主键查询和范围查询外，简单分析、多维检索成为业务的基本需求。常见的一些查询需求如下：多维查询。即席查询(adhoc)，一般是不固定的列...
MySQL系统文件导致实例空间满的解决方法
当存在对InnoDB表长时间不结束的查询语句，而且在查询过程中表有大量的数据变化时，系统会生成大量的undo信息，占用大量存储空间，导致存储空间耗尽。为避免数据丢失，RDS会自动锁定实例，实例运行状态显示为 锁定中。说明 对于RDS MySQL 8...
算子
Filter AnalyticDB MySQL版 支持两种数据过滤过程：数据源过滤：使用存储层数据的索引进行过滤。说明 没有独立的算子用于表示数据源过滤过程，该过程中的过滤条件会体现在TableScan算子中。关于TableScan算子的详情，请参见 TableScan。非...
创建子存储过程
块是独立存储过程和函数、匿名块、子程序、触发器、包和对象类型方法的结构。短语 标识符是块本地的 意味着标识符（例如变量、游标、类型或子程序）在该块的声明部分中声明，因此可由 SPL 代码在该块的可执行部分和可选异常部分中进行访问...
文件存储 HDFS 版和对象存储OSS双向数据迁移
本文档介绍 文件存储 HDFS 版 和对象存储OSS之间的数据迁移操作过程。您可以将 文件存储 HDFS 版 数据迁移到对象存储OSS，也可以将对象存储OSS的数据迁移到 文件存储 HDFS 版。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和...
方案背景
因此车联网场景下车辆元数据存储与分析的需求如下：数据存储：车辆元数据定时上报到数据网关并且转发到下游存储，需要支持大规模数据存储。数据更新：海量车辆元数据会频繁更新，需要支持数据高并发实时更新。数据检索：根据车辆的参数检索...
- 产品推荐
- 这些文档可能帮助您