MaxCompute近实时增全量一体化架构介绍
数据文件类型主要分为Delta Data File和Compacted Data File两种：Delta Data File：每次事务写入或者小文件合并后生成的增量数据文件，会保存每行记录的中间历史状态，用于满足近实时增量读写需求。Compacted Data File：Delta Data File...
TSDB全量迁移至时序引擎
迁移流程 TSDB全量迁移至Lindorm时序引擎的迁移流程如下：通过时序数据迁移工具读取TSDB所有的时间线数据，并将数据保存至本地文件。根据迁移任务配置（指定开始时间、结束时间和时间切分周期）将迁移任务划分成多个时间分组。按照迁移任务...
网络访问与安全设置
本文介绍如何进行流数据服务Confluent集群的网络访问与安全设置。网络访问类型 流数据服务Confluent集群提供阿里云VPC访问和公网访问方式。阿里云VPC访问 VPC访问是指您在流数据服务Confluent集群所在网络VPC内或者其它VPC访问和使用流数据...
管理数据流动任务
本文介绍如何在文件存储控制台创建、管理CPFS数据流动任务及查看任务报告。前提条件 已创建CPFS Fileset。具体操作，请参见 创建Fileset。已创建数据流动。具体操作，请参见 创建数据流动。任务说明 任务类型 按任务对数据的操作，可分为...
包年包月
本文介绍使用流数据服务Confluent包年包月模式下的注意事项。包年包月计费是一种需要先付费才能使用资源的计费方式，主要适用于长时间稳定的业务运行场景。您需要根据实际业务量分析资源的使用需求，一次性支付一个月或者多个月的费用。...
使用AOF文件进行迁移
redis-cli是原生Redis的命令行工具，您可以使用redis-cli将自建Redis中已保存至AOF文件的数据迁移到 云数据库 Redis 版。本方案具有灵活、高效与自动化等特点，可保障数据的一致性与完整性，但本方案不支持实时同步，仅支持迁移离线数据。...
产品简介
本文介绍什么是流数据服务Confluent（Confluent Data Streaming Services）。什么是Confluent Platform Confluent Platform 是一个全面的数据流企业级平台，使您能够以连续、实时的流形式轻松访问、存储和管理数据。Confluent 由 Apache ...
产品优势
本文介绍流数据服务Confluent的产品优势。流数据服务Confluent使客户的流处理服务享受Confluent platform的企业级特性。以下介绍Confluent的业界优势：Confluent是Apache Kafka的原创者开发的产品。Confluent团队撰写提交了80%的Kafka代码...
开通数据订阅
操作步骤 数据订阅功能需要在控制台完成两次开通操作，分别购买流数据节点和LTS节点。购买流数据节点 说明 如果您的实例已开通流引擎，则不涉及该步骤。登录 Lindorm管理控制台。在页面左上角，选择实例所属的地域。在 实例列表 页，单击...
表数据格式
其中：DeltaFile：每次事务Commit写入（Update/Delete）的数据文件类型，会保存每行数据的中间历史状态，用于满足近实时增量读写需求。Clustering 合并操作也会生成DeltaFile，按照列式压缩存储。BaseFile：DeltaFile经过 COMPACTION 合并...
区域统计
技术实现 区域统计涉及以下两种数据：地理围栏：边界是一个闭合的环且不会频繁变更，可以使用Polygon类型将数据保存在Lindorm宽表中。车辆位置：车辆位置信息是实时上传的流数据，可以实时保存在Kafka Topic中。Lindorm流引擎将读取Kafka ...
ModifyDataFlow-修改数据流动
修改数据流动的属性。接口说明 该接口仅适用于中国站 CPFS 文件系统。仅 CPFS 2.2.0 及以上版本支持数据流动。仅支持状态为 Running（正常）状态的数据流动修改属性。修改数据流动一般耗时 2~5 分钟，您可以通过 DescribeDataFlows 查询...
Amazon Redshift数据迁移至MaxCompute
重要 实际迁移带宽与数据源、网络、目的限流、文件大小等因素有关，不一定能达到指定上限。请您评估数据源、迁移目的、业务情况、网络带宽等，并根据实际情况选择合理数值，限流不恰当可能会影响业务的正常运行。每秒迁移文件数 否 选择每...
流式ETL
ETL支持通过可视化拖拉拽操作、Flink SQL语句配置任务，并结合DTS的高效流数据复制能力，可以实现流式数据的抽取、数据转换和加工、数据装载。在降低开发门槛和业务系统影响的同时提升效率，丰富企业实时数据处理和计算场景，赋能企业数字...
什么是ETL
ETL支持通过可视化拖拉拽操作、Flink SQL语句配置任务，并结合DTS的高效流数据复制能力，可以实现流式数据的抽取、数据转换和加工、数据装载。在降低开发门槛和业务系统影响的同时提升效率，丰富企业实时数据处理和计算场景，赋能企业数字...
数据量
在数据库备份场景下，有4个概念：数据库磁盘空间、数据文件空间、备份数据量、存储数据量。数据量 说明 数据库磁盘空间 由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。说明 RDS中为：购买时选择的存储...
轨迹生成
车辆位置信息是实时上传的流数据，可以实时保存在Kafka Topic中。Lindorm流引擎将读取Kafka Topic中的位置数据，根据计算任务进行实时计算，并将计算结果保存在Lindorm宽表中。前提条件 已将客户端IP地址添加至Lindorm白名单。如何添加，请...
产品概述
阿里云流数据处理平台数据总线DataHub是流式数据（Streaming Data）的处理平台，提供对流式数据的发布(Publish)，订阅（Subscribe）和分发功能，让您可以轻松构建基于流式数据的分析和应用。数据总线 DataHub服务可以对各种移动设备，应用...
StartDataFlow-启用数据流动
启用一个数据流动。接口说明 该接口仅适用于中国站 CPFS 文件系统。仅 CPFS 2.2.0 及以上版本支持数据流动。您可以在控制台文件系统详情页面查看版本信息。只能启动 Stopped（停止）状态的数据流动。当 DryRun 为 true 时，可校验启动该...
什么是备份数据量
概念 说明 数据库磁盘空间 数据库磁盘空间由数据库的数据文件空间、数据库的日志文件空间、操作系统文件空间和空闲空间组成。对于RDS来说，是购买时选择的存储空间；对于ECS来说，是购买时选择的系统盘和数据盘存储空间。数据文件空间 数据...
配置备份策略
备份文件保存地域 本地 当不开启异地备份时，备份文件保存地域为当前集群实例所在城市。当开启异地备份时，您需要根据实际需求选择一个地域，保存备份文件。是否开启异地备份会影响您的计费，计费详情参见 备份恢复计费说明。日志备份 默认...
管理Fileset
在执行数据流动任务前，需要在CPFS文件系统中指定目录作为数据流动的Fileset。同时，Fileset可用于导出数据，创建NFS挂载点挂载CPFS文件系统。相比普通目录，Fileset具备更强的功能，例如文件数量限制、数据流动等。使用限制 仅CPFS 2.2.0...
使用Azkaban调度MaxCompute
保存为TXT文件。例如emp.txt，包含的数据如下：7369,SMITH,CLERK,7902,1980-12-17 00:00:00,800,20 7499,ALLEN,SALESMAN,7698,1981-02-20 00:00:00,1600,300,30 7521,WARD,SALESMAN,7698,1981-02-22 00:00:00,1250,500,30 7566,JONES,...
数据流运维
您可以在数据流运维中心查看数据流的发布状态、发布详情、运行记录等。登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>数据集成>离线集成。单击数据流名称，进入数据流详情页面。单击画布右上方 前往运维。在数据流运维...
使用MaxCompute控制台（离线）
MaxCompute控制台提供数据上传功能，支持您将本地文件或阿里云对象存储服务OSS中的文件数据离线（非实时）上传至MaxCompute进行分析处理及相关管理操作。使用限制 仅支持基于 本地文件 或 阿里云对象存储OSS 上传数据，具体如下。本地文件...
编辑脚本
脚本输入/输出配置说明 不同类型的脚本需配置的输入输出不同，如下：只有脚本类型为 创建联邦表、预处理规则 和 预处理应用 的脚本需配置输出数据，且该类型脚本的输出数据保存在联邦表文件夹中。脚本类型 输入配置 输出配置 创建联邦表 ...
层级生成器功能介绍
导入层级.json 单击层级树面板下方的 导入层级.json 按键，您可以在本地电脑内选择一个保存完整的层级数据文件，层级文件支持DataV专有格式和开放格式两种。导出层级（DataV专有）单击层级树面板下方的 导出层级（DataV专有）按键，您可以...
Flume插件
数据文件 将以下内容保存在本地文件/temp/test.csv中。0,YxCOHXcst1NlL5ebJM9YmvQ1f8oy8neb3obdeoS0,true,1254275.1144629316,1573206062763,1254275.1144637289 0,YxCOHXcst1NlL5ebJM9YmvQ1f8oy8neb3obdeoS0,true,1254275.1144629316,...
发布数据流
完成数据流的配置或变更后，您需要通过发布操作将最新的数据流发布，有效避免部分变更未经确认被直接发布。登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>数据集成>离线集成。单击数据流名称，进入数据流详情页面。可选：...
在云桌面内挂载CPFS文件系统
您可以在阿里云控制台创建CPFS文件系统，通过NFS协议服务把CPFS文件系统挂载至对应工作区下的无影云桌面，挂载成功后便可以在云桌面上把CPFS文件系统当作一个普通的目录来访问和使用。本文介绍如何将CPFS文件系统挂载至云桌面以及如何验证...
层级生成器功能介绍
导入层级 单击层级树面板下方的 导入层级.json 按键，您可以在本地电脑内选择一个保存完整的层级数据文件，层级文件支持DataV专有格式和开放格式两种。导出层级（DataV专有）单击层级树面板下方的 导出层级（DataV专有）按键，您可以导出...
整体流程介绍
操作流程 操作步骤 支持方法 准备工作 准备工作 包含如下内容：准备CSV数据文件 获取图数据库GDB实例信息 获取OSS中的Bucket信息 OSS导入授权 图数据库GDB控制台一键授权 通过RAM控制台授权 将数据上传至OSS 使用OSS控制台上传数据文件 ...
添加CSV文件
常见问题 CSV文件格式问题 需要将原始Excel文件或其他数据格式的文件另存为CSV文件，不能通过直接修改后缀改变CSV文件格式，会出现错误。DataV控制台兼容问题 由于谷歌浏览器对HTTP协议限制，需要使用HTTPS网址打开DataV控制台，再添加CSV...
添加CSV文件
常见问题 CSV文件格式问题 需要将原始Excel文件或其他数据格式的文件另存为CSV文件，不能通过直接修改后缀改变CSV文件格式，会出现错误。DataV控制台兼容问题 由于谷歌浏览器对HTTP协议限制，需要使用HTTPS网址打开DataV控制台，再添加CSV...
CREATE STREAM
数据流表仅支持新增数据，不支持更新数据和删除数据。数据流表中的最小单元为Record，Record有预定义的Schema。数据流表的物理数据存储在流存储的某个指定的Topic上，具体的存储格式可以在With语句中指定。语法 CREATE STREAM(IF NOT ...
RDS PostgreSQL CSV或SQL文件恢复到自建数据库
您可以使用RDS PostgreSQL的备份下载功能，将云盘实例的快照备份数据转换成CSV文件或SQL文件导出，然后通过该文件将数据恢复到自建PostgreSQL数据库中。操作步骤 本示例以RDS PostgreSQL云盘实例的SQL文件恢复至ECS实例（CentOS 7.8 64位）...
配置自定义区域右下角组件数据
在 添加数据 对话框中，设置 自定义数据源名称（如折线图数据样例），并单击下方区域上传文件，完成文件上传后单击 确定 即可完成CSV文件数据源的创建。在 选择已有数据源 下拉框中找到上一步创建的 折线图数据样例 数据源，选中该数据源...
高温报警
流数据分析作业会一直处于运行的状态，只要接收到边缘消息路由的数据（在本例中为温度传感器的属性变化数据）就会立即执行具体的逻辑，即执行 insert 语句。icmsDocProps={'productMethod':'created','language':'zh-CN',};
配置自定义区域右下角组件数据
在 添加数据 对话框中，设置 自定义数据源名称（如折线图数据样例），并单击下方区域上传文件，完成文件上传后单击 确定 即可完成CSV文件数据源的创建。在 选择已有数据源 下拉框中找到上一步创建的 折线图数据样例 数据源，选中该数据源...
OSS Foreign Table数据类型对照表
本文介绍ORC文件、Parquet文件和Avro文件与 AnalyticDB PostgreSQL版 的数据类型对照表。ORC文件数据类型对照表 ORC数据类型 AnalyticDB PostgreSQL版 数据类型 BOOLEAN bool SHORT int2 INT int4 LONG int8 FLOAT float4 DOUBLE float8 ...
- 产品推荐
- 这些文档可能帮助您