流表
处理时间：流引擎计算处理数据的时间，由系统自动生成。重要 当使用窗口函数时，系统需要通过时间属性来判断数据属于哪个窗口，此时时间属性必须为事件时间或处理时间。创建流表 指定摄取时间 您可以在建表语句中通过 METADATA FROM 语句，...
E-MapReduce弹性低成本离线大数据分析
Storm适用于处理高速、大型数据流的分布式实时计算，为Hadoop添加可靠的实时数据处理能力。海量离线数据分析可以应用于多种场景，例如：商业系统环境：电商海量日志分析、用户行为画像分析。科研行业：海量离线计算分析和数据查询。游戏...
离线集成概述
数据管理DMS离线集成是一种低代码的数据开发工具，您可以组合各类任务节点，形成数据流，通过周期调度运行达到数据加工、数据同步的目的。支持的数据库类型 MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、PolarDB分布式版、AnalyticDB...
如何对JSON类型进行高效分析
PolarDB 列存索引（In Memory Column Index，IMCI）功能推出了完备的虚拟列与列式JSON功能等，可以快速处理大数据和多种数据类型（包括结构化数据与半结构化数据等），并提供高效的数据分析、查询与流计算能力，适用于数据分析、数据仓库与...
引擎简介
流引擎面向流式数据，实现了流存储和流计算的融合一体化，提供高效的实时数据处理能力。同时，在元数据、SQL语法、数据链路上与宽表引擎、时序引擎的多模引擎无缝融合，共享存储，提供完整统一的数据库体验。此外，流引擎与 时空引擎、AI...
Control Center基本使用
ksqlDB使用 ksqlDB是一个用于Apache kafka的流式SQL引擎，ksqlDB降低了进入流处理的门槛，提供了一个简单的、完全交互式的SQL接口，用于处理Kafka的数据，可以让我们在流数据上持续执行 SQL 查询，ksqlDB支持广泛的强大的流处理操作，包括...
常见问题
可能原因：您的RDS数据库与流计算项目不在同一区域。解决方法：需要手动将流计算服务的白名单添加到RDS白名单中，详情请参见 数据存储白名单配置。源表数据无法同步到目标表中。可能原因：源表的数据类型与目标表不一致，在进行类型转换时...
金融大数据
业务架构 架构说明：大数据仓库调用外部数据和数据集市的信息，通过数据获取层、数据模型层、数据加工层、数据应用层和分析集市的层层筛选、分析、加工，由大数据服务接口向内部源数据输出适用于多种用户场景的有效数据。大数据仓库功能...
流数据服务Confluent对比开源Kafka
不支持 支持 事件流数据库 ksqlDB：实时的流数据处理以及物化视图 不支持 支持 GUI的管理和监控页面 Control Center：通过GUI规模化的管理和监控Kafka 不支持 支持 Health+：智能告警和云上监控的控制面板 不支持 支持 灵活的自动开发运维 ...
什么是物联网边缘计算
边缘端与云端的连接不稳定，数据上云无法满足实时计算的要求，流数据分析在边缘端运行，因此不依赖网络，低时延处理数据。消息路由 物联网边缘计算提供消息路由的能力。您可以设置消息路由路径，控制本地数据在边缘计算节点中的流转，从而...
Transaction Table2.0概述
很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案...
基于Flink+Hologres搭建实时数仓
使用Flink+Hologres搭建实时数仓可以充分利用Flink强大的实时处理能力和Hologres提供的Binlog、行列共存和资源强隔离等能力，实现高效、可扩展的实时数据处理和分析，帮助您更好地应对不断增长的数据量和实时业务需求。本文介绍如何通过...
应用场景
背景信息 设备将原始数据通过 MQTT 协议发送到物联网平台，经由物联网平台将数据转发到消息服务系统，继而通过流计算系统对这些数据进行实时计算处理后写入到 TSDB 中存储，或者经由物联网平台直接将原始数据写入 TSDB 中存储。前端的监控...
企业级状态后端存储介绍
GeminiStateBackend是一款面向流计算场景的KV存储引擎，作为实时计算Flink版产品的默认状态存储后端（StateBackend）。本文为您介绍企业级状态后端存储GeminiStateBackend的核心设计，以及其与RocksDBStateBackend的性能对比情况。整体介绍...
产品简介
计算巢AppFlow是计算巢平台上的一种高效的应用集成和自动化工具，旨在提升企业的工作流程自动化和数据流管理效率。AppFlow通过提供易于使用的界面和强大的后端逻辑，允许用户无需深入编程即可设计、部署和监控各种自动化任务和数据流。本...
支持的云服务
MaxCompute和DataWorks提供完善的ETL、数据分析、数据地图、数据治理和数据仓库管理能力，并支持SQL、MapReduce、Graph等多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，保障数据安全。更多DataWorks...
DAS Auto Scaling弹性能力
针对上述两类问题，数据库自治服务DAS进行了服务创新，使数据库服务具备自动扩展存储和计算资源的技术能力，可从容应对。本文将对DAS Auto Scaling服务的架构进行详细的介绍，包括技术挑战、解决方案和关键技术。技术挑战 计算资源规格调整...
流式数据通道概述
流计算Flink：默认使用批量数据通道，支持流式数据通道插件，详情请参见 使用阿里云Flink（流式数据传输）。实时数据同步：默认使用批量数据通道，支持流式数据通道模式，需要联系DataWorks值班同学后台打开。什么是云消息队列 Kafka 版？...
产品架构
LindormStream内部包含流存储、流计算两大组件，通过两者的一体化部署和深度融合，支持流数据的高性能实时处理。其中，流存储负责消息日志数据的写入和订阅，兼容开源Kafka API，并且数据持久化存储在底层LDFS中，具备高吞吐、低成本、弹性...
产品优势
多场景支持：支持实时数仓、多表实时拼接查询、实时数据处理与上传、实时报表、业务与计算分离、实时业务问题定位等。高效低延时：通过DTS获取和写入数据，支持分布式并发读写，效率高于Flink，数据准确性更高。可视化数据开发，更多信息，...
什么是边缘流数据分析
流数据分析是一种使用流的方法快速实时处理数据的计算方式。边缘计算中的流数据分析，继承了物联网平台的流数据分析能力。在数据分析控制台创建 流数据分析任务，并将该任务下发到边缘端，通过边缘设备实时运行。运行结果可以存储在边缘端...
功能更新动态（2022年之前）
设置Dataphin实例的计算引擎 计算源 计算源为离线数据的处理提供计算及存储资源、为实时数据的处理提供计算资源。计算源 数据源 支持创建离线数据源和实时数据源，通过数据源将业务数据引入Dataphin平台。数据源 业务板块 创建业务板块时，...
计费项
1个实时计算作业（Job）的CU使用量取决于此Job输入数据流的QPS、计算复杂程度，以及具体的输入数据分布情况。您可以根据业务规模以及实时计算的计算能力，估算所需购买的资源数量。实时计算1 CU的处理能力如下表所示。处理场景 处理能力 ...
文档更新动态（2022年之前）
更新说明 计费说明 系统将依据您选择的数据处理单元规格分配不同的默认调度资源，选购的规格越高，分配的调度资源越多，可以支持的任务并发数越大，计算处理速度也相应提升。更新说明 2021年08月24日 数据源：可支持的数据源类型和版本拓展...
功能特性
数据迁移 数据迁移功能帮助您实现同构或异构数据源之间的数据迁移，适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景 功能集 功能 功能描述 参考文档 同构迁移 逻辑迁移 支持同构数据库间的数据迁移。自建MySQL...
设备数据存储和计算实践
面临的挑战 在不同的数据⽣命周期中，您需要采⽤不同的技术⽅案去存储和计算是设备数据，在不同的业务场景中，以下是较为典型的选型模式：场景 说明 监控运维场景 数据存储在RocketMQ等流数据存储产品中，并使⽤实时计算Flink等流计算框架...
AGS概览
ACK One分布式工作流Argo集群，是面向批处理、数据处理、科学计算、持续集成等业务场景，提供托管开源Argo的工作流集群，可以实现大规模工作流编排与高效弹性运行，并优化运行成本。WDL工作流 WDL（Workflow Description Language）是由...
Delta Lake概述
Delta Lake以数据为中心，围绕数据流走向（数据从流入数据湖、数据组织管理和数据查询到流出数据湖）推出了一系列功能特性，协助您搭配第三方上下游工具，搭建快捷、易用和安全的数据湖。背景信息 通常的数据湖方案是选取大数据存储引擎...
2024-04-01版本
Elasticsearch CUMULATE对更新流WindowAggregate新聚合算子的支持 增强CDC数据流的窗口聚合能力。Queries语句 Kafka写入JSON数据空列不填充NULL，同时支持根据Header进行等值过滤的能力 优化了对Kafka存储容量的占用，帮您进行数据分流处理...
云数据库RDS简介
MaxCompute 大数据计算服务MaxCompute（原名ODPS）是一种快速、完全托管的TB/PB级数据仓库解决方案，提供了完善的数据导入方案以及多种经典的分布式计算模型，能够快速地解决海量数据计算问题。通过数据集成服务，可将RDS数据导入...
2022-03-04版本
系统检查点或作业快照的超时与失败 性能优化 企业级状态存储后端在本次新版本中包含了大量优化，极大提升了双流或多流Join作业的性能，计算资源利用率平均可以提升50%，典型场景下可以提升100%~200%，帮助您更平滑地运行有状态的流计算应用...
功能特性
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
常见问题
您也可以通过函数计算来执行工作流，从而处理来自不同事件源的数据。云工作流 使用什么语言编写流程？云工作流 提供了流程定义语言（Flow Definition Language，简称FDL）让您像编写程序代码一样实现业务逻辑。更多信息，请参见 基本介绍。...
什么是DataTrust
产品核心能力 DataTrust主要解决企业/机构数据流通问题，底层依赖 安全多方计算MPC、联邦学习FL、隐私集合求交PSI 等隐私计算技术，提供 ID安全匹配、隐匿信息查询、安全联邦学习、安全联合分析 等核心能力，产品大图如下：ID安全匹配 在弱...
概述
当前Flink SQL已经可以帮助您支持各种流计算场景。为了满足开发迭代需求或业务发展需求，SQL作业也需要不断变更，否则修改SQL作业后，并使用原来的状态数据重启作业，会出现状态不兼容的问题。从vvr-4.0.11-flink-1.13版本开始，Flink全...
客户案例
客户简介 公司的第一代数据湖是基于Hadoop+OSS搭建的，同时引入的数据中台的执行引擎和存储是 MaxCompute，两套异构的执行引擎带来存储冗余、元数据不统一、权限不统一、湖仓计算不能自由流动的问题。客户需求 如架构图所示，MaxCompute和...
应用场景
提供了Flink-Connector来支持Flink数据流的直接写入，并保证了exactly-once语义。此外，还支持Flink CDC来捕捉TP数据更新，并实时地将结果更新到StarRocks中。数据分析：实现了实时数据分析生成的数据可以直接用于Serving，从而实现了实时...
通过Flink SQL模式配置ETL任务
单击左上角的，在 新增数据流 对话框中，您需在 数据流名称 配置ETL任务名称，选择 开发方式 为 FlinkSQL。单击 确认。在 数据加工 页面的 数据流信息 部分，添加源库和目标库。参数 说明 地区 选择数据源所在地域。类型 选择库表类型。...
轨迹生成
Lindorm流引擎读取车辆的实时位置点数据，定期（每小时、每天）将位置点拼接为轨迹，再将聚合后的轨迹线数据写入至数据库，不仅保证了对车辆行驶轨迹数据的实时处理和分析能力，同时也减轻了数据库在处理高频率追加写入操作时的IO压力。...
查看血缘关系
Flink作业的血缘关系可以进行作业的数据溯源和追踪、帮助您更好地管理和优化作业的数据流、快速定位问题和评估影响面。本文为您介绍如何通过作业角度和元数据角度查看血缘关系。背景信息 在数据的来源和变更历史无法追踪的情况下，数据的...
- 产品推荐
- 这些文档可能帮助您