应用场景
大数据分析：可对接Storm、Spark等实时数据处理引擎，亦可对接Hadoop等离线数据仓库系统。日志聚合 许多公司，例如淘宝、天猫等，每天都会产生大量的日志（一般为流式数据，例如搜索引擎PV、查询等）。相较于以日志为中心的系统，例如...
查看实时同步任务详情
实时同步任务是由实时数据同步时发起的任务，运维监控支持查看实时同步任务及其详情。本文介绍查看实时同步任务的详情。前提条件 已上线实时同步任务，具体操作，请参见 上线实时任务。操作步骤 登录 数据资源平台控制台。在页面左上角，...
RBAC授权
本文介绍如何在数据流服务Confluent控制台中进行RBAC授权。背景信息 RBAC的全称是Role Based Access Control。RBAC的授权方式是基于角色进行授权的，而ACL是基于权限进行授权。因此，RBAC比ACL更适合批量授权以及权限回收。RBAC授权主要有...
查看实时同步任务详情
实时同步任务是由实时数据同步时发起的任务，运维监控支持查看实时同步任务及其详情。本文介绍查看实时同步任务的详情。前提条件 已上线实时同步任务，具体操作，请参见 上线实时任务。操作步骤 登录企业数据智能平台。在页面左上角，单击 ...
查看实时同步任务详情
实时同步任务是由实时数据同步时发起的任务，运维监控支持查看实时同步任务及其详情。本文介绍查看实时同步任务的详情。前提条件 已上线实时同步任务，具体操作，请参见 上线实时任务。操作步骤 登录企业数据智能平台。在页面左上角，单击 ...
实时同步数据库的数据至Hologres
常见的支持实时数据同步的数据库包括：Oracle、Polar DB、PolarDB MySQL等。说明 如需查看更多支持的数据库，请参见 支持的数据源及同步方案。相关原理：MySQL Reader、Oracle数据源、PolarDB Reader、SQL Server Reader、Hologres数据源。...
配置转换组件
单击左上角的，在 新增数据流 对话框中，您需在 数据流名称 配置ETL任务名称，选择 开发方式 为 DAG。单击 确认。完成数据源信息的配置，配置方法请参见 配置源库信息。重要 需要配置两个源库。在页面左侧，将 表 Join 节点拖拽至页面右侧...
FineBI
需要下载支持实时数据的版本（实时数据版本支持直联 AnalyticDB MySQL版 引擎）。更多详情，请参见 实时数据（直连）。如果您是第一次安装FineBI，需要安装MySQL服务器（例如阿里云RDS MySQL），用于导入FineBI的元数据，更多详情，请参见 ...
质量规则模板类型
实时元表模板类型 模板详情分类 描述 一致性 实时离线对比 当实时数据与离线数据使用相同的统计逻辑时，用于数据的最终值差异的校验。如果差异较大，可能存在较大数据质量的问题需要进行确认和修复。实时多链路对比 高可用场景下，需要构建...
质量规则模板类型
实时元表模板类型 模板详情分类 描述 一致性 实时离线对比 当实时数据与离线数据使用相同的统计逻辑时，用于数据的最终值差异的校验。如果差异较大，可能存在较大数据质量的问题需要进行确认和修复。实时多链路对比 高可用场景下，需要构建...
用户管理
作为集群安全的一部分，数据流服务Confluent提供了用户管理功能。您可以在用户管理页面完成新增用户、修改密码、删除用户等操作。本文介绍用户管理的具体操作步骤。查看用户列表 首先登录 流数据服务Confluent管控页，点击集群管理>进入...
功能特性
基于DLA+DTS同步RDS数据来构建实时数据湖 DLA Serverless Presto DLA Serverless Presto是云原生数据湖团队基于Presto打造的交互式分析引擎，Presto开发的初衷就是为了解决使用Hive来进行在线分析速度太慢的问题，因此它采用全内存流水线化...
DataV读取数据源超时
问题描述 阿里云DataV数据可视化产品主要用于动态、实时数据展示场景，需要对数据高频实时查询，对数据访问性能有一定要求，您的数据源访问经常出现超时的情况。问题原因 查询超时的原因如下：使用SQL查询的业务数据表数量太大。API接口...
产品概述
既提供高性能离线数据处理，也支持高并发在线分析查询，是各行业有竞争力的PB级实时数据仓库方案。主要功能 易适配，免调优 支持SQL 2003，部分兼容Oracle语法，支持PL/SQL存储过程。新一代SQL优化器，实现复杂分析语句免调优。PB级数据秒...
快速搭建实时数仓分析大屏
背景信息 Hologres是阿里云的实时交互式分析产品，通过内置的实时数据API（详情请参见 实时数据API）直接对接实时计算，实现高并发实时写入或查询实时数据，速度达到秒级。Hologres兼容PostgreSQL，将查询到的数据直接对接BI分析工具，使用...
独享数据集成资源组
例如，单表实时数据同步、整库实时数据同步。详情请参见 实时同步能力说明。提供一系列同步解决方案。例如，整库离线数据同步，单表或整库全增量实时数据同步。详情请参见 同步解决方案能力说明。说明 独享数据集成资源组保障的是数据同步...
使用流程
通过一键建仓和多仓合并建仓（仅支持数据库）、实时数据湖（支持数据库和消息日志）功能来构建数据湖。具体操作请参见 一键建仓 多库合并建仓 和 实时数据湖。连接数据源：您也可以通过DLA直接连接其他数据源或者OSS来进行数据分析与计算。...
实时同步能力说明
DataWorks为您提供的实时数据同步功能，方便您使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至目标数据库中，实现目标库实时保持和源库的数据对应。使用限制 实时同步不支持在数据开发界面运行任务，您需要保存、...
数据同步流程
适用于数据异地多活、数据异地灾备、数据聚合和实时数据仓库等多种业务场景。您可以参考以下流程进行同步前的准备工作、以及购买、配置和管理数据同步项目。完成准备工作。数据传输已具备云资源访问权限。详情请参见 数据传输迁移角色授权...
典型场景
构建数据湖 实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建大规模的可以增删改查的数据集，延迟为T+10分钟。一键建仓：支持数据库一键入湖，T+1天。文件上传：数据上传后，DLA元数据发现功能可自动发现并构建好元数据体系。数据...
SELECT
流引擎兼容Apache Flink SQL的SELECT语句。Apache Flink V1.17.1 SELECT语句详情如下表所示。...Top-N 去重 从数据流中去除重复的行数据。Deduplication 说明 如果您需要查看其它版本Queries语句，请注意切换到对应版本。
ACL授权
ACL授权主要有两种方式：使用数据流服务Confluent控制台实现ACL授权。本文详细介绍这一授权方式。使用Confluent CLI实现ACL授权。操作指引请参见 使用Confluent CLI进行ACL管理。管控侧ACL授权步骤 首先登录 流数据服务Confluent管控页，...
什么是视图计算
产品能力 视图计算产品将您的监控设备、智能设备通过标准化协议接入阿里云视图计算接入节点，在云端进行监控流的收录存储、媒体处理，通过CDN进行加速分发，供全网用户直接流畅播放实时监控流和历史监控流。提供接口方便监控内容对接视频...
函数概览
函数 说明 窗口函数 将数据流分割为指定大小的集合，并支持基于集合进行计算。聚合函数 返回一组数值的统计或计算结果。条件函数 返回指定条件下的数据处理、判断等结果。比较函数 比较两个或多个对象的值，并返回比较结果。算术函数 返回...
并行查询Hint语法
并行扫表后，将数据按照group by key分发到下层worker 通过 PQ_DISTRIBUTE 指定两表的join方式：/*+PQ_DISTRIBUTE([query_block]table_name strategy1[strategy2])*/以上hint如果只指定了 strategy1，则相当于指定某个表的数据分发方式；...
整体架构
云原生数据仓库AnalyticDB MySQL版 是阿里巴巴自主研发、经过超大规模以及核心业务验证的PB级实时数据仓库。概述 自2012年第一次在集团发布上线以来，AnalyticDB MySQL版 至今已累计迭代发布近百个版本，支撑起集团内的电商、广告、物流、...
数据传输作业：数据集成
实时同步 DataWorks提供的实时数据同步功能，使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至MaxCompute中，实现MaxCompute实时保持和源库的数据对应。一个实时同步任务支持多个转换插件进行数据清洗，并支持多个...
数据同步操作指导
数据同步功能可以帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等多种业务场景。本文介绍数据同步功能的具体使用流程，帮助您快速掌握创建、...
需求分析
根据规范设计工作流（即业务流程）：基于数据流设计工作流：DataWorks上任务上下游关系遵循节点名与表名一一对应原则，基于数据流设计工作流。节点命名规范详情请参见：配置同周期调度依赖。新增业务流程管理设计：由于OSS同步任务（ods_...
需求分析
根据规范设计工作流（即业务流程）：基于数据流设计工作流：DataWorks上任务上下游关系遵循节点名与表名一一对应原则，基于数据流设计工作流。节点命名规范详情请参见：配置同周期调度依赖。新增业务流程管理设计：由于OSS同步任务（ods_...
数据存储冷热分离
如果加载数据之后 hot_total_size 和 cold_total_size 都为0，则表示数据还在实时中，rt_total_size 为实时数据的存储，可以通过执行build语句，将实时数据转换为分区数据，待build完成后可以查到 hot_total_size 和 cold_total_size。...
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
数据迁移、同步和恢复区别
数据同步主要用于两个数据源之间的数据实时同步，适用于异地多活、数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等场景。它属于持续性任务，任务创建后会一直同步数据，保持数据源和数据目标的数据一致性。
边缘转推配置
如果需要将直播流分发至其他多个平台，且直播源区域较广、直播流数较多，您可以在推流域名上进行边缘转推配置，从而满足直播流多平台分发的需求。使用说明 开启、修改和删除边缘转推配置仅对新发起的推流生效。例如：您在控制台开启边缘转...
配置源库信息
单击左上角的，在 新增数据流 对话框中，您需在 数据流名称 配置ETL任务名称，选择 开发方式 为 DAG。单击 确认。在页面左侧，将 输入/维表 MySQL 节点拖拽至页面右侧画布的空白区域。单击画布区域的 输入/维表 MySQL-1，根据页面信息配置...
蓝图编辑器精选案例实战
如何通过合并请求进行数据分发 本案例是通过蓝图编辑器实现以 通用标题 组件请求数据，并分发给 数字翻牌器 和 多行文本 组件的功能。配置案例交互操作步骤如下，具体实操请参见 如何通过合并请求进行数据分发。在画布编辑器中添加 数字...
数据同步方案概览
数据同步功能帮助您实现数据源之间的数据实时同步，适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、云BI及实时数据仓库等多种业务场景。本文将介绍数据同步功能支持的数据库、同步类型和同步拓扑。收费策略 DTS数据同步...
典型使用场景
Kafka/Flink等消息中间件/流数据系统将数据实时Sink到 AnalyticDB PostgreSQL版。AnalyticDB PostgreSQL版 通过攒批覆盖写特性和近线性的水平扩展能力，集群整体实时写入性能可达百万级TPS。批量加载 批量加载的具体操作包括“copy from ...
- 产品推荐
- 这些文档可能帮助您