应用场景
3.实时数据仓库 3.1 数据总线替换传统数据库，构建实时数仓 从Lambda架构到Kappa架构，通过数据总线搭建原始数据层，实时明细层和实时汇总层，打造实时数据仓库。3.2 收益 统一的Kappa架构 传统Lambda架构的两条链路缩减为一条，大大降低...
什么是ETL
应用场景 多地域或异构数据实时集中：将多地域或者异构数据实时存储至同一数据库中，便于企业中心化高效管理及决策支持。实时数据集成：ETL强大的流式数据转换处理能力大幅提升数据集成效率，低代码的开发方式也进一步降低了数据集成的难度...
流式ETL
应用场景 多地域或异构数据实时集中：将多地域或者异构数据实时存储至同一数据库中，便于企业中心化高效管理及决策支持。实时数据集成：ETL强大的流式数据转换处理能力大幅提升数据集成效率，低代码的开发方式也进一步降低了数据集成的难度...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
分析实例简介
云ClickHouse分析实例 云ClickHouse分析实例本质是云数据库ClickHouse实例，其通过MaterializedMySQL引擎将RDS MySQL实例中的数据同步到云数据库ClickHouse中，并利用其强大的分析性能解决多维聚合实时分析问题。详细创建步骤请参见 创建云...
数据同步流程
您已为源端和目标端创建专用于数据同步的数据库用户，并赋予其相关权限。详情请参见 创建数据库用户。新建数据源。在 数据传输>管理数据源 页面，分别新建源端和目标端的数据源。详情请参见 新建数据源 模块的文档。购买数据同步项目。根据...
入仓解决方案
支持的数据库部署位置 有公网IP的自建数据库 无公网IP:Port的数据库（通过数据库网关DG接入）通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能...
数据同步方案概览
源为自建SQL Server或RDS SQL Server的同步方案 源为自建MongoDB或云数据库MongoDB的同步方案 源为自建Redis或云数据库Tair/Redis的同步方案 源为MariaDB的同步方案 源为Db2 for LUW的同步方案 源为Db2 for i（AS/400）的同步方案 源为数据...
实时数据消费概述
实时数据源消费 Kafka数据集成是实时分析功能的另一个组件，它允许 AnalyticDB PostgreSQL版 数据库实时地从Kafka Topic中消费数据。为您提供了一个强大的工具，用于结合流处理和批处理的数据分析。更多信息，请参见 实时数据源集成。使用...
应用场景
阿里云提供了非常完善的BI体系，DTS可以帮助您将自建数据库实时同步至阿里云的BI存储系统（例如MaxCompute、分析型数据库或流计算等），助力您在阿里云上快速搭建满足自身业务的定制化BI系统。数据实时分析 传输方式：数据订阅 数据分析在...
使用DTS同步RDS MySQL数据到AnalyticDB MySQL 2.0
本文以RDS MySQL数据源为例，介绍如何通过DTS将RDS MySQL数据实时同步至 AnalyticDB MySQL版 2.0 中。前提条件 根据 RDS MySQL快速入门，准备好测试...进入 AnalyticDB MySQL版控制台，在 ads_DataBase 数据库中可以查看到同步过来的数据表。
错误码表（2.0版）
18001 Not support CREATE DATABASE in db:schema 无法在该数据连接上进行CREATE DATABASE操作，请检查所用数据库连接是否正确。18002 非ADS user导致的失败信息。操作必须由ADS user进行，请确认当前使用的UMM账号是ADS用户账号。18003 NA...
引擎简介
云原生多模数据库 Lindorm 流引擎面向实时数据处理场景，支持使用标准的SQL及熟悉的数据库概念完成一站式的实时数据处理，适用于车联网、物联网和互联网中常见的ETL、实时异常检测和实时报表统计等场景。本文介绍Lindorm流引擎的应用场景和...
Flink CDC技术
相关文档 数据库实时入仓快速入门 日志实时入仓快速入门 CDC问题
概述
实时监控是一整套海量数据实时分析解决方案，以日志、REST 接口、Shell 脚本、云产品接口等作为数据采集来源，提供资源、应用、业务等各种视角的监控能力，从而帮您快速发现问题、定位问题、分析问题、解决问题，为线上系统可用率提供有效...
数据库实时入仓快速入门
同样的操作依次为tpc_ds、user_db1、user_db2和user_db3数据库导入对应的数据文件。在Hologres控制台创建my_user数据库，用于存放合并后的user表数据。操作步骤详情请参见 创建数据库。配置IP白名单 为了让Flink能访问MySQL和Hologres实例...
入湖基础操作
关系数据库实时入湖：可以实现RDS MySQL或PolarDB数据库表数据增量同步到数据湖，选择在数据源管理中配置好的数据源，将数据源对应数据库中选定表的数据抽取binlog的方式将数据库表数据实时同步回放到数据湖中。待同步的数据表需确认包含...
CREATE DATABASE AS（CDAS）语句
参数 说明 target_database 数据同步的目标数据库名，可以指定具体的Catalog名称。COMMENT 目标库的描述，默认使用source_database的描述。WITH 目标库的参数，详情请参见 管理元数据 中对应的Catalog文档。说明 key和value都需要为字符串...
平滑扩容
扩容示意图下：PolarDB-X 1.0 扩容步骤如下：创建扩容计划 选择新增加RDS/PolarDB MySQL，并选定需要迁移到新RDS/PolarDB MySQL实例上的分库，提交任务后系统自动在目标RDS/PolarDB MySQL上创建数据库和账号，并提交任务进行数据迁移同步。...
CREATE TABLE AS（CTAS）语句
通过CTAS语句，在实时同步数据的同时，还能实时将上游表结构（Schema）的变更同步到下游表，提高您在目标存储中创建表和维护源表结构变更的效率。本文为您介绍CREATE TABLE AS（CTAS）的使用方法，并提供了多种使用场景下的示例。前提条件 ...
什么是实时数仓Hologres
所见即所得的开发 数据实时写入即可查询，支持DB、Schema、Table三级体系，支持视图View，原生支持Update/Delete/Upsert，支持关联、嵌套、窗口等丰富表达能力，原生支持半结构化JSON数据分析，支持MySQL等数据库数据整库一键入库，实时...
计算设置概述
设置Dataphin实例的计算引擎为MaxCompute AnalyticDB for PostgreSQL 专注于OLAP领域的分析型数据库，是云端托管的PB级高并发实时数据仓库，具备海量数据计算无缝伸缩能力 设置Dataphin实例的计算引擎AnalyticDB for PostgreSQL E-...
基于Flink+Hologres搭建实时数仓
数据库创建和授权操作，请参见 DB管理。说明 如果在 被授权账号 的下拉列表找不到对应的账号，则说明该账号并未添加至当前实例，您需要前往 用户管理 页面添加用户为SuperUser。Hologres2.0之后版本默认开启binlog扩展，无需手动执行。...
基于Flink+Hologres搭建实时数仓
购买实例后，需要创建order_dw数据库和用户（为用户赋予admin权限），推荐使用简单权限模型创建数据库，详情请参见 简单权限模型的使用 和 DB管理。如果在 被授权账号 的下拉列表找不到对应的账号，则说明该账号并未添加至当前实例，您需要...
使用ETL分析实时订单
应用场景 为满足企业处理实时数据的需求，ETL提供了流式数据抽取、加工和加载功能，能够高效整合海量实时数据，支持拖拽式操作和低代码开发方式，帮助企业轻松完成商业决策分析、报表提速、实时数据计算等。企业在数字化转型过程中，涉及...
使用Hologres和大模型免费定制专属聊天机器人
什么是实时数仓Hologres Hologres是阿里巴巴自主研发的一站式实时数仓引擎（Real-Time Data Warehouse），支持海量数据实时写入、实时更新、实时加工、实时分析…… 语料数据向量化并导入Hologres：运行如下命令将语料数据转化为向量（Text...
日志服务数据同步至Hologres
Hologres致力于高性能、高可靠、低成本、可扩展的实时计算引擎研发，为用户提供海量数据的实时数据仓库解决方案和亚秒级交互式查询服务，广泛应用在实时数据中台建设、精细化分析、自助式分析、营销画像、人群圈选、实时风控等场景。...
基于Flink+Paimon搭建流式湖仓
方案架构和优势 架构 实时计算Flink版是强大的流式计算引擎，支持对海量实时数据高效处理。流式数据湖仓Paimon是流批统一的湖存储格式，支持高吞吐的更新和低延迟的查询。Paimon与Flink深度集成，能够提供一体化的流式湖仓联合解决方案。...
实时大盘
数据库自治服务DAS提供了全局的 实时性能大盘，可以查看所有接入实例的实时性能情况。如果您的业务正在大促、或者正在进行重大变更，可以通过该功能实时确认数据库健康情况。前提条件 在DAS中接入对应的数据库实例，并且接入状态显示为 接...
实时同步数据库的数据至Hologres
常见的支持实时数据同步的数据库包括：Oracle、Polar DB、PolarDB MySQL等。说明 如需查看更多支持的数据库，请参见 支持的数据源及同步方案。相关原理：MySQL Reader、Oracle数据源、PolarDB Reader、SQL Server Reader、Hologres数据源。...
备份对数据库的影响
增量备份原理 支持实时捕获数据库内存中的日志，实现实时增量备份，避免堆积数据，从而降低对数据库IO性能的影响。对数据库的影响 从数据库实例中读取数据，对数据库性能有一定影响，但不会造成锁表的情况。从数据库磁盘中读取数据，对数据...
A100使用指南
支持审计10个数据库实例 12,000元/月 144,000元/年 企业版 吞吐量峰值：30,000条SQL/秒 800万/小时入库速率 10亿条在线SQL语句存储 350亿条归档SQL语句存储 支持审计25个数据库实例 20,000元/月 240,000元/年 说明 可以通过需要使用的数据...
如何选择备份方式
增量备份原理 支持实时捕获数据库内存中的日志，实现实时增量备份，避免堆积数据，从而降低对数据库IO性能的影响。日志读取速度也会随着数据库日志产生速度而调整。特性 支持进行更精细的库、表级别备份。不会对数据库加锁，对数据库性能...
实时性能
数据库自治服务DAS为RDS PostgreSQL提供实时性能功能，可以实时查看数据库实例性能。本文介绍如何使用实时性能功能。前提条件 RDS PostgreSQL数据库实例为高可用版。操作步骤 访问 RDS实例列表，在上方选择地域，然后单击目标实例ID。在...
性能优化与诊断简介
在RDS PostgreSQL日常运维中，您可以通过数据库自治服务DAS（Database Autonomy Service）来处理数据库故障、优化性能、提升效率、降低运维成本。DAS是一种基于机器学习和专家经验的云服务，实现数据库自感知、自修复、自优化、自运维和自...
C100售前支持相关问题
数据库审计和其他产品的区别 数据库审计产品相对于自己安装Packetbeat抓取流量审计和RDS数据库自带的SQL洞察功能，有以下区别：支持的数据库协议：数据库审计产品是专注于数据库协议解析的，支持的数据库协议更丰富，解析的粒度更细。...
什么是数据库审计
数据库审计服务是一款专业、主动、实时监控数据库安全的审计产品，可用于审计阿里云原生数据库和自建数据库。数据库审计服务将数据库监控、审计技术与公共云环境相结合，针对数据库SQL注入、风险操作等数据库风险行为进行记录与告警，形成...
逻辑备份、物理备份与快照
增量备份 支持实时捕获数据库内存中的日志，实现实时增量备份，避免堆积数据，从而降低对数据库IO性能的影响。日志读取速度也会随着数据库日志产生速度而调整。特性 支持进行更精细的库、表级别备份。不会对数据库加锁，对数据库性能影响较...
实时性能大盘
数据库自治服务DAS提供了全局的 实时性能大盘，可以查看所有接入实例的实时性能情况。如果您的业务正在大促、或者正在进行重大变更，可以通过该功能实时确认数据库健康情况。操作步骤 登录 DAS控制台。在左侧导航栏，单击 实时性能大盘。...
应用场景
大数据存储与分析 传统的数据分析场景下，用户需要把数据从在线数据库（Operational Database）复制到离线数据仓库（Data Warehouse）上之后再进行数据分析，这需要海量数据的多次复制、传输、加载和存储等多方面工作。HybridDB for MySQL...
- 产品推荐
- 这些文档可能帮助您