通过Logstash导入数仓版

更多参数配置:max_flush_exceptions:当写入数据出现异常时,设置最大重试次数,默认值100。skip_exception:设置是否跳过异常,默认为FALSE,表示出现异常时将重试直到到达最大重试次数 max_flush_exceptions,如果仍然失败,则同步程序...

基于Client SDK数据写入

错误码名 错误码值 描述 COMMIT_ERROR_DATA_LIST 101 commit中某些数据出现异常,会返回异常的数据。说明 通过 e.getErrData()即可获得异常数据List,此错误码在 addMap(s)、addRow(s)、commit 操作的时候都可能会发生,因此在这些操作的...

在程序中通过AnalyticDB MySQL版Client高效写入数据到...

COMMIT_ERROR_DATA_LIST 101 提交中某些数据出现异常,会返回异常的数据,通过 e.getErrData()即可获得异常数据List。此错误码在 addMap(s)、addRow(s)和提交操作的时候都可能会发生,需要单独处理此错误码的异常。COMMIT_ERROR_OTHER 102 ...

质量规则模板类型

实时多链路对比 高可用场景下,需要构建多条链路,以便数据出现异常时,能够及时切换。对于多链路之间的数据计算进度监控则可以发现一些数据滞留、统计偏差问题,提升实时数据质量。稳定性 实时统计值检测 实时数据为指标值或可统计数据时...

质量规则模板类型

实时多链路对比 高可用场景下,需要构建多条链路,以便数据出现异常时,能够及时切换。对于多链路之间的数据计算进度监控则可以发现一些数据滞留、统计偏差问题,提升实时数据质量。稳定性 实时统计值检测 实时数据为指标值或可统计数据时...

实例告警

及时发现数据库异常是数据库日常运维的重要...当数据出现异常情况或达到预设的告警阈值时,系统会立即通知设定的告警联系人,以帮助您及时发现数据库异常并维护数据库的稳定性。操作步骤 为实例配置警规则和告警模板,详情请参见 配置告警。

使用创建反向任务功能

请根据业务数据出现异常后的预估恢复时间,合理设置数据库Binlog的保存时间。若原实例为Serverless实例,则创建的反向实例的计费方式将为按量付费,且规格为 micro;若原实例的计费方式为包年包月或按量付费,则创建的反向实例的计费方式...

实例告警

数据出现异常情况或达到预设的告警阈值时,系统会立即通知设定的告警联系人,以帮助您及时发现数据库异常并维护数据库的稳定性。操作步骤 登录 DAS控制台。在左侧导航栏中,单击 实例监控。找到目标实例,单击实例ID,进入目标实例详情...

数据订阅SDK容灾

为了简化用户使用SDK的复杂度,DTS实现了SDK容...当主SDK异常或是出现网络连接异常时,DTS会自动failover漂移到备SDK上,同时使用最后消费的时间点启动备SDK。主SDK每消费一条数据,会向DTS控制系统汇报一个ACK,即向控制系统汇报消费时间点。

异常检测

及时发现数据库的异常问题是数据库日常运维的重点。数据库自治服务DAS提供异常检测功能,基于...相关文档 您可以利用DAS的自治功能,在数据出现异常时进行自动处理。自动SQL限流 自动SQL优化 自动性能扩展 自动空间扩展 空间碎片自动回收

接入DAS的实例状态概览

您可以将阿里云数据库或自建数据库实例接入...监控异常 DAS数据库网关(DBGateway)出现异常,详情请参见 DBGateway常见问题。连接正常 目标实例已正确连接至DAS控制台,您可以使用集群管理、实例监控和告警服务等功能,详情请参见 产品功能。

Tair Proxy特性说明

在某些极端场景下某个数据分片出现异常后,对数据的影响及优化方案如下。场景 影响与优化方案 图 2.多Key命令场景 影响:客户端通过4个连接发送4个请求,当数据分片2处于异常状态时,仅有请求1(GET Key1 可正常读取到数据),其他请求会...

如何备份RDS只读实例

本文以RDS MySQL只读实例为例,介绍如何使用 数据库备份DBS 备份RDS只读实例。前提条件 已购买DBS备份计划。购买方法,请参见 创建备份计划。说明 购买时,选择数据库类型为 MySQL,并选择备份方式为 逻辑备份。已创建RDS MySQL只读实例。...

RDS MySQL只读实例逻辑备份

本文介绍如何使用 数据库备份DBS 备份RDS MySQL只读实例。前提条件 已购买DBS备份计划。购买方法,请参见 创建备份计划。说明 购买时,选择数据库类型为 MySQL,并选择备份方式为 逻辑备份。已创建RDS MySQL只读实例。创建方法,请参见 ...

Redis Proxy特性说明

在某些极端场景下某个数据分片出现异常后,对数据的影响及优化方案如下。场景 影响与优化方案 图 2.多Key命令场景 影响:客户端通过4个连接发送4个请求,当数据分片2处于异常状态时,仅有请求1(GET Key1 可正常读取到数据),其他请求会...

数据集成概述

数据数据是对于业务没有意义,格式非法或者同步过程中出现异常数据。单条数据写入目标数据源过程中发生了异常,则此条数据为脏数据。因此只要是写入失败的数据均被归类于脏数据。例如,源端是VARCHAR类型的数据写到INT类型的目标列...

升级步骤

查看数据同步任务详情(可选)在版本升级的过程中,若升级报错或出现其他异常时,您可以前往对应的DTS数据同步任务详情页查看数据同步任务的详细信息。登录 PolarDB控制台。找到目标集群,单击集群ID。在 基本信息 页面的 PolarDB升级功能 ...

离线同步常见问题

数据同步原则:来源端数据源的数据要能写入目的端数据源(来源端和目的端类型需要匹配,字段定义的大小需要匹配),即源端数据类型需要与写端数据类型匹配,源端是VARCHAR类型的数据不可写到INT类型的目标列中;目标端的数据类型定义的大小...

功能特性

云原生内存数据库Tair 云原生内存数据库Tair是阿里云自研数据库,兼容Redis的同时提供更多数据结构和企业级能力,包括全球多活、任意时间点恢复和透明加密等。支持多种存储介质和不同场景性价比需求:内存型支持超高吞吐,性能为Redis三倍...

Kafka实时ETL同步至Hologres

数据输出预览 窗口,您可以根据需要修改输入数据,或者单击 手工构造数据 按钮自定义输入数据,然后单击 预览 按钮,查看当前数据处理节点对数据的处理结果,当数据处理节点处理异常,或者产生脏数据时,也会实时反馈异常信息,能够帮助...

PolarDB MySQL版CPU使用率高

整个数据库系统的缓存区域,是数据交换最为频繁的位置,如果内存不足和内存页争抢,则会出现各种异常的堆积和慢查询。最典型的表现是数据库突然CPU上涨打满,并且出现慢查询。经过排查后发现该问题并非索引缺失,这个时候就有可能是内存...

迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle...

本文为您介绍如何使用数据传输迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle 租户。重要 如果数据迁移项目长期处于非活跃状态(项目状态为 失败、已暂停 或 已完成),受增量日志保留时长等影响,项目可能无法恢复。数据传输将主动...

时序引擎版本说明

功能优化 修复TSQL条件中出现BOOLEAN数据类型的数据时可能出现异常的问题。3.4.17(稳定版本)发布日期 类型 说明 2022年06月17日 新特性 支持设置写入的最大时间(即当前时间和偏移时间),超过偏移时间后写入的数据会被丢掉。功能优化 ...

创建PolarDB-X 1.0数据订阅任务

本文介绍如何创建 PolarDB-X 1.0 数据订阅任务。前提条件 已创建 PolarDB-X 1.0,如未创建请参见 创建实例 和 创建数据库。说明 PolarDB-X 1.0 的存储类型支持为RDS MySQL(包括私有定制RDS和单独购买的RDS),暂不支持为PolarDB MySQL。若...

MaxCompute数据离线同步至ClickHouse

批量写入ClickHouse异常时 批量写入ClickHouse异常时,可以选择异常处理策略:尝试单条写入,单条写入仍异常则计入脏数据:单条写入可用于识别少量脏数据但单条写入对ClickHouse负载影响较大,需要您谨慎选择。同步任务失败退出:出于...

常见错误处理方法

连接异常 连接异常即应用程序或者客户端与数据库的连接出现异常,例如已经创建的连接,提示连接不存在或连接超时,无法与数据库实例建立连接等。连接异常经常发生在网络闪断,或者数据库服务重启时,您需要在应用程序中就此类异常,添加重...

一键克隆RDS MySQL至PolarDB MySQL版

若遇到迁移报错(如预检查失败)或者其他异常状态(如复制延迟异常高)时,您可以前往对应的DTS数据同步任务的详情页,查看数据同步任务的具体信息。进入 PolarDB控制台。找到目标集群,单击集群ID。在 基本信息 页面的 RDS迁移功能 中,...

配置订阅任务(新控制台)

数据传输服务DTS(Data Transmission Service)提供的数据订阅功能简单易用,您只需在控制台上进行简单操作,即可完成数据订阅任务的配置。注意事项 本文仅简单介绍数据订阅任务的通用配置流程,不同的数据源在配置数据订阅任务时略有不同...

配置数据订阅任务

数据订阅功能可以帮助您获取数据库的实时增量数据,您可以根据自身业务需求自由消费增量数据,并写入任意目标端,适配各类业务场景,例如缓存更新、业务异步解耦、异构数据数据实时同步及含复杂ETL的多种业务场景。本文将介绍在DTS专属...

创建DMS逻辑库的数据订阅任务

源库、目标库出现其他问题后的重试时间 在订阅任务启动后,若源库出现非连接性的其他问题(如DDL或DML执行异常),则DTS会报错并会立即进行持续的重试操作,默认持续重试时间为10分钟,您也可以在取值范围(1~1440分钟)内自定义重试时间,...

创建Oracle数据订阅任务

通过数据订阅功能,您可以实时订阅源库的增量数据,轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文为您介绍如何创建Oracle数据订阅任务。前提条件 自建Oracle数据库的版本为9i、10g、11g版本,暂不...

创建PolarDB-X 2.0数据订阅任务

源库、目标库出现其他问题后的重试时间 在订阅任务启动后,若源库出现非连接性的其他问题(如DDL或DML执行异常),则DTS会报错并会立即进行持续的重试操作,默认持续重试时间为10分钟,您也可以在取值范围(1~1440分钟)内自定义重试时间,...

创建RDS MySQL数据订阅任务

通过数据订阅功能,您可以实时订阅源库的增量数据,轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文将介绍如何创建 RDS MySQL 数据订阅任务。前提条件 已创建源 RDS MySQL 实例,创建方式,请参见 ...

创建PolarDB PostgreSQL版数据订阅任务

源库、目标库出现其他问题后的重试时间 在订阅任务启动后,若源库出现非连接性的其他问题(如DDL或DML执行异常),则DTS会报错并会立即进行持续的重试操作,默认持续重试时间为10分钟,您也可以在取值范围(1~1440分钟)内自定义重试时间,...

创建PolarDB MySQL版数据订阅任务

通过数据订阅功能,您可以实时订阅增量数据,轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文介绍如何创建 PolarDB MySQL版 数据订阅任务。前提条件 已创建 PolarDB MySQL版 集群,详情请参见 购买...

使用DTS创建数据订阅

源库、目标库出现其他问题后的重试时间 在订阅任务启动后,若源库出现非连接性的其他问题(如DDL或DML执行异常),则DTS会报错并会立即进行持续的重试操作,默认持续重试时间为10分钟,您也可以在取值范围(1~1440分钟)内自定义重试时间,...

创建RDS PostgreSQL数据订阅任务

源库、目标库出现其他问题后的重试时间 在订阅任务启动后,若源库出现非连接性的其他问题(如DDL或DML执行异常),则DTS会报错并会立即进行持续的重试操作,默认持续重试时间为10分钟,您也可以在取值范围(1~1440分钟)内自定义重试时间,...

行业趋势与背景

数据库系统是一切应用软件的数据处理及交换核心,是所有基础软件进行数据存储、查询、分析处理的中心。数据库系统运行性能是否高效稳定、接口语言是否通用,直接决定了上层应用能否给用户提供好的性能,同时直接影响开发人员效率。根据全球...

配置DTS迁移、同步或校验任务

Reserve String 否 {"srcInstanceId":"cen-9kqshqum*"} DTS预留参数,格式为JSON字符串,您可以传入本参数完善源目库信息(如目标Kafka数据库的数据存储格式、云企业CEN的实例ID)。更多信息,请参见 Reserve参数说明。Checkpoint String...

数据投递

数据传输服务DTS(Data Transmission Service)提供的数据投递功能,用户可以通过SDK将各种类型的数据源投递到DTS,再由DTS同步至目标数据库,从而支持更多类型的数据源。应用场景 数据投递功能适用于以下任一场景:源端为DTS同步方案暂不...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 Redis 版 云数据库 RDS 数据库备份 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用