离线同步任务运维

数据质量监控 数据集成部分目标端数据源支持配置产出表的数据质量监控,您可以进入数据质量规则页面,对数据同步写入的目标表配置数据质量校验规则。对于配置了数据质量监控规则的表,当表关联的调度节点运行(执行节点代码逻辑)完成后...

通用参考:按量付费转包年包月

独享数据集成资源组:网络连通方案 独享调度资源组:网络连通方案 独享数据服务资源组:网络连通方案。使用资源组 资源组绑定工作空间:资源组购买完成后,您需要为资源组绑定所需工作空间。独享数据集成资源组:绑定归属工作空间 独享调度...

使用DataWorks

MaxCompute支持通过DataWorks的数据集成功能将MaxCompute中的数据以离线方式导出至其他数据源。当您需要将MaxCompute中的数据导出至其他数据源执行后续数据处理操作时,您可以使用数据集成功能导出数据。本文为您介绍如何将MaxCompute的...

元数据采集

DataWorks数据地图为您提供 元数据采集 功能,方便您将不同系统中的元数据进行统一汇总管理,您可以在数据地图查看从各数据源汇集而来的元数据信息。本文为您介绍如何创建采集器,将各数据源的元数据信息汇集至DataWorks。前提条件 您需要...

创建MySQL数据

数据源配置 基于业务数据源是否区分生产数据源和开发数据源:如果业务数据源区分生产数据源和开发数据源,则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源,则选择 生产数据源。标签 您可根据标签给数据源进行分类...

独享资源组模式

如果做过网络打通,即存在数据库和DataWorks不在同一个region、数据库和DataWorks不在同一个阿里云账号、数据库在本地IDC环境下等需要网络打通的情况,请为独享绑定数据库已经打通的VPC,请参见 新增和使用独享数据集成资源组,再在绑定...

创建PostgreSQL数据

前提条件 若您需在Dataphin中创建基于阿里云产品的数据源,创建数据源前,需确保Dataphin的IP已添加至数据库白名单(或安全组)中,使数据源与Dataphin网络互通。具体操作,请参见 数据源白名单配置。权限说明 Dataphin仅支持 超级管理员、...

创建Microsoft SQL Server数据

前提条件 若您需在Dataphin中创建基于阿里云产品的数据源,创建数据源前,需确保Dataphin的IP已添加至数据库白名单(或安全组)中,使数据源与Dataphin网络互通。具体操作,请参见 数据源白名单配置。使用限制 Dataphin仅支持 超级管理员、...

创建ClickHouse数据

前提条件 若您需在Dataphin中创建基于阿里云产品的数据源,创建数据源前,需确保Dataphin的IP已添加至数据库白名单(或安全组)中,使数据源与Dataphin网络互通。具体操作,请参见 数据源白名单配置。权限说明 Dataphin仅支持 超级管理员、...

创建Hologres数据

新建Hologres数据源用于实现Dataphin能够读取Hologres的业务数据,及能够向Hologres写入数据。在引入Hologres的业务数据至Dataphin和将Dataphin的数据写入至Hologres的场景中,您需要先创建Hologres数据源。本文为您介绍如何新建Hologres...

数据服务入门

步骤一:创建数据源并配置网络连通性 使用数据服务创建API前,您需将数据库或数据仓库添加为DataWorks的数据源,并保障数据服务资源组与您的目标数据网络连通,以便调用API时DataWorks可成功访问数据源。说明 DataWorks工作空间将集群或...

配置VPC数据

本文介绍在DataV中配置专有网络VPC(Virtual Private Cloud)内数据源的方法。通过专有网络VPC数据源的配置,您可以将专有网络VPC内的数据库接入到DataV中,并作为组件的数据源进行大屏展示。背景信息 了解专有网络VPC,详情请参见 什么是...

创建PolarDB-X数据

通过创建PolarDB-X数据源能够实现Dataphin读取PolarDB-X的业务数据或向PolarDB-X写入数据。本文为您介绍如何创建PolarDB-X数据源。背景信息 PolarDB-X(原DRDS升级版)是由阿里巴巴自主研发的云原生分布式数据库。如果您使用的是PolarDB-X...

创建PolarDB数据

数据源配置 基于业务数据源是否区分生产数据源和开发数据源:如果业务数据源区分生产数据源和开发数据源,则选择 生产+开发数据源。如果业务数据源不区分生产数据源和开发数据源,则选择 生产数据源。标签 您可根据标签给数据源进行分类...

数据传输服务概述

数据传输服务是MaxCompute数据进出的最重要通道,其中包括适用于批量操作的普通Tunnel和适用于流式写入的Stream Tunnel,同时在所有Region提供免费限量使用的数据传输服务共享资源组,也提供数据传输服务(包年包月)独享资源组,供您采购...

创建RDS MySQL数据订阅通道

通过数据订阅功能,您可以实时订阅源库的增量数据,轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文将介绍如何创建RDS MySQL数据订阅通道。注意事项 由于使用gh-ost或pt-online-schema-change等类似...

通过脚本模式配置离线同步任务

当您需要实现更精细化的配置管理时,您可以使用脚本模式配置离线同步任务,通过编写数据同步的JSON脚本并结合DataWorks调度参数使用,将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍脚本模式配置离线同步任务...

通过向导模式配置离线同步任务

数据集成提供向导式的开发引导,您无需编写任何代码,通过在界面勾选数据来源与去向,并结合DataWorks调度参数,实现将源端单表或分库分表的全量或增量数据周期性同步至目标数据表。本文为您介绍向导模式配置离线同步任务的常规配置,各...

查看任务日志

参数名称 功能说明 generator 当前接收增量数据的总量。collector 有效数据的总量。包括:心跳数据、同步对象的DML记录数、同步对象的DDL记录数。replicator 同步的事务数(DML和DDL)。ping 网络延迟时间:最小/平均/最大。1表示网络链接...

企业版和标准版功能对比

支持 不支持 全球数据库 全球数据网络(Global Database Network,简称GDN)是由分布在同一个国家内多个地域的多个 PolarDB 集群组成的网络。GDN网络中所有集群的数据保持同步,网络中每个集群均提供读服务(写服务会被转发到主集群处理...

DataWorks on EMR Serverless StarRocks最佳实践

DataWorks支持StarRocks数据源,通过数据源对接EMR Serverless StarRocks,可实现EMR Serverless StarRocks的数据集成、开发、分析、数据服务等功能。本文为您介绍EMR Serverless StarRocks在DataWorks上的操作流程。背景信息 了解EMR ...

云数据库MongoDB版数据安全最佳实践

网络隔离 使用专有网络数据库MongoDB版支持多种网络类型,推荐使用专有网络。专有网络是一种隔离的网络环境,安全性和性能均高于传统的经典网络。专有网络需要事先创建,详情请参见 创建专有网络。当MongoDB实例为经典网络时,您可以将...

连接保持

当连接切换时,Proxy正在从数据接收结果报文但只接收了部分结果报文,比如执行 SELECT 语句后,需要从数据接收一个包含100 MB数据的结果报文,但切换时数据库只传输了10 MB数据。当连接切换时,连接(会话)上有正在执行中的事务(如 ...

异构数据源访问

若您需要通过 AnalyticDB PostgreSQL版 访问外部异构数据源(HDFS、Hive和JDBC)时,可以使用异构数据源访问功能将外部数据转换为 AnalyticDB PostgreSQL版 数据库优化后的格式进行查询和分析。功能说明 外部数据源管理提供高性能的结构化...

独享数据服务资源组

网络连通方案 在发起API调用请求时,请求会下发至数据服务的服务器,并被进一步转发至数据源中执行数据查询,因此,需要确保独享数据服务资源组与不同网络环境数据源之间的连通性。独享数据服务资源组包括公网、阿里云VPC网络、IDC网络等...

数据集成概述

数据集成是基于Dataphin构建的简单高效的数据同步平台,致力于提供具有强大的数据预处理能力、丰富的异构数据源之间数据高速稳定的同步能力。背景信息 面对各行各业对大数据的应用,数据集成会有很多的诉求,包括能够简单高效的配置大量...

使用限制

数据库小版本 如果您的数据库小版本过期或者不在维护列表内,当执行实例版本升级、数据迁移、变更实例配置或数据恢复等操作时,为保证提供更出色的性能和稳定性,系统会默认将您的数据库小版本升级至最新版。数据库连接 不支持切换网络类型...

附录:数据服务错误代码表

DataWorks数据服务接收到调用API的请求后,会将请求结果信息返回给请求端,其中包含各类错误码。通过解读错误码,您可以快速定位问题并自助排错。本文为您介绍常见数据服务错误码及相应含义。错误代码 描述 语义 0 success 数据查询及返回...

使用限制

在使用云数据库MongoDB前,您需要了解不同类型云数据库MongoDB实例本身存在的约束信息,使您初步了解不同类型云数据库MongoDB实例的使用限制,以帮助您选择更适合业务场景的实例。单节点实例 功能 约束 实例部署 目前不是所有地域和可用区...

配置订阅任务(新控制台)

数据传输服务DTS(Data Transmission Service)提供的数据订阅功能简单易用,您只需在控制台上进行简单操作,即可完成数据订阅任务的配置。注意事项 本文仅简单介绍数据订阅任务的通用配置流程,不同的数据源在配置数据订阅任务时略有不同...

购买流程

数据传输服务DTS(Data Transmission Service)支持先配置再购买和先购买再配置两种创建任务方式。若您需要随用随配,建议您选择先配置再购买的方式;若您需要先锁定财务预算而不需要配置任务,建议您选择先购买再配置的方式。本文介绍数据...

创建DMS逻辑库的数据订阅任务

消费网络类型 网络类型 数据订阅实例的 网络类型 固定为 专有网络,您需要选择具体的 专有网络 和 虚拟交换机。更多信息请参见 专有网络。说明 任务创建成功后,消费网络类型 不可更改。若您的数据订阅客户端部署在专有网络上,则建议选择...

数据库代理常见问题

数据库代理是位于数据库服务端和应用服务端之间的网络代理服务,用于转发应用服务端访问数据库时的所有请求,提供自动读写分离、事务拆分、连接池、连接保持等高级功能,具有高可用、高性能、可运维、简单易用等特点。通用型代理和独享型...

创建RDS MySQL数据订阅任务

通过数据订阅功能,您可以实时订阅源库的增量数据,轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文将介绍如何创建 RDS MySQL 数据订阅任务。前提条件 已创建源 RDS MySQL 实例,创建方式,请参见 ...

创建PolarDB PostgreSQL版数据订阅任务

消费网络类型 网络类型 数据订阅实例的 网络类型 固定为 专有网络,您需要选择具体的 专有网络 和 虚拟交换机。更多信息请参见 专有网络。说明 任务创建成功后,消费网络类型 不可更改。若您的数据订阅客户端部署在专有网络上,则建议选择...

创建PolarDB-X 2.0数据订阅任务

消费网络类型 网络类型 数据订阅实例的 网络类型 固定为 专有网络,您需要选择具体的 专有网络 和 虚拟交换机。更多信息请参见 专有网络。说明 任务创建成功后,消费网络类型 不可更改。若您的数据订阅客户端部署在专有网络上,则建议选择...

创建PolarDB MySQL版数据订阅任务

通过数据订阅功能,您可以实时订阅增量数据,轻松帮助业务实现轻量级缓存更新、业务异步解耦、含ETL逻辑的数据实时同步等场景。本文介绍如何创建 PolarDB MySQL版 数据订阅任务。前提条件 已创建 PolarDB MySQL版 集群,详情请参见 购买...

使用DTS创建数据订阅

消费网络类型 网络类型 数据订阅实例的 网络类型 固定为 专有网络,您需要选择具体的 专有网络 和 虚拟交换机。更多信息请参见 专有网络。说明 任务创建成功后,消费网络类型 不可更改。若您的数据订阅客户端部署在专有网络上,则建议选择...

创建PolarDB-X 1.0数据订阅任务

消费网络类型 网络类型 数据订阅实例的 网络类型 固定为 专有网络,您需要选择具体的 专有网络 和 虚拟交换机。更多信息请参见 专有网络。说明 任务创建成功后,消费网络类型 不可更改。若您的数据订阅客户端部署在专有网络上,则建议选择...

创建RDS PostgreSQL数据订阅任务

消费网络类型 网络类型 数据订阅实例的 网络类型 固定为 专有网络,您需要选择具体的 专有网络 和 虚拟交换机。更多信息请参见 专有网络。说明 任务创建成功后,消费网络类型 不可更改。若您的数据订阅客户端部署在专有网络上,则建议选择...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 RDS 云数据库 Redis 版 数据库备份 DBS 弹性公网IP 短信服务 人工智能平台 PAI
新人特惠 爆款特惠 最新活动 免费试用