通过脚本模式配置离线同步任务
说明 脏数据认定标准：脏数据是对业务没有意义，格式非法或者同步过程中出现问题的数据。单条数据写入目标数据源过程中发生了异常，则此条数据为脏数据。因此只要是写入失败的数据均被归类于脏数据。例如，源端是VARCHAR类型的数据写到INT...
全增量实时同步至Hologres
操作流程 步骤一：选择同步方案 步骤二：网络与资源配置 步骤三：选择要同步的表 步骤四：目标表映射 步骤五：报警配置 步骤六：高级参数配置 步骤七：DDL能力配置 步骤八：资源组配置 步骤九：执行同步解决方案任务 步骤一：选择同步方案 ...
MySQL分库分表同步至Hologres（方案2.0）
背景信息 实际业务场景下数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。尤其是在MySQL分库分表的场景下，上游的...
Dataphin集成任务同步失败报“Record columns has no ...
概述 通过修改输入端的字段大小写来解决同步失败问题。问题描述 集成任务从 AS400->odps 同步失败报错 Record columns has no sourceColName[n5mont]。问题原因 Dataphin集成任务同步过程中存在字段大小写敏感校验。从源端数据库（AS400）...
直播出现音视频不同步
概述 本文主要介绍直播出现音视频不同步的问题排查步骤。问题描述 视频播放出现音视频不同步的情况。解决方案 直播的流程是用户将视频主动推到边缘节点后进行直播，目前直播中存在音视频不同步的情况，观看直播流发现确实存在这种现象。...
DTS同步数据到AnalyticDB MySQL时出现“modify ...
对于修改字段类型的报错提示，可以通过以下两种方式解决问题：如果同步任务是整个数据库的同步操作，可以在AnalyticDB MySQL中新建一张表，表名不同于报错的表，表结构和源表的表结构保持一致，通过使用 Insert Into Select SQL语句将报错...
常见问题
同步解决方案常见问题 MySQL一键同步至Hologres中decimal（7，4）数据类型转换成了numeric（38，18），正常吗？一键实时同步至MaxCompute时,分表是否可以同步到同一张表里?一键实时全增量同步任务中，实时同步时修改源表字段是否会导致报错...
实时同步常见问题
写端延迟大 目标数据库性能、负载等问题 当数据库负载较高时，单一的调整同步任务并发并不能解决问题，您需要联系数据库管理员寻求相关帮助。读写端延迟大 使用公网同步，网络问题导致同步任务延迟。公网同步无法保障实时同步时效性，建议...
Dataphin同步任务速度低
问题描述 Dataphin同步任务出现速度低，或者速度为0。解决方案 1.从网络层面判断，来源数据库、去向数据库是否都是一套专线VPC网络。2.region判断，数据库、dataphin是否部署都是在一起，如果有跨国，并且非VPC专网，速度确实可能会慢。3....
使用DTS进行增量迁移时没有同步数据
问题描述 使用阿里云数据传输服务DTS的增量迁移功能时出现延迟，或者使用数据同步功能时很长时间没有同步数据。问题原因 增量迁移没有同步数据的原因如下：目标或者源端实例运行状态异常。源或者目标实例上进程被阻塞。源实例以及目标实例...
离线同步数据质量排查
环境信息排查 问题 解决方案 查询了错误或不完整的数据源、表、或者分区等。DataWorks标准项目分为开发数据源、生产数据源，在开发环境运行任务使用开发数据源，在生产环境运行任务使用生产数据源，再对数据数量和内容比对时，需要确认下...
一键MaxCompute任务出错恢复
查看实时任务日志，若报错信息为 InternalServerError、Exception when calling callable.Exception Msg:Read timed out 错误提示（例如图中报错），表示Tunnel服务端出现了问题，请联系MaxCompute值班同学排查，问题解决后，重启实时任务...
如何解决增量迁移延迟或同步延迟
问题描述 DTS在进行增量任务时，迁移任务或同步任务出现延迟超过1000毫秒的情况。可能原因 原因1：任务规格受限，且任务数据量过大。DTS的增量迁移或同步链路的各个规格有对应的RPS限制，当源库的数据写入量过大时（例如有大事务），达到了...
同步Redis后出现数据不一致
问题描述 使用数据传输服务（DTS）同步Redis后，出现了源端和目标端数据不一致的现象。问题示例 使用数据传输服务（DTS）同步完Redis后，使用Redis的 info keyspace 命令查看源端和目标端的keys情况，出现源端和目标端数据不一致，且含过期...
通过image-syncer工具迁移容器镜像
在Kubernetes集群迁移场景中，镜像仓库之间进行镜像迁移和同步是基本需求，image-syncer工具可以解决通用的容器镜像批量迁移和镜像同步复制的问题，将已有的容器镜像平滑的迁移到阿里云镜像服务ACR上。本文主要为您介绍如何通过image-...
通过image-syncer工具迁移容器镜像
在Kubernetes集群迁移场景中，镜像仓库之间进行镜像迁移和同步是基本需求，image-syncer工具可以解决通用的容器镜像批量迁移和镜像同步复制的问题，将已有的容器镜像平滑地迁移到阿里云镜像服务ACR上。本文主要为您介绍如何通过image-...
UpdateDIProjectConfig
调用UpdateDIProjectConfig修改当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL...
元数据迁移
当您选择VPC连接时，建议选择与RDS或MySQL匹配的VPC，vSwitch与安全组，避免网络出现问题。当MySQL类型=其他MySQL时，此时网络连接方式可选择“阿里云VPC”,“公网连接”两种方式。说明 当您选择公网连接时，请确保公网MySQL允许远程访问，...
通过MySQL分析实例同步至数仓版
在 集群信息 页面，您可以在 同步信息 区域查看同步信息详情，例如 源实例名称、同步状态、全量迁移进度 等信息。说明 同步状态 为 同步中 表明该同步作业正常进行增量同步，更多关于同步任务状态的信息，请参见 DTS同步作业状态。DTS同步...
事件管理
例如业务出现风险、服务器运行缓慢、接口响应延时过高等一系列问题均属于事件。它可能影响工作效率、降低客户体验，即使未造成严重后果，也应该归类为事件。事件来源一般分为：人工上报 系统发现 事件管理是针对事件进行识别、记录、分类、...
MySQL分库分表同步至MaxCompute
背景信息 实际业务场景下数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。尤其是在MySQL分库分表的场景下，上游的...
MySQL分库分表同步至MaxCompute
背景信息 实际业务场景下数据同步通常不能通过一个或多个简单离线同步或者实时同步任务完成，而是由多个离线同步、实时同步和数据处理等任务组合完成，这就会导致数据同步场景下的配置复杂度非常高。尤其是在MySQL分库分表的场景下，上游的...
OTSStreamReader常见问题
本文介绍了OTSStreamReader运行时可能出现的问题，请根据实际问题排查处理错误。OTSStreamReader运行时出现“Must set date or time range millis or time range string,please check your config”错误 问题现象 OTSStreamReader运行时...
Ubuntu系统的ECS实例中Apt-get安装使用相关问题
本文介绍在Ubuntu系统的ECS实例中Apt-get安装使用方法及常见问题解决方案。如何通过Apt-get安装软件 通过Apt-get在线安装软件，下述操作以安装Nginx为例。远程连接Ubuntu实例。具体操作，请参见 通过密码或密钥认证登录Linux实例。执行如下...
离线同步常见问题
MaxCompute如何实现列筛选、重排序和补空等 MaxCompute列配置错误的处理 MaxCompute分区配置注意事项 MaxCompute任务重跑和failover 报错信息及解决方案 报错信息及解决方案 数据同步报错：[TASK_MAX_SLOT_EXCEED]:Unable to find a ...
离线同步日志分析
本文为您介绍如何查看离线同步任务执行过程中的日志详情。进入日志详情页 您可以在运维中心或DataStudio界面查看任务运行日志。模块 描述 运维中心 您可以进入 周期实例、测试实例、补数据实例 等页面，通过筛选条件过滤出需要查询的实例，...
资源组操作及网络连通
如果以上排查无法解决问题，请执行下述命令重启服务。su-admin/home/admin/alisatasknode/target/alisatasknode/bin/serverctl restart 如何查看资源组对外IP，以便用于加白放行？如果您使用独享数据集成资源组走公网同步数据，请在数据库...
ListDIProjectConfig
调用ListDIProjectConfig查看当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL消息...
一键实时同步至Kafka
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
MySQL分库分表同步至Hologres（方案1.0）
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
一键实时同步至MaxCompute
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
一键实时同步至MaxCompute
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
使用MaxCompute访问
如果在创建数据源的时候出现网络超时的报错可以根据 配置资源组与网络连通 进行解决，如果还是有问题，可以 提交工单 联系DataWorks工作人员获取支持。验证MaxCompute数据同步至文件引擎 以下示例用来验证MaxCompute数据是否同步到文件引擎...
一键实时同步至DataHub
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
一键实时同步至Elasticsearch
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
使用DTS同步数据时出现“Cannot parse"2013-05-00 00:...
问题描述 使用DTS同步数据时，出现类似“Cannot parse"2013-05-00 00:00:00":Value 0 for dayOfMonth must be in the range[1,31]]”报错，即出现时间、日期类型的字段有异常。问题原因 源库数据中存在AnalyticDB MySQL不支持的非法值。...
应用场景
除此之外，还可通过远程控制功能，在得到车机端用户授权的情况下，维修人员可远程云端查看实时桌面屏幕，并在云端点击桌面进行操作，同步的、车机端也会响应操作指令，更加直观的查看解决问题。当通过远程诊断，发现问题需要修复解决，还可...
一键实时同步至Hologres
步骤三：设置同步来源与规则 在 基本配置 区域，配置同步解决方案的名称、任务存放位置等信息。在 数据来源 区域，确认需要同步的源端数据源相关信息。在 选择同步的源表 区域，选中需要同步的 源表，单击 图标，将其移动至 已选源表。该...
多人协作
数据同步 在多人协作过程中，为了防止数据丢失及数据同步不准确的情况，有数据同步机制来解决这个问题。多人在同一页面时的同步机制。如用户A在 集成API 界面增加某个字段，并保存。用户B的 集成API 界面会同步对应数据。获取编辑权限时，...
PostgreSQL数据源
PostgreSQL数据源为您提供读取和写入PostgreSQL双向通道的功能，方便您后续可以通过向导模式和脚本模式配置数据同步任务。本文为您介绍DataWorks的PostgreSQL数据同步能力支持情况。支持的版本 目前仅支持配置PostgreSQL数据源为PostgreSQL...
- 产品推荐
- 这些文档可能帮助您