某手游开发公司在离线一体分析方案
方案亮点：PB级数据量、同时支持在线和离线数据分析。业务挑战 通过对游戏服的用户行为日志进行收集、存储和分析，计算玩家留存率、LTV、ARPU、充值总金额等。游戏运营变化快，需要灵活的Schema。在线用户基数大，日志数据规模大，需要高...
数据加工过程卡点校验
基于MaxCompute的数据仓库在进行离线数据抽取时，通过DataWorks的数据集成工具，可能会限制某个业务数据库表。如果该数据库表发生扩容或者迁移等，数据集成工具感知不到，可能导致数据抽取错漏，而一旦错漏，会影响下游所有依赖该表的应用...
备份集查询功能概览
搭建离线数据仓库：您可以将DBS备份数据作为数据湖存储，搭建离线数据仓库，实现湖仓一体，挖掘数据价值。应对审计需求：全量备份数据保存在DBS中，若有临时审计需求，可以快速过滤出需要的数据进行审计分析。快速定位数据：库-表-分区的新...
应用场景
大数据存储与分析 传统的数据分析场景下，用户需要把数据从在线数据库（Operational Database）复制到离线数据仓库（Data Warehouse）上之后再进行数据分析，这需要海量数据的多次复制、传输、加载和存储等多方面工作。HybridDB for MySQL...
数据库中的数据离线同步至Hologres
常见的支持离线数据同步的数据库包括：RDS for MySQL、Oracle、Polar DB、SQL Server等。说明 如需查看更多支持的数据库，请参见 支持的数据源与读写插件。相关原理：MySQL Reader、Oracle Reader、PolarDB Reader、SQL Server Reader、...
功能特性
数据节点管理 您可以通过新建数据节点来添加和管理不同类型的核对数据节点，可以完成如下的映射：将离线数据库中的一张表映射为一个核对数据节点，通过为数据节点添加名称以及关联核对点来更方便的进行核对数据节点的管理。将文件映射为...
整库离线同步至MaxCompute
步骤六：运行资源设置 该同步方案将分别创建全量离线同步任务和增量离线同步任务，您可以在此步骤配置任务名称及任务执行所使用的调度资源组与数据集成任务执行资源组，同时，数据集成提供数据库最大连接数、并发数等配置的默认值，如果您...
整库离线同步至MaxCompute
步骤六：运行资源设置 该同步方案将分别创建全量离线同步任务和增量离线同步任务，您可以在此步骤配置任务名称及任务执行所使用的调度资源组与数据集成任务执行资源组，同时，数据集成提供数据库最大连接数、并发数等配置的默认值，如果您...
整库离线同步至OSS
步骤六：运行资源设置 该同步方案将分别创建全量离线同步任务和增量离线同步任务，您可以在此步骤配置任务名称及任务执行所使用的调度资源组与数据集成任务执行资源组，同时，数据集成提供数据库最大连接数、并发数等配置的默认值，如果您...
整库离线同步至Elasticsearch
步骤六：运行资源设置 该同步方案将分别创建全量离线同步任务和增量离线同步任务，您可以在此步骤配置任务名称及任务执行所使用的调度资源组与数据集成任务执行资源组，同时，数据集成提供数据库最大连接数、并发数等配置的默认值，如果您...
上线离线数据同步任务
前提条件 已新增离线数据同步任务，具体操作，请参见 新增离线数据同步任务、批量新增离线数据同步任务。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 资产加工...
上线离线数据同步任务
前提条件 已新增离线数据同步任务，具体操作，请参见 新增离线数据同步任务、批量新增离线数据同步任务。操作步骤 登录企业数据智能平台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 资产加工。...
查看离线数据同步任务监控
前提条件 已上线离线数据同步任务，具体操作，请参见 上线离线数据同步任务。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 资产加工。在左侧导航栏，单击 图标...
查看离线数据同步任务监控
前提条件 已上线离线数据同步任务，具体操作，请参见 上线离线数据同步任务。操作步骤 登录企业数据智能平台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 资产加工。在左侧导航栏，单击 图标，将...
使用DataWorks（离线与实时）
最佳实践 数据库整库离线同步至MaxCompute 整库离线同步至MaxCompute OSS数据离线同步至MaxCompute EMR Hive数据整库离线同步至MaxCompute 数据库增量数据离线同步至MaxCompute RDS增量数据同步至MaxCompute Kafka增量数据同步至MaxCompute...
离线同步能力说明
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
查看离线同步实例详情
离线同步实例是由离线数据同步时发起的任务实例，运维监控支持查看离线同步任务实例的详情，包括实例属性、运行日志。本文主要介绍查看离线同步实例的详情。前提条件 已上线离线同步任务，具体操作，请参见 上线离线数据同步任务。操作步骤...
查看离线同步实例详情
离线同步实例是由离线数据同步时发起的任务实例，运维监控支持查看离线同步任务实例的详情，包括实例属性、运行日志。本文主要介绍查看离线同步实例的详情。前提条件 已上线离线同步任务，具体操作，请参见 上线离线数据同步任务。操作步骤...
通过脚本模式创建集成任务
您需要在配置集成任务前，配置好您需要集成的数据源和目标数据库，以便在开发配置离线集成脚本过程中读取和写入数据库。离线管道支持的数据源详情，请参见 离线集成支持的数据源。步骤一：创建离线脚本 在Dataphin首页，单击顶部菜单栏的 ...
通过脚本模式创建集成任务
您需要在配置集成任务前，配置好您需要集成的数据源和目标数据库，以便在开发配置离线集成脚本过程中读取和写入数据库。离线管道支持的数据源详情，请参见 数据集成支持的数据源。步骤一：创建离线脚本 在Dataphin首页，单击顶部菜单栏的 ...
常见报错
报错示例：DBS-000000 Scheduling failed,the task has been retried,exceeding the maximum limit 解决方法：进入目标备份计划 备份任务配置 详情页，查看该备份计划的备份网关状态是否为 离线。根据备份计划的备份网关信息，请在 备份...
创建MySQL to MaxCompute离线同步周期任务
在 离线数据同步 管理 页面，配置离线同步周期任务。填写基本信息，任务名称“信用卡客户数据上云_d”。在 源端配置 区域，选择数据源为“MySQL/dataq_dws_rds”，数据表选择为“ys_yhkh（未上云）”。在 源端配置 区域，选择目标端...
通过单条管道创建集成任务
您需要在配置集成任务前，配置好您需要集成的数据源和目标数据库，以便在配置离线单条管道过程中，为您的开发组件选择数据源来控制集成任务的读取和写入数据库。离线管道支持的数据源详情请参见：数据集成支持的数据源。步骤一：创建离线单...
通过单条管道创建集成任务
您需要在配置集成任务前，配置好您需要集成的数据源和目标数据库，以便在配置离线单条管道过程中，为您的开发组件选择数据源来控制集成任务的读取和写入数据库。离线管道支持的数据源详情请参见：支持的数据源。步骤一：创建离线单条管道 ...
数据传输作业：数据集成
实时同步 DataWorks提供的实时数据同步功能，使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至MaxCompute中，实现MaxCompute实时保持和源库的数据对应。一个实时同步任务支持多个转换插件进行数据清洗，并支持多个...
通过向导模式配置离线同步任务
增量同步过滤条件的语法与数据库语法基本一致，同步时，离线同步将拼接为完整SQL向对应数据源抽取数据。当不配置数据过滤条件时，默认同步该表全量数据。关系型数据库配置切分键 定义将源端待同步数据基于源端哪一个字段进行切分，同步任务...
通过脚本模式配置离线同步任务
增量同步过滤条件的语法与数据库语法基本一致，同步时，离线同步将拼接为完整SQL向对应数据源抽取数据。关系型数据库配置切分键 定义将源端待同步数据基于源端哪一个字段进行切分，同步任务执行时将根据该字段切分为多个task，以便并发、...
EMR Hive数据整库离线同步至MaxCompute
本文以阿里云EMR Hive离线同步写入MaxCompute场景为例，为您介绍如何一次性把EMR Hive整个数据库的数据离线同步至MaxCompute。背景信息 Hive是基于Hadoop的一个数据仓库工具，用来进行数据的提取、转化、加载，可以存储、查询和分析存储在...
EMR Hive数据整库离线同步至MaxCompute
本文以阿里云EMR Hive离线同步写入MaxCompute场景为例，为您介绍如何一次性把EMR Hive整个数据库的数据离线同步至MaxCompute。背景信息 Hive是基于Hadoop的一个数据仓库工具，用来进行数据的提取、转化、加载，可以存储、查询和分析存储在...
流式ETL
行业领先的计算时效：通过DTS强大的数据库流式数据采集能力，ETL既能保障数据的准确性，同时还具备行业领先的计算实效性。灵活的任务监控与管理：ETL提供任务列表页供您进行任务监控和管理，能够对已经搭建的任务进行启停、查看详情等操作...
什么是ETL
行业领先的计算时效：通过DTS强大的数据库流式数据采集能力，ETL既能保障数据的准确性，同时还具备行业领先的计算实效性。灵活的任务监控与管理：ETL提供任务列表页供您进行任务监控和管理，能够对已经搭建的任务进行启停、查看详情等操作...
购买指引-全托管
基础功能和增值功能 智能研发版（离线&实时）基础研发版（离线&实时）敏捷研发版（离线）基础功能 离线数据集成 支持 支持 支持 离线编码研发 支持 支持 支持 实时编码研发 支持 支持 不支持 规范建模 支持 不支持 不支持 资产全景及目录 ...
MySQL整库离线同步到OSS
本文示例以MySQL为源端，OSS为目标端，为您介绍如何将MySQL整个数据库的数据离线同步到OSS。使用限制 仅支持使用独享数据集成资源组。操作步骤 步骤一：创建同步任务。步骤二：配置同步任务。步骤三：运行并查看任务状态。前提条件 已购买...
增量数据同步
在 离线数据同步 页面，单击 新增任务，在 离线数据同步 管理页面，配置离线同步周期任务。填写基本信息，任务名称“信用卡客户数据上云_增量”。在 源端配置 区域，配置数据源端。参数 说明 示例 数据源 必选项，数据来源端的数据源类型...
数据节点
节点列表支持按照数据节点名称进行筛选（支持模糊匹配），还支持按类型（文件、DB、离线）进行筛选。创建数据节点 登录资金安全监控控制台，在左侧导航栏单击 数据节点。在数据节点列表页，单击 新建数据节点。在 新建数据节点 页面，填写...
支持的数据库引擎与功能
阿里云数据库 ECS上的自建数据库 线下数据库 其他云数据库 阿里云数据库 ECS上的自建数据库 线下数据库 其他云数据库 数据源类型 MongoDB Redis 支持的版本 4.2、4.0、3.6、3.4、3.2 4.0标准版（主从架构）说明 不支持Redis 5.0及以上版本...
使用DataWorks
如果您需要导出多张表数据，需要创建多个离线数据同步节点。操作流程 通过数据集成导出MaxCompute数据的流程如下：添加MaxCompute数据源 将MaxCompute数据源添加至DataWorks的数据源列表。添加目标数据源 将目标数据源添加至DataWorks的...
迁移评估概述
目前支持进行对象评估的数据库类型及版本如下：Oracle 数据库：11g/12c/18c/19c MySQL 数据库：5.6/5.7/8.0 DB2 LUW 数据库（仅支持采集文件上传评估）云数据库 RDS PolarDB MySQL 引擎 支持对 Oracle 和 MySQL 数据库的 DDL 语句进行兼容...
离线核对
类型：支持 OSS、FTP、DB、离线 四种类型。本例中选择 离线。访问授权信息：需填写 accessKeyId、accessKeySecret、endPoint 和 project（本例中输入“risk_fundcheck”）。说明 关于 accessKeyId 和 a ccessKeySecret 的获取方式，请参见 ...
DB2数据源
jdbcUrl":"jdbc:db2:/ip:port/database",/DB2数据库的JDBC连接信息。column":["id"],"batchSize":1024,/一次性批量提交的记录数大小。table":"",/表名。username":"",/用户名。preSql":[]/执行数据同步任务之前执行的SQL语句。},"name...
- 产品推荐
- 这些文档可能帮助您