MapReduce常见问题
结果表中会保留两个MapReduce计算之后的重复数据吗？Hadoop中可以选择多个Node进行分布处理（一个Node表示一台机器），那么MaxCompute MapReduce进行分布处理时，该如何设置Node？不使用Combiner时输出正常，使用Combiner后Reduce没有输入...
数据上云场景
使用DataWorks结合DataX进行Hadoop数据迁移的示例请参见 Hadoop数据迁移新手教程，或参见视频教程 Hadoop数据迁移到MaxCompute最佳实践。Sqoop执行时，会在原来的Hadoop集群上执行MR作业，可以分布式地将数据传输到MaxCompute上，详情请...
自建Hadoop数据迁移到阿里云E-MapReduce
客户在IDC或者公有云环境自建Hadoop集群，数据集中保存在HDFS文件系统用于数据分析任务。客户在决定上云之后，会将自建Hadoop集群的数据迁移到阿里云自建Hadoop集群或者EMR集群。本实践方案提供安全和低成本的HDFS数据迁移方案。适用场景 ...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大...
创建同步ADS
HostADS服务地址，请务必填写 内网地址 以确保服务联通性 导入字段DataHub可以根据用户设置将部分column内容同步到ADS中 写入模式包括IGNORE和OVERWRITE两种模式 IGNORE:忽略重复数据，即 INSERT IGNORE INTO 写入 OVERWRITE:更新重复数据...
MaxCompute+Hadoop搭建实践
本文以E-MapReduce的Hive为例，为您介绍在MaxCompute中如何创建外部项目，并查询Hadoop中的表数据。准备Hadoop数据源 创建Hadoop集群，具体操作请参见 开通阿里云EMR服务。进入Hive准备数据。使用Workbench方式登录集群主节点后，在终端...
创建同步RDS/MySQL/ADS3.0
HostRDS服务地址，请务必填写 内网地址 以确保服务联通性 导入字段DataHub可以根据用户设置将部分column内容同步到RDS表中 写入模式包括IGNORE和OVERWRITE两种模式 IGNORE:忽略重复数据，即 INSERT IGNORE INTO 写入 OVERWRITE:更新重复...
表删除，更新和合并
在这个部分：写入Delta表时的重复数据删除 缓慢将数据（SCD）类型2操作更改为Delta表 将更改数据写入Delta表 使用Upsert 从流式处理查询foreachBatch 写入Delta表时的重复数据删除 一个常见的ETL用例是通过将日志附加到表中来将日志收集到...
异构数据源访问
若您需要通过 AnalyticDB PostgreSQL版 访问外部异构数据源（HDFS、Hive和JDBC）时，可以使用异构数据源访问功能将外部数据转换为 AnalyticDB PostgreSQL版 数据库优化后的格式进行查询和分析。功能说明 外部数据源管理提供高性能的结构化...
DBS沙箱功能概览
背景信息 在海量数据场景下，传统数据库备份服务面临两大越来越严重的困难：存储成本：为了保障数据恢复点目标（Recovery Point Objective，RPO），周期性的全量和增量备份产生大量重复数据，导致存储成本过高。使用成本：您必须待数据完成...
数据归档
任务设置 插入策略：执行数据归档时，忽略重复数据/更新重复数据。限流策略：配置行限流和数据大小限流。备注 可在 备注 文本框中输入不超过 200 个字符的描述信息，该项为选填项。单击 新建，完成新建数据归档。任务生成后可以在 工单>...
管理问题数据
若存在数据不唯一，系统生成的问题数据表会保留该字段的重复数据，即重复的数据就是问题数据。唯一值个数/总行数。唯一值个数与总行数的比率与一个固定值进行比较。空值 空值个数，固定值。取该字段的空值数与固定值进行比较。说明 是否为...
最佳实践概览
场景 文档链接 Elasticsearch迁移 迁移方案选取指南 阿里云Elasticsearch间数据迁移 通过reindex迁移数据 基于reindex实现低版本多type数据迁移 自建Elasticsearch数据迁移 通过OSS将自建Elasticsearch数据迁移至阿里云 通过阿里云Logstash...
迁移Hadoop文件系统数据至JindoFS
迁移数据 Hadoop FsShell 对于文件较少或者数据量较小的场景，可以直接使用Hadoop的FsShell进行同步：hadoop dfs-cp hdfs:/emr-cluster/README.md jfs:/emr-jfs/hadoop dfs-cp oss:/oss_bucket/README.md jfs:/emr-jfs/DistCp 对于文件较多...
批量上传质量规则
参数 描述 校验结果 可查看校验结果的总条数、校验成功条数、校验失败条数（包括表、字段、数据分类）、重复数据-与线上重复的条数、重复数据-本次上传的重复条数。下载校验结果 支持全量下载本次上传并携带校验结果的文件。存在校验失败 ...
批量上传质量规则
参数 描述 校验结果 可查看校验结果的总条数、校验成功条数、校验失败条数（包括表、字段、数据分类）、重复数据-与线上重复的条数、重复数据-本次上传的重复条数。下载校验结果 支持全量下载本次上传并携带校验结果的文件。存在校验失败 ...
同步时源库为PolarDB-X 2.0的注意事项及限制
PolarDB-X 2.0同步至PolarDB MySQL 类型 说明 源库限制 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。若同步对象为表级别，且需进行编辑（如表列名映射），单次同步任务的表数量超过5000时...
重复列表
说明 该组件根据配置的数据源展示重复数据的个数。开启分页器后，最多展示个数为 每页数量，列表下方显示 点击加载更多。全部数据加载完，列表底部显示 已经展示全部。在中间画布，双击该组件。在组件编辑页面右侧 样式 栏，设置列表展示...
同步时源库为PolarDB MySQL版的注意事项及限制
具体注意事项及限制如下：类型 说明 源库限制 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如同步对象为表级别，且需进行编辑（如表列名映射），则单次同步任务仅支持同步至多1000张表。...
同步时源库为Db2 for LUW的注意事项及限制
待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如同步对象为表级别，且需进行编辑（如表列名映射），单次同步任务的表数量超过5000时，建议您拆分待同步的表，分批配置多个任务，或者配置整...
迁移时源库为PolarDB-X 2.0的注意事项及限制
待迁移的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如迁移对象为表级别，且需进行编辑（如表列名映射），则单次迁移任务仅支持迁移至多1000张表。当超出数量限制，任务提交后会显示请求报错，...
迁移时源库为PolarDB MySQL版的注意事项及限制
待迁移的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如迁移对象为表级别，且需进行编辑（如表列名映射），则单次迁移任务仅支持迁移至多1000张表。当超出数量限制，任务提交后会显示请求报错，...
同步时源库为MySQL的注意事项及限制
MySQL同步至PolarDB MySQL版 MySQL单向同步至PolarDB MySQL版 类型 说明 源库限制 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如同步对象为表级别，且需进行编辑（如表列名映射），则单...
敏感数据溯源
建议您使用数据量大于500条，并且不包含重复数据的文件进行溯源。原因二：被泄漏的数据非本租户名下的数据。解决方案：您需要确认溯源数据的来源，确保溯源的数据为本租户名下的数据。原因三：被溯源的文件中不包含水印信息。解决方案：您...
迁移时源库为MySQL的注意事项及限制
待迁移的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如迁移对象为表级别，且需进行编辑（如表列名映射），则单次迁移任务仅支持迁移至多1000张表。当超出数量限制，任务提交后会显示请求报错，...
迁移时源库为Oracle的注意事项及限制
迁移对象要求：待迁移的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。说明 您也可以使用Oracle中的ROWID作为无主键和唯一约束表的主键。如果您的自建Oracle版本为12c及以上，待迁移表的名称长度需...
MMA概述
MMA迁移作业方案 本文为您介绍Hadoop数据迁移至MaxCompute的两种迁移方案，您可以根据实际情况选择。迁移链路一 专线场景下，支持通过MMA迁移Hive数据至MaxCompute。迁移方案如下图所示。迁移链路二 无专线场景下，支持通过闪电立方迁移...
同步时源库为MongoDB的注意事项及限制
待同步的集合需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如同步对象为集合级别，且需进行编辑（如集合的名称映射），则单次同步任务仅支持同步至多1000张集合。当超出数量限制，任务提交后会显示...
通过DataWorks将Hadoop数据同步到阿里云ES
当您基于Hadoop进行交互式大数据分析查询，遇到查询延迟的问题时，可以将数据同步至阿里云Elasticsearch中再进行查询分析。ES对于多种查询类型，特别是即席查询（Ad Hoc），基本可以达到秒级响应。本文介绍通过DataWorks的数据集成服务，...
应用场景
存储成本低：重复数据删除技术大幅降低您的备份数据存储成本。存储虚拟化技术：不依赖用户生产实例，将直接使用云上资源的沙箱实例，且在沙箱中的读写不会影响到源数据库。异地备份 互联网金融、银行、保险等行业的数据库除同城备份外，...
观远BI连接MaxCompute
如果选择Guan-index，可以设置一个去重主键，去除重复数据。缓存有效周期 手工更新：需要用户在新建卡片后手动进行数据刷新。每天：可以设置每天更新时间点，可以精确到时分级别。每周：可以设置每周几进行更新，可以精确到时分级别。每月...
同步时源库为SQL Server的注意事项及限制
RDS SQL Server同步至DataHub SQL Server间的同步 具体注意事项及限制如下：类型 说明 源库限制 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。若同步对象为表级别，且需进行编辑（如表列名...
数据质量风险监控
监控重复数据。单击 添加监控规则。输入配置参数。参数 描述 规则名称 请输入规则名称。您可以自定义。强弱 设置为强规则。强弱规则说明如下：如果设置强规则，红色异常报警并阻塞下游任务节点，橙色异常报警不阻塞。如果设置弱规则，红色...
数据质量风险监控
监控重复数据。单击 添加监控规则。输入配置参数。参数 描述 规则名称 请输入规则名称。您可以自定义。强弱 设置为强规则。强弱规则说明如下：如果设置强规则，红色异常报警并阻塞下游任务节点，橙色异常报警不阻塞。如果设置弱规则，红色...
迁移时源库为SQL Server的注意事项及限制
待迁移的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如迁移对象为表级别，且需进行编辑（如表列名映射），则单次迁移任务仅支持迁移至多1000张表。当超出数量限制，任务提交后会显示请求报错，...
从自建MySQL迁移至PolarDB-X
如果源库中待迁移的表没有主键或唯一约束，且所有字段没有唯一性，可能会导致目标数据库中出现重复数据。对于数据类型为FLOAT或DOUBLE的列，DTS会通过 ROUND(COLUMN,PRECISION)来读取该列的值。如果没有明确定义其精度，DTS对FLOAT的迁移...
Redis企业版实例间的双向同步
对于List，由于DTS在调用sync或psync进行重传时，不会对目标端已有的数据进行清空，可能导致出现重复数据。数据库账号的权限要求 数据库 权限及授权方式 源Redis实例 读写权限，关于授权方式，请参见 创建与管理账号。目标Redis实例 操作...
Redis企业版实例间的双向同步
对于List，由于DTS在调用sync或psync进行重传时，不会对目标端已有的数据进行清空，可能导致出现重复数据。数据库账号的权限要求 数据库 权限及授权方式 源Redis实例 读写权限，关于授权方式，请参见 创建与管理账号。目标Redis实例 操作...
JindoData概述
支持面向云时代的大数据Hadoop SDK和HDFS接口，内置优化访问阿里云OSS，较Hadoop社区版本性能大幅提升。同时支持JindoFS存储系统和服务、JindoFSx存储加速系统，支持多云对象存储。支持JindoShell CLI。JindoData除了支持HDFS Shell命令，...
常见问题
支持的数据库部署位置（接入方式）阿里云实例 有公网IP的自建数据库 通过数据库网关DG接入的自建数据库 通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 阿里云实例 通过数据库网关DG接...
- 产品推荐
- 这些文档可能帮助您