支持的数据源及同步方案
Lindorm数据源-LogHub（SLS）数据源-MaxCompute数据源-MariaDB数据源-Maxgraph数据源-Memcache（OCS）数据源-MetaQ数据源-MongoDB数据源-MySQL数据源-OpenSearch数据源-Oracle数据源-OSS数据源-OSS-HDFS数据源-PolarDB数据源-PolarDB-X 2.0...
Napatech案例
解决方案 阿里 云原生多模数据库 Lindorm 是一款适用于任何规模、多种模型的云原生数据库服务，其基于存储计算分离、多模共享融合的云原生架构设计，具备弹性、低成本、稳定可靠、简单易用、开放、生态友好等优势。Lindorm支持海量数据的低...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
创建解决方案
数据开发模式全面升级，包括工作空间>解决方案>业务流程三级结构，抛弃陈旧的目录组织方式。背景信息 DataWorks对数据开发模式进行全面升级，按照业务种类组织相关的不同类型的节点，让您能够更好地以业务为单元、连接多个业务流程进行开发...
ODC 常见问题
解决方案 调整数据库认为客户端使用的字符集，将其与实际客户端的字符集兼容。set names utf8mb4;调整完成后，在当前 session 内再执行 SQL，查看结果集时即可避免中文乱码问题。命令行窗口中执行 SQL 结果集中包含中文字符乱码 ODC 安装...
常见问题
扫描MaxCompute、OSS、阿里云数据库服务（RDS、PolarDB-X、PolarDB、OceanBase、表格存储等）和自建数据库中的数据，通过敏感数据规则，判断和打标敏感数据，为数据安全审计、数据脱敏、智能异常检测等数据安全解决方案提供基础。...
云原生多模数据库Lindorm助力蚂蚁链IoT数据降本
业务挑战 业务增速快，数据总量不断增大，MySQL出现性能瓶颈 日增数据量大，一年数据增量超6TB，存储成本压力大 数据冷热区分明显，和数据生成时间强相关 数据需要实时归档到离线进行分析 解决方案 阿里云Lindorm历经阿里众多核心服务的大...
MySQL分库分表同步至MaxCompute
针对以上痛点，DataWorks数据集成一键同步解决方案提供了面向业务场景的同步任务配置化方案，支持不同数据源的一键同步功能，方便业务简单快速的进行数据同步。分库分表同步至MaxCompute解决方案是一种基于Binlog实时同步、T+1合并生成离线...
数据归档至RDS MySQL
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在新建数据归档工单页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，以...
MySQL分库分表同步至MaxCompute
针对以上痛点，DataWorks数据集成一键同步解决方案提供了面向业务场景的同步任务配置化方案，支持不同数据源的一键同步功能，方便业务简单快速的进行数据同步。分库分表同步至MaxCompute解决方案是一种基于Binlog实时同步、T+1合并生成离线...
数据归档至PolarDB MySQL版
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在新建数据归档工单页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，以...
数据归档至AnalyticDB PostgreSQL版
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
数据归档至DBS内置OSS
在顶部菜单栏中，选择 解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 说明 任务名 请输入明确、清晰的任务名，以减少沟通成本。归档目标 选中 DBS内置OSS。数据库 搜索并选择待归档的...
同数据库归档
当数据库中表的数据量过大时，可能会影响查询数据速率，在不考虑将数据迁移到其他数据库的情况下，您可以将数据库中的历史数据或使用频率低的冷数据归档在当前数据库下的其他表中。同时，结合DMS提供的归档时清理源表功能，帮助您提升数据...
数据归档至AnalyticDB MySQL 3.0
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
离线同步常见问题
MaxCompute如何实现列筛选、重排序和补空等 MaxCompute列配置错误的处理 MaxCompute分区配置注意事项 MaxCompute任务重跑和failover 报错信息及解决方案 报错信息及解决方案 数据同步报错：[TASK_MAX_SLOT_EXCEED]:Unable to find a ...
使用DMS进行数据归档
第二步：创建数据归档任务 在顶部菜单栏中，选择 解决方案>数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，以减少沟通成本。归档目标 是 选中 AnalyticDB PostgreSQL。ADB...
RDS术语
M MaxCompute 大数据计算服务MaxCompute（原名ODPS）是一种快速、完全托管的TB/PB级数据仓库解决方案，提供了完善的数据导入方案以及多种经典的分布式计算模型，能够快速地解决海量数据计算问题。通过数据集成服务，可将RDS数据导入...
数据库安全解决方案
本文介绍云数据库、DTS（数据迁移上云）、DMS（数据安全管理）、DBS（数据备份）几个产品实现企业数据资产的安全管理解决方案，避免数据泄露、删库跑路等恶性事件的出现。详情参考：数据库安全解决方案。
数据集成
数据集成模块与同步解决方案的更多介绍，详情请参见 支持的数据源及同步方案。使用限制 您需要拥有 开发 角色权限，才可以在数据开发（DataStudio）界面创建同步任务。授权详情，请参见 添加空间成员并管理成员角色权限。离线同步任务 场景...
数据归档至Lindorm
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
RDS术语
M MaxCompute 大数据计算服务MaxCompute（原名ODPS）是一种快速、完全托管的TB/PB级数据仓库解决方案，提供了完善的数据导入方案以及多种经典的分布式计算模型，能够快速地解决海量数据计算问题。通过数据集成服务，可将RDS数据导入...
应用场景
解决方案：数据融合：通过数据引入功能，将业务系统数据集成、融合一体，统一基础数据。数据建模：通过规范建模功能，结合业务发展需求，自顶向下设计标准的数据模型，统一公共数据。数据生产：基于建模后系统代码自动化托管生产功能，快速...
新零售：特步
解决方案 通过 PolarDB-X+RDS的分布式数据库解决方案支撑O2O全渠道业务中台系统上线，通过垂直拆分剥离各业务中心，使不同类型的业务数据可以存储在不同的RDS上，确保资源和访问隔离，从物理上使整个数据库架构具备了扩展性。通过这套架构...
技术架构
基于阿里巴巴集团十余年的数据库服务平台的云版本，提供免安装、免运维、即开即用、多种数据库类型与多种环境统一的Web数据库管理终端，可以为企业用户快速复制搭建与阿里集团同等安全、高效、规范的数据库DevOps研发流程解决方案。...
数据归档至专属存储
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置以下信息：配置项 是否必填 说明 归档目标 是 选中 专属存储。源数据库 ...
某手游开发公司在离线一体分析方案
解决方案 云数据库Lindorm能适应业务的快速变化，支持灵活的Schema，动态列等。云数据库Lindorm能支持海量数据实时写入，百万/千万并发，PB级存储，同时HBase支持冷热数据分离，通过直接读写OSS降低日志存储成本。DLA Spark和云数据库...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
应用场景
典型场景的解决方案 OLAP通用场景解决方案 业务背景：该方案适用于多种业务场景，包括GMV、订单、物流、客户分析、推荐系统、用户画像场景。支持离线导入和实时导入两种方式来处理数据。原有解决方案：通过多种OLAP引擎满足不同的场景。...
离线同步任务调优
数据同步慢的场景及解决方案 说明 离线同步任务日志详情请参见：离线同步日志分析。数据同步慢的场景 现象 可能原因 解决方案 等待调度资源 现象1：同步任务日志显示等待gateway。现象2：实例属性页面显示等待资源时间长。离线任务由调度...
UpdateDIProjectConfig
调用UpdateDIProjectConfig修改当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL...
数据归档至用户OSS
在顶部菜单栏中，选择 解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置以下信息：配置项 说明 任务名 请输入明确、清晰的任务名，方便后续查询。归档目标 选中 OSS。OSS实例 选择存放归档数据的目标实例...
金融大数据
业务架构 架构说明：基于阿里云大数据平台强大的计算能力（离线数据处理、交互式OLAP分析能力、实时流处理）以及分布式可视化算法平台PAI，有机集成了批量和实时多模式计算能力，支持实时信用评分和风险预警。实时决策引擎，通过DTBoost...
数据治理中心概述
知识库：数据治理中心提供的，针对常见检查项事件及治理项问题给出的解决方案。数据治理流程 数据治理流程如下图所示。配置治理工具。启用治理方案模板并自定义检测项。细分操作 操作目的 操作指导链接 启用治理模板 数据治理中心的整体...
GenerateDISyncTaskConfigForUpdating
DataWorks目前仅支持直接使用 UpdateDISyncTask 接口更新数据集成离线同步任务，而数据集成实时同步任务和解决方案同步任务则需要先调用GenerateDISyncTaskConfigForUpdating和 QueryDISyncTaskConfigProcessResult 接口，异步生成更新数据...
某历史养成类游戏开发公司实时计算和数据仓库方案
解决方案 客户选择云数据库Lindorm SQL（Phoenix）服务+数据湖Spark服务构建实时计算和数据仓库解决方案。Lindorm SQL提供在线查询能力、Spark提供流式处理、复杂分析等能力来满足业务需求；梳理业务数据，对数据进行分层存储在Lindorm SQL...
ListDIProjectConfig
调用ListDIProjectConfig查看当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL消息...
2023年
新说明 使用PyODPS DataFrame编写数据应用时，同一个脚本文件中的代码会在不同位置执行，可能导致一些无法预期的问题，本文为您介绍当出现相关问题时，如何确定代码的执行环境，以及提供部分场景下的解决方案。PyODPS DataFrame的代码运行...
如何处理Tair集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
如何处理Redis集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
- 产品推荐
- 这些文档可能帮助您