Iceberg概述
适用场景 Iceberg作为通用数据湖解决方案中最核心的组件之一，主要适用于以下场景。场景 描述 实时数据导入和查询 数据实时从上游流入Iceberg数据湖，查询侧即可查询该数据。例如，在日志场景中，启动 Iceberg 或 Spark 流作业，实时地将...
从Oracle迁移应用至阿里云PolarDB全流程指南
兼容性最高去O解决方案 阿里云的 ADAM+DTS+PolarDB 是目前兼容性最高的去O解决方案。数据库和应用迁移ADAM：Advanced Database&Application Migration（以下简称ADAM）是一款把数据库和应用迁移到阿里云（公共云或专有云）的产品，显著地...
收钱吧订单查询&搜索
解决方案 云数据库Lindorm全文索引方案，通过LTS实现Lindorm宽表引擎与Lindorm搜索引擎之间的数据实时同步，使业务轻松应对高维度&随机组合查询需求。开启云数据库Lindorm压缩优化特性，通过压缩优化数据占用空间，降低存储成本。通过云...
什么是数据传输服务DTS
RDS：阿里云关系型数据库RDS（Relational Database Service）是一种稳定可靠、可弹性伸缩的在线数据库服务，提供容灾、备份、恢复、迁移等方面的全套解决方案，解决数据库运维的烦恼。PolarDB：PolarDB是阿里云自研的下一代关系型云数据库...
配置资源组与网络连通
在数据同步任务配置前，您需要确保用于执行同步任务的独享数据集成资源组与您将要同步的数据来源端与目的端数据库的网络连通性，您可以根据数据库所在网络环境，选择合适的网络解决方案来实现网络连通。本文为您介绍数据库在不同网络环境中...
自动化治理-物化视图
当您在面对大数据计算任务频繁且存在大量相似子查询场景时，DataWorks支持自动化治理，智能推荐物化视图，为您提供了一种智能化、自动化的解决方案。当您启用此功能时，DataWorks能够自动识别和分类MaxCompute中的相似子查询，并生成物化...
ODC 常见问题
解决方案 调整数据库认为客户端使用的字符集，将其与实际客户端的字符集兼容。set names utf8mb4;调整完成后，在当前 session 内再执行 SQL，查看结果集时即可避免中文乱码问题。命令行窗口中执行 SQL 结果集中包含中文字符乱码 ODC 安装...
RDS SQL Server空间不足问题
解决方案 在数据量持续增长的情况下，未分配空间通常很小，所以直接收缩文件效果很差，建议首先对已分配空间进行优化和回收，然后再考虑收缩文件。数据空间的回收通常有如下几种方式：归档数据 删除数据库中不常用的数据（例如早期的历史...
数据归档至RDS MySQL
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在新建数据归档工单页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，以...
数据归档至PolarDB MySQL版
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在新建数据归档工单页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，以...
数据归档至AnalyticDB PostgreSQL版
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
数据归档至DBS内置OSS
在顶部菜单栏中，选择 解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 说明 任务名 请输入明确、清晰的任务名，以减少沟通成本。归档目标 选中 DBS内置OSS。数据库 搜索并选择待归档的...
数据库安全解决方案
本文介绍云数据库、DTS（数据迁移上云）、DMS（数据安全管理）、DBS（数据备份）几个产品实现企业数据资产的安全管理解决方案，避免数据泄露、删库跑路等恶性事件的出现。详情参考：数据库安全解决方案。
同数据库归档
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置以下信息：配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
数据归档至AnalyticDB MySQL 3.0
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
使用DMS进行数据归档
第二步：创建数据归档任务 在顶部菜单栏中，选择 解决方案>数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，以减少沟通成本。归档目标 是 选中 AnalyticDB PostgreSQL。ADB...
计费逻辑说明
智能数据建模计费标准 DATABLAU数据建模 DATABLAU是DataWorks联合建模工具DDM（Datablau Data Modeler）为您提供的一体化数据建模解决方案。用于将数据模型设计管控、引标落标等能力融入DataWorks规范化开发流程，助力您实现数据资产价值化...
数据归档至Lindorm
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
数据归档至Lindorm
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置工单信息。配置项 是否必填 说明 任务名 是 请输入明确、清晰的任务名，...
数据导入常见问题
解决方案 通过 seq-w 0 n 拆分数据文件。通过 curl-XPOST http:///be_host:http_port/api/update_config?streaming_load_max_mb=<file_size>调整BE配置项中 streaming_load_max_mb 的取值来扩大文件大小上限。BE配置项的更多信息，请参见 ...
数据归档至专属存储
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置以下信息：配置项 是否必填 说明 归档目标 是 选中 专属存储。源数据库 ...
UpdateDIProjectConfig
调用UpdateDIProjectConfig修改当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL...
功能发布记录 2022年之前
配置同步到 AnalyticDB for MySQL 3.0的全增量解决方案 DataWorks数据开发模块新增FTP Check功能节点。FTP Check节点可用于通过FTP协议周期性检测指定文件是否存在。如果文件存在，则启动调度下游任务，不存在，则按照配置的间隔时间重复...
数据归档至用户OSS
在顶部菜单栏中，选择 解决方案>数据归档。在页面右上角，单击 数据归档。在 新建数据归档工单 页面，配置以下信息：配置项 说明 任务名 请输入明确、清晰的任务名，方便后续查询。归档目标 选中 OSS。OSS实例 选择存放归档数据的目标实例...
列存索引技术架构介绍
技术背景 MySQL生态HTAP数据库解决方案 MySQL是一款主要面向OLTP型场景设计的开源数据库，开源社区的研发方向侧重于加强其事务处理能力。如提升单核性能、多核扩展性和增强集群能力，以提升可用性等。在处理大数据量下复杂查询所需要的能力...
PolarDB HTAP实时数据分析技术解密
MySQL生态HTAP数据库解决方案 MySQL是一款主要面向OLTP场景设计的开源数据库。开源社区的研发方向侧重于加强其事务处理的能力，例如：提升单核性能、多核扩展性能、增强集群能力以提升可用性等。在处理大数据量下复杂查询所需要的能力方面...
数据治理中心概述
知识库：数据治理中心提供的，针对常见检查项事件及治理项问题给出的解决方案。数据治理流程 数据治理流程如下图所示。配置治理工具。启用治理方案模板并自定义检测项。细分操作 操作目的 操作指导链接 启用治理模板 数据治理中心的整体...
ListDIProjectConfig
调用ListDIProjectConfig查看当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL消息...
常见报错
本文介绍配置任务和任务运行时系统返回的报错信息（如重试信息或错误码）以及解决方法。说明 本文以正则表达式（(.*)?的形式表示报错信息中的变量。若报错无法解决，您可以 通过钉钉（钉钉通讯客户端下载地址）进入到DTS客户交流钉钉群...
如何处理Tair集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
如何处理Redis集群数据倾斜
数据倾斜的临时方案 若实例已产生数据倾斜，您可以通过如下临时方案进行过渡，但以下临时方案无法解决数据倾斜的根源问题。同时，您也可以在短时间内可降低大Key、热Key的请求量，暂缓数据倾斜问题，但大Key、热Key问题只能通过业务上的...
应用场景
实时数据分析场景解决方案 步骤如下：实时摄入：通过直接读取Kafka数据来实现。提供了Flink-Connector来支持Flink数据流的直接写入，并保证了exactly-once语义。此外，还支持Flink CDC来捕捉TP数据更新，并实时地将结果更新到StarRocks中。...
发展历程
全国首家通过信通院数据平台整体解决方案最高级（3级）认证。全国首家通过信通院Serverless大数据平台认证。工信部信通院和中电标准化研究院认证。工信部首家单集群万台扩展能力认证。MaxCompute通过了独立的第三方审计师针对阿里云对AICPA...
操作流程
流程图及说明 任务项 说明 创建解决方案 通过创建解决方案，将工作组内已加工完成的数据标准、数据模型、数据加工场景、数据服务API配置等信息，进行版本化解决方案封装。以整体解决方案为例，具体操作，请参见 新建解决方案。创建类型：...
与标准SQL的主要区别及解决方法
解决方案请参见 在执行MaxCompute SQL过程中，使用NOT IN后面接子查询，子查询返回的结果是上万级别的数据量，但当IN和NOT IN后面的子查询返回的是分区时，返回的数量上限为1000。在必须使用NOT IN的情况下，该如何实现此查询？如果业务上...
Hive服务异常排查及处理
本文介绍Hive服务异常的排查方法和解决方案。异常排查 如果客户端遇到异常或性能等问题，您可以按照如下步骤进行排查：排查异常时间段机器CPU、内存、网络以及磁盘是否有异常。排查组件是否正常：检查访问集群的Hive组件中 HiveMetaStore ...
GetDISyncInstanceInfo
获取实时同步任务和同步解决方案任务的运行状态。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。请求参数 名称 类型 是否必选 示例值 描述 Action String ...
迁移失败常见原因及解决方案
本文主要介绍在线迁移中，数据迁移失败的常见原因及解决方案。如果迁移任务失败，您可以 查看迁移失败文件列表，分析迁移失败的原因并排除问题。之后，在迁移任务列表中，单击失败任务的 管理，然后单击 重试，重新迁移失败的文件。下面...
入仓解决方案
入仓解决方案可添加和运行多个实时同步任务、实时迁移任务，实现全量或近实时增量迁移和集成数据，用于满足项目空间内业务场景的数据迁移和集成需求。根据所需的同步效率、同步数据量需求，创建入仓解决方案同步线上库数据。入仓解决方案...
复制解决方案
基于原有解决方案，通过复制的方式生成新解决方案。本文介绍如何复制解决方案。前提条件 已有创建的解决方案。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。在顶部菜单栏，单击 图标，选择目标工作组，单击 ...
- 产品推荐
- 这些文档可能帮助您