数据资产等级定义
局部性质：数据直接或间接用于某些业务线的运营、报告等，如果出现问题会给业务线造成一定的影响或造成工作效率降低。标记为A3。一般性质：数据主要用于日常数据分析，出现问题带来的影响极小。标记为A4。未知性质：无法明确数据的应用场景...
应用场景
数据传输服务DTS（Data Transmission Service）支持数据迁移、数据订阅和数据实时同步功能，帮助您实现多种典型应用场景。不停机迁移数据库 传输方式：数据迁移 为了保证数据的一致性，传统的迁移过程需要您在迁移数据时停止向源数据库写入...
调度依赖配置指引
默认节点的上下游产出表存在强依赖关系（即下游表数据的产出需要依赖上游产出的表数据），因此，任务在配置调度依赖时，需确认是否存在强血缘依赖，即确认当前任务是否会因为上游数据未产出而导致当前任务取数出现问题。若下游节点中表数据...
迁移时源库为SQL Server的注意事项及限制
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
实时同步常见问题
实时同步字段格式问题 数据集成实时同步在同步MySQL、Oracle、Loghub和PolarDB类型的数据至DataHub或Kafka时，会在同步的目标端添加5个附加列，以进行元数据管理、排序去重等操作。详情请参见 实时同步字段格式。为什么实时同步任务延迟较...
查询结果不符合预期的常见原因
Lindorm宽表经常会被应用在大数据链路中，如果写入链路出现问题，则可能导致写入延迟或无法正常写入数据，此时进行数据查询，该行数据还未写入，因此会产生无法查询到数据的情况。如果您在使用中遇到数据写入一段时间后才能查到的情况，...
数据源开发和生产环境隔离
例如出现DataStudio执行成功，生产调度时执行失败，或DataStudio执行与生产调度时执行数据量不一致等问题时，您可对比开发环境执行成功的日志与生产环境的报错日志进行比对排查。由于任务最终将发布生产环境执行，若数据源开发环境与生产...
自定义钉钉机器人告警通知
数据安全中心DSC（Data Security Center）支持通过钉钉机器人在钉钉群实时发送异常审计告警和泄漏风险告警通知，以便于您及时处理异常问题，保障业务正常运行。本文介绍如何设置钉钉群接收告警通知。背景信息 您一次只能为一个钉钉群添加告...
一键诊断
自治服务开启后，DAS会在数据库出现异常时，自动进行根因分析，给出优化或止损建议，并自动进行优化或止损操作（需经您授权后才会开启优化操作）。详情请参见 自治中心。会话管理：您可以通过会话管理功能查看目标实例的会话详情和会话统计...
离线同步日志分析
running in Pipeline[basecommon_group_xxxxxxxxx]任务运行在独享数据集成资源上，日志中会出现如下信息。running in Pipeline[basecommon_S_res_group_xxx]任务运行在数据集成自定义资源组上，日志中会出现如下信息。running in Pipeline...
同步时源库为SQL Server的注意事项及限制
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待同步的表，分批配置任务。不支持同步内存优化表。DTS是用fn_log函数获取源库日志，而该函数有一定的性能瓶颈，请不要过早清理源库日志，否则可能会导致任务失败。数据日志...
SDK概述
修复读取DataHub无数据时出现NPE问题。v1.6.0 新增Spark Streaming SQL测试工具。Spark Streaming SQL适配Loghub数据源。新增DataHub数据源direct api实现。Loghub python接口支持direct api。修复Insert数据到tablestore失败的问题。v1.5....
PolarDB MySQL版CPU使用率高
整个数据库系统的缓存区域，是数据交换最为频繁的位置，如果内存不足和内存页争抢，则会出现各种异常的堆积和慢查询。最典型的表现是数据库突然CPU上涨打满，并且出现慢查询。经过排查后发现该问题并非索引缺失，这个时候就有可能是内存...
SQL查询
数据源白名单访问控制 当使用数据分析操作MaxCompute表数据时，如果MaxCompute项目空间开启了白名单访问控制，数据分析的相关服务（例如，费用计算、数据下载、维表使用、数据上传等）可能会出现报错。为保证DataWorks数据分析服务能顺利...
RDS SQL Server迁移至DataHub
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
执行补数据并查看补数据实例（旧版）
补数据可通过补历史或未来一段时间的数据，将写入数据至对应时间分区。代码中的 调度参数，将根据补数据选择的业务时间自动替换为具体值，并结合业务代码将对应时间数据写入指定分区。具体写入的分区与执行的代码逻辑，与任务定义的代码...
冷数据归档常见问题
本文汇总了 PolarDB 冷数据归档相关的常见问题。出现"[Data Lifecycle Management]DLM storage engine is not support.The value of polar_dlm_storage_mode is OFF."报错，如何处理？您需要在 PolarDB控制台 上开启冷数据归档功能。详情请...
时空数据库版本发布记录
本文介绍PolarDB PostgreSQL版时空数据库（Ganos）的版本更新说明。6.X 6.3 类别 说明 新增特性 Trajectory SQL 新增 ST_InsertAttr 函数，支持为轨迹增加新的属性。GeomGrid SQL 新增 ST_Degeneralize 函数，支持将低层级网格分解成高层级...
时空数据库版本发布记录
本文介绍PolarDB PostgreSQL版（兼容Oracle）时空数据库（Ganos）的版本更新说明。6.X 6.3 类别 说明 新增特性 Trajectory SQL 新增 ST_InsertAttr 函数，支持为轨迹增加新的属性。GeomGrid SQL 新增 ST_Degeneralize 函数，支持将低层级...
基于Delta lake的一站式数据湖构建与分析实战
数据湖构建与管理 1.数据入湖 企业的原始数据存在于多种数据库或存储系统，如关系数据库MySQL、日志系统SLS、NoSQL存储HBase、消息数据库Kafka等。其中大部分的在线存储都面向在线事务型业务，并不适合在线分析的场景，所以需要将数据以无...
性能优化与诊断简介
自动SQL优化 可以进行自动SQL诊断优化和索引创建，在数据库实例出现慢SQL问题时，及时进行诊断和优化，帮助数据库系统运行在最佳状态。自动SQL限流 可以设置触发条件，当相关条件满足时会自动触发SQL限流来控制数据库请求访问量和SQL并发量...
时空引擎版本发布记录
修复由于栅格数据带有 NAN 和 INF 等数据，在导入和统计值会出错的问题。4.3 新特性 ST_PixelAsPolygon：将栅格像素转换为Polygon对象。ST_PixelAsPolygons：将栅格像素转换为Polygon对象集合。ST_PixelAsPoint：将栅格像素转换为基于点...
创建与释放全球多活数据库集群
注意事项 类型 说明 中心节点的限制 待同步的表需具备主键或唯一约束，且字段具有唯一性，否则可能会导致目标数据库中出现重复数据。如同步对象为表级别，且需进行编辑（例如更改其表名和列名）后再写入目标库，则单次同步任务仅支持同步...
从零开始完成无锁结构变更
数据管理DMS的无锁结构变更功能可以较好地规避因锁表而导致的业务阻塞，以及数据库原生OnlineDDL带来的主备延迟问题。本文以云数据库RDS MySQL举例，引导您快速使用DMS完成无锁结构变更。新增实例并开启无锁结构变更 登录 数据管理DMS 5.0...
功能发布记录（2023年）
2023.3.15 所有地域 所有DataWorks用户 处理治理项问题 数据服务的加速服务启动商业化 加速服务面向MaxCompute数据源生成在线API服务，无需导出MaxCompute数据，即可提供良好的查询性能与效率，满足在线查询需求。2023.3.1 华东2（上海）、...
DML操作常见问题
问题类别 常见问题 插入或更新数据 执行INSERT操作过程中出现错误，会损坏原有数据吗？执行INSERT INTO或INSERT OVERWRITE操作时，提示Table xxx has n columns，but query has m columns，如何解决？执行INSERT INTO或INSERT OVERWRITE...
自建SQL Server迁移至AnalyticDB for PostgreSQL
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
创建并管理数据源
若您想在DataWorks操作您的数据库或数据仓库（例如，MaxCompute项目数据），需先在DataWorks的数据源管理页面，将数据库或数据仓库创建为DataWorks的数据源，并将该数据源绑定至DataWorks相应的功能模块使用。例如，同步MaxCompute数据前，...
RDS SQL Server实例间数据迁移
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
RDS SQL Server迁移至云原生数据仓库 AnalyticDB ...
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
RDS SQL Server迁移至PolarDB MySQL版
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
RDS SQL Server迁移至RDS MySQL
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
RDS SQL Server实例间的迁移
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
自建SQL Server同步至云原生数据仓库 AnalyticDB ...
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待同步的表，分批配置任务。DTS是用fn_log函数获取源库日志，而该函数有一定的性能瓶颈，请不要过早清理源库日志，否则可能会导致任务失败。数据日志：需开启，备份模式设置...
MyBase SQL Server迁移至RDS SQL Server
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
问题汇总
等待资源 为什么会出现等待资源？为什么任务一直在等待gateway调度资源？为什么数据集成任务一直显示wait？为什么会空跑 什么是空跑？为什么会空跑？场景一：周月实例空跑周期 场景二：实时生成的过期实例 场景三：设置成功实例 场景四：...
RDS SQL Server迁移至云原生数据仓库 AnalyticDB ...
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
RDS SQL Server迁移至云原生数据仓库 AnalyticDB ...
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待迁移的表，分批配置任务。如需进行增量迁移，数据日志：需开启，备份模式设置为Full，且已成功执行过全量物理备份。如为增量迁移任务，DTS要求源数据库的数据日志保存24...
RDS SQL Server同步至DataHub
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待同步的表，分批配置任务。DTS是用fn_log函数获取源库日志，而该函数有一定的性能瓶颈，请不要过早清理源库日志，否则可能会导致任务失败。数据日志：需开启，备份模式设置...
自建SQL Server同步至云原生数据仓库 AnalyticDB ...
当超出数量限制，会出现稳定性和性能问题的风险，此时建议您拆分待同步的表，分批配置任务。DTS是用fn_log函数获取源库日志，而该函数有一定的性能瓶颈，请不要过早清理源库日志，否则可能会导致任务失败。数据日志：需开启，备份模式设置...
- 产品推荐
- 这些文档可能帮助您