数据管理DMS解决方案系列
为了更好地指导您使用数据管理DMS（Data Management），DMS推出解决方案系列文档，旨在通过最佳实践（Step by Step）的形式向您介绍DMS研发流程、数据安全、数据开发的解决方案。研发流程解决方案 数据安全解决方案 数据开发解决方案 更多...
什么是云原生数据湖分析
云原生数据湖分析（简称DLA）是新一代大数据解决方案，采取计算与存储完全分离的架构，支持数据库（RDS\PolarDB\NoSQL）与消息实时归档建仓，提供弹性的Spark与Presto，满足在线交互式查询、流处理、批处理、机器学习等诉求，也是传统...
常见术语
云原生数据湖分析（简称DLA）是新一代大数据解决方案，采取计算与存储完全分离的架构，支持数据库（RDS\PolarDB）与消息实时归档建仓，提供弹性的Spark与Presto，满足在线交互式查询、流处理、批处理、机器学习等诉求，也是传统Hadoop方案...
如何对JSON类型进行高效分析
针对海量半结构化数据计算与分析，本文将以半结构化数据JSON为例，首先简述传统数据库与数据仓库的解决方案，然后详细描述 PolarDB IMCI列式JSON、虚拟列、秒级加减列与表列数扩展等技术点，最后给出 PolarDB IMCI列式JSON实时分析与扩展流...
Hive服务异常排查及处理
本文介绍Hive服务异常的排查方法和解决方案。异常排查 如果客户端遇到异常或性能等问题，您可以按照如下步骤进行排查：排查异常时间段机器CPU、内存、网络以及磁盘是否有异常。排查组件是否正常：检查访问集群的Hive组件中 HiveMetaStore ...
Quick BI连接MaxCompute
数据源权限控制问题请参见 Quick BI关于业务分析人员连接MaxCompute数据源权限控制问题解决方案及常见报错解析。测试成功后，单击 确定，完成数据源的添加。此时您可以在数据源列表中，看到您创建的数据源。说明 Quick BI添加MaxCompute云...
重启节点
PolarDB 提供了重启节点功能，您可以在控制台上手动重启节点解决数据库连接和性能问题。注意事项 重启只读节点之后新建的读写分离连接会转发请求到该只读节点。重启只读节点之前建立的读写分离连接不会转发请求到重启后的只读节点，您可以...
Presto FAQ
解决方案：您可以在MySQL数据源把 net_write_timeout 参数的取值适当调高。如何处理向OTS写数据时报错：Code:OTSParameterInvalid,Message:Invalid update row request:missing cells in request？原因：OTS属性列为空。解决方案：您需要...
重启节点
PolarDB 提供了重启节点功能，您可以在控制台上手动重启节点解决数据库连接和性能问题。注意事项 重启只读节点之后新建的读写分离连接会转发请求到该只读节点。重启只读节点之前建立的读写分离连接不会转发请求到重启后的只读节点，您可以...
重启节点
PolarDB 提供了重启节点功能，您可以在控制台上手动重启节点解决数据库连接和性能问题。注意事项 重启只读节点之后新建的读写分离连接会转发请求到该只读节点。重启只读节点之前建立的读写分离连接不会转发请求到重启后的只读节点，您可以...
新建解决方案
将工作组中已沉淀的数据标准、数据模型、数据加工场景、数据服务API配置、云计算资源配置等数据资产，进行版本化的解决方案创建及实例化，便于完成数据治理工作环境的初始化、跨平台的资产发布及迁移。本文介绍如何通过全新创建和根据已有...
数据湖管理FAQ
本文汇总了数据湖管理相关的常见问题及解决方案。Lakehouse相关问题 什么是Lakehouse？Lakehouse数据入湖时，对线上RDS有压力吗？如何控制建仓的限流能力？Lakehouse工作负载为什么运行失败，又没有S park Log 日志可以看？元数据发现相关...
如何排查无法连接MongoDB实例的问题？
排查方法及解决方案如下：方法一（推荐）：使用云数据库MongoDB的连接诊断功能，检测IP地址是否连通，如何检测及检测失败后如何解决，请参见 连接诊断。方法二：请在数据库的白名单中临时添加 0.0.0.0/0，如果设置后可以正常访问，说明是白...
任务运行失败
解决方案重新选择使用连接串模式创建的数据源。您可以参考 配置MySQL数据源 进入 数据源管理 页面，单击目标数据源 操作 列的 编辑，在 数据源编辑 页面查看创建数据源时所使用的模式。For-each，do-while、pai等节点如何在运维中心查看...
创建Hologres数据源
新建Hologres数据源用于实现Dataphin能够读取Hologres的业务数据，及能够向Hologres写入数据。在引入Hologres的业务数据至Dataphin和将Dataphin的数据写入至Hologres的场景中，您需要先创建Hologres数据源。本文为您介绍如何新建Hologres...
通过操作审计查询行为事件日志
DIDeleteSolutionV1 旧版解决方案删除解决方案 DIStartSolutionV1 旧版解决方案运行解决方案（提交执行/重跑）DICloneSolutionV1 旧版解决方案克隆 DIFullSupplementData 旧版解决方案全量补数据 DownloadSqlResult 下载数据分析的SQL查询...
文档更新动态（2022年）
新增说明 Dataphin出网IP地址 2022年02月18日 新增数据源测试连接报VPC_GRANT_ACCESS_API_ERROR错误的解决方案 在Dataphin中添加RDS类型数据源时，进行测试连接报VPC_GRANT_ACCESS_API_ERROR错误的解决方案。新增说明 数据源测试连接报VPC_...
自媒体：易撰
自媒体 网站地址：易撰 客户介绍 长沙营智信息技术有限公司是专业的新媒体大数据服务商，其旗下知名品牌易撰，基于新媒体大数据挖掘技术及NLP算法分析，为各内容创客、广告主提供全面、科学、精准的大数据分析服务以及大数据架构解决方案。...
概览
为了更好地指导您使用数据管理DMS（Data Management），DMS推出解决方案系列文档，旨在通过最佳实践（Step by Step）的形式向您介绍DMS研发流程、数据安全、数据开发的解决方案。研发流程解决方案 DMS为在线流程化系统，可统一管理企业内...
互联网服务：小打卡
客户价值 客户当前圈子打卡日记业务有10亿以上数据，每年有亿级增量，基于 PolarDB-X+RDS的分布式数据库解决方案提供了海量数据存储和数据存储扩展能力，解决了10亿级数据在单机数据库的存储瓶颈。小打卡上有几百万活跃用户，业务发展较快...
Napatech案例
解决方案 阿里 云原生多模数据库 Lindorm 是一款适用于任何规模、多种模型的云原生数据库服务，其基于存储计算分离、多模共享融合的云原生架构设计，具备弹性、低成本、稳定可靠、简单易用、开放、生态友好等优势。Lindorm支持海量数据的低...
常见问题概览
数据库没有数据Owner时如何处理 数据变更 SQLConsole页面执行SQL语句超时中断解决方案 DMS控制台中执行数据变更任务时提示“Duplicate column name 'XXXXX'”使用新版DMS控制台进行变更时提示“Duplicate entry:XXXX”数据库返回“Row size...
敏感数据溯源
DataWorks的数据溯源功能，支持通过提取数据泄露文件中数据的水印信息，帮助您定位到可能会泄露目标数据的责任人。本文为您介绍如何创建溯源任务，并通过该任务查找可能会泄露数据的责任人。前提条件 已创建 数据识别规则，详情请参见 配置...
GenerateDISyncTaskConfigForUpdating
DataWorks目前仅支持直接使用 UpdateDISyncTask 接口更新数据集成离线同步任务，而数据集成实时同步任务和解决方案同步任务则需要先调用GenerateDISyncTaskConfigForUpdating和 QueryDISyncTaskConfigProcessResult 接口，异步生成更新数据...
MySQL节点
解决方案 重新选择使用连接串模式创建的数据源。您可以参考 配置MySQL数据源 进入 数据源管理 页面，单击目标数据源 操作 列的 编辑，在数据源编辑页面查看创建数据源时所使用的模式。常见问题：测试连通性通过但任务执行报错 可能原因1：...
EMR+DLF数据湖解决方案
采用EMR+DLF数据湖解决方案，相对传统EMR数据湖方案有下列优点：DLF提供数据湖跨引擎的统一的，全托管免运维的元数据服务。支持可视化的元数据管理，以及多版本管理和回退。支持可视化一键元数据迁移。支持元数据全文检索。支持元数据...
离线同步并发和限流之间的关系
来源端读取支持最大连接数：同步解决方案的离线全量数据初始化阶段，会基于JDBC建立到数据库连接并读取全量历史数据。此连接数即用来控制数据来源端支持的最大JDBC连接数，避免大量任务同时启动打满数据库连接池，影响数据库的稳定性。请...
新建数据库网关
在顶部菜单栏中，选择 解决方案>数据库网关。说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据库网关。在 网关列表 页面，单击 新建网关。在弹出的对话框中，填写 网关名称 和 备注 信息，单击...
如何处理RDS MySQL连接数被打满的情况
解决方案 说明 如果对实例或数据有修改、变更等风险操作，务必注意实例的容灾、容错能力，确保数据安全。如果对实例（包括但不限于ECS、RDS）等进行配置与数据修改，建议提前创建快照或开启RDS日志备份等功能。如果在阿里云平台授权或者...
Delta Lake概述
很高 低 较高 事务性 支持 不支持 支持 性能 高 低 较高 扩展性 依赖于具体实现 高 高 面向人员 管理人员 管理人员、数据科学家 管理人员、数据科学家 成本 高 低 低 适用场景 Delta适用于云上数据湖数据管理解决方案。如果您存在以下场景...
Slowly Changing Dimension
本文为您介绍G-SCD的具体解决方案及如何通过G-SCD处理维度的数据。背景信息 SCD简介 Slowly Changing Dimension（SCD）即缓慢变化维，是随着时间变化的维度。在数据仓库中存储和管理当前和历史的数据，就需要考虑如何处理缓慢变化维，因此...
UpdateDIProjectConfig
调用UpdateDIProjectConfig修改当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL...
数据库迁移
数据库迁移功能通过产品化解决方案的封装，实现数据库迁移、校验和清理的闭环操作。本文介绍如何通过创建工单实现数据库迁移。前提条件 支持的数据库类型：RDS MySQL、PolarDB MySQL版 和ECS自建MySQL。说明 来源库和目标库的数据库类型...
公共数据集成（调试）资源组
公共数据集成（调试）资源组仅支持 离线数据同步，不支持 实时数据同步、同步解决方案。适用于任务量相对较少、对任务时效性要求不高的场景。对于时效性、稳定性要求高，需要保障的任务建议使用独享数据集成资源组。公共数据集成（调试）...
ListDIProjectConfig
调用ListDIProjectConfig查看当前工作空间中数据集成同步解决方案任务默认的全局配置。当前DataWorks仅支持为同步解决方案任务中的实时同步DDL消息处理策略设置默认的全局配置。如果您的同步解决方案任务包含实时同步任务，则配置 DDL消息...
什么是数据传输服务DTS
数据传输服务DTS（Data Transmission Service）是阿里云提供的实时数据流服务，支持关系型数据库（RDBMS）、非关系型的数据库（NoSQL）、数据多维分析（OLAP）等数据源间的数据交互，集数据同步、迁移、订阅、集成、加工于一体，助您构建...
数据库安全解决方案
本文介绍云数据库、DTS（数据迁移上云）、DMS（数据安全管理）、DBS（数据备份）几个产品实现企业数据资产的安全管理解决方案，避免数据泄露、删库跑路等恶性事件的出现。详情参考：数据库安全解决方案。
数据源配置常见问题
本文介绍在DataV中连接数据源时，遇到的常见问题及相应的解决方法。数据库连接不成功，如何解决...说明 需要长时间查询的解决方案：自建数据接口API 服务（需要支持跨域）。优化数据库查询：例如根据常用SQL查询条件，建立相关索引加速查询。
数据源配置常见问题
本文介绍在DataV中连接数据源时，遇到的常见问题及相应的解决方法。数据库连接不成功，如何解决...说明 需要长时间查询的解决方案：自建数据接口API 服务（需要支持跨域）。优化数据库查询：例如根据常用SQL查询条件，建立相关索引加速查询。
解决无法连接实例问题
本文介绍如何解决无法连接RDS的问题。连接失败的常见报错 请根据现场情况与具体的报错信息，选择对应的解决方法。数据库类型 错误信息 报错原因 解决办法 MySQL或MariaDB ERROR 2003(HY000):Can't connect to MySQL server on 'XXX'(10038...
- 产品推荐
- 这些文档可能帮助您