目标数据库连接性检查
目标数据库对来源IP进行了限制 检测方法：您可以直接在目标数据库部署的服务器上，使用数据迁移任务中填入的数据库账号和数据库密码来连接目标数据库。如果连接正常，说明可能目标数据库可能限制了来源IP。如果目标数据库为MySQL，您可以...
高效数据治理实施指南
数据治理模板 说明 数据稳定性优化 数据稳定性优化适用于希望高效率解决现有数据运维问题的团队。核心目标为减少任务出错数，关注任务产出正确性和及时性。存储资源优化 存储资源优化适用于存储消耗过大或异常增长的团队。核心目标为减少...
参数诊断
背景 在数据库领域，优化数据库性能是工业界和学术界最重要的研究方向之一。除了针对SQL请求（索引优化等）的优化、用户业务层面的优化之外，针对数据库参数的调优是另一个行之有效的数据库性能优化方案。前提条件 数据库实例为 RDS MySQL ...
文档更新动态（2022年之前）
更新说明 2021年08月24日 数据源：可支持的数据源类型和版本拓展，优化数据源配置交互 新建数据源页面支持分类展示数据源类型，同时增加最近使用的数据源类型，提升了产品的易用性。更新说明 数据源 MySQL数据源版本拓展支持8.0，您可以...
数据库高级特性管理
您可以在RDS管理控制台查看或修改数据库中的各类属性，也可以手动收缩数据库事务日志和更新数据库统计信息，以优化数据库性能和提高查询效率。前提条件 已创建数据库。创建方法，请参见 创建数据库。实例所在地域必须在：华东1（杭州）、...
引擎功能
使用数据库内机器学习服务的优势主要体现在以下几个方面：简单易用：无需掌握专业的机器学习知识，只需要使用标准的SQL就能完成机器学习整个流程。无数据移动：无需将数据导出到外部平台，提高效率的同时，也可以更好地应对监管需求。企业...
简介
当您需要将查询的数据、测试的数据、以及数据变化趋势等信息，以文档的形式进行交付，并在交付后，希望有可以替您解答数据的相关问题的工具时，您可以使用DMS的数据工作站功能。背景信息 Data Fabric是一种创新的数据管理方法，着重于迅速...
离线同步数据质量排查
或者下游在查询使用数据时，分区表达式没有正确赋值，查询使用了错误的分区数据。检查数据同步任务的调度变量表达式，即调度参数配置是否符合预期，调度时参数替换值是否符合预期。数据类型、时区问题 您的源头表数据类型、数据范围和目标...
功能简介
AnalyticDB PostgreSQL版 的企业数据智能平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据建模、数据开发、质量评估、资产管理等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据资源。...
数据服务概述
Dataphin数据源可以作为 Quick BI 的数据源，对业务数据进行展示、分析、探查和制作报表等 场景及使用流程 在开始使用数据服务前，需要您了解数据服务的使用场景，及在不同场景下对应角色的操作流程。入口介绍 在Dataphin首页，单击 服务，...
通过文件管理优化性能
OPTIMIZE events ZORDER BY(eventType)Z-Order支持在多个维度（多列）优化数据布局，在Z-Ordering多列时，使用逗号分隔：OPTIMIZE events ZORDER BY(eventType,generateTime)如果您经常在where语句中使用到某个列，且该列的基数很大（有很...
pg_profile
pg_profile 是 PolarDB PostgreSQL版 支持的一款第三方插件，能够统计目标数据库中资源密集型活动，来分析和优化数据库。此扩展基于PostgreSQL的统计视图和部分社区插件，完全由PL/pgSQL编写，无需任何外部库或软件。配合 pg_cron 插件可以...
配置数据源
使用数据服务创建API前，需先将您的数据库或数据仓库添加为DataWorks数据源，以此作为数据服务API的数据来源。开发数据服务API时，数据服务将访问该数据源获取数据表的Schema信息，帮助您进一步设置请求和返回参数。本文为您介绍如何配置...
集成与开发概览
您可以通过流批一体的数据集成对在线数据进行入仓、加工处理，通过数据开发模块对数仓数据进行分层开发，之后结合数据服务和可视化能力对外提供数据使用和分析服务。您也可以将这些功能作为基础能力集成到您自己的数据平台中使用，建设属于...
BI分析功能简介
BI分析可以通过灵活，零代码，自动化的方式使用数据、分析数据和产出视图。BI分析功能主要包括以下三个部分：DataV数据集：创建完成某个数据集后，可使用其中的各种数据查询和建模能力，BI分析提供方便快捷的组件分析模式，让用户可以在...
JindoCache概述
湖仓一体：减少请求费用，优化数据目录（catalog）的响应延迟。AI：加速训练等场景，降低AI集群使用成本，提供更全面的能力支持。缓存策略 JindoCache支持数据缓存（包括分布式数据缓存、一致性哈希数据缓存和本地缓存）和元数据缓存功能。
2021年
无 数据库名称优化 数据库名称支持大写字母或下划线开头。无 缺陷修复 修复同时drop和add索引，导致索引异常问题。Table not exist执行insert报错 java.lang.NullPointerException。OSS分区表下推，如果遇到分区字段出现在parquet数据文件...
资产安全概述
通过数据分类分级、敏感数据识别、敏感数据脱敏等措施，帮助客户建立完善的数据安全体系，确保数据使用的安全合规性。前提条件 已购买 资产安全 增值服务，详情请参见 开通Dataphin。应用场景 基于Dataphin实现数据安全保护的一些典型的...
资产安全概述
通过数据分类分级、敏感数据识别、敏感数据脱敏等措施，帮助客户建立完善的数据安全体系，确保数据使用的安全合规性。前提条件 已购买 资产安全 增值服务并且当前租户已开通 资产安全 模块。应用场景 基于Dataphin实现数据安全保护的一些...
内置检测模型说明
异常终端下载敏感数据 来自异常终端的数据下载可能是由于账号访问权限被外部攻击者获取，或者员工使用非工作终端进行数据下载。异常时间下载敏感数据 来自异常时间的数据下载可能是由于账号访问权限被外部攻击者获取，或者员工在非正常工作...
迁移方案概览
说明 数据迁移在某些场景下可实现部分数据同步的功能，但数据同步的网络稳定性更好、功能更丰富，推荐您使用数据同步功能。更多区别，请参见 数据迁移和数据同步的区别是什么。迁移链路均支持跨地域的任务。是否支持创建跨阿里云账号的迁移...
数据上传
本文为您介绍如何使用数据上传功能上传数据。使用限制 数据来源限制：仅支持上传 本地文件、DataWorks数据分析的电子表格、阿里云对象存储OSS 的数据。本地文件：支持 CSV、XLSX 格式，CSV 文件最大支持上传数据的数据量为5GB，XLSX 文件...
使用ClickHouse-Local迁移上云
当您需要优化数据管理、提高数据访问性能和降低数据库维护成本时，您可以将自建数据库迁移至云数据库ClickHouse企业版。云数据库ClickHouse企业版通过ClickHouse-Local工具为您的迁移任务提供了简便且可靠的解决方案。什么是ClickHouse-...
数据迁移操作指导
数据迁移流程 通常，使用数据传输服务DTS（Data Transmission Service）执行数据迁移的操作，您需要经历如下步骤。操作流程 说明 1.准备工作概览 在使用DTS迁移数据前，您需要对源或目标数据库做一些准备工作，以满足DTS对环境的要求。2....
2022年
2022年12月 14.5.2.0 内核小版本 类别 说明 相关文档 发布时间 新增 支持Persisted Buffer Pool，优化数据库恢复的时间。Persistent Buffer Pool 2022年11月 支持CSN日志，一种新的事务快照机制，用于提升MVCC性能。无 2022年11月 新增pg_...
数据库性能
数据管理DMS整合了数据库自治服务DAS的部分功能，可以帮助您掌握数据库实例的性能状况，快速、精准、有效地优化数据库服务。前提条件 如果您的数据库的管控模式为自由操作或稳定变更，并且您拥有实例的登录权限，当您登录目标实例后您将...
使用须知
购买图数据库GDB实例后，您不需要做数据库的基础运维（例如高可用、安全补丁等），但需要注意图数据库GDB...性能优化 如果GDB实例的CPU核数、内存、IOPS、存储空间和连接数不足时，可能会影响到数据库的性能，需要您优化数据或升级实例规格。
支持的数据库
说明 若源端为DTS同步方案暂不支持的数据库类型（即在源端 数据库类型 中没有您数据库的选项），可以尝试使用数据投递功能。更多信息，请参见 数据投递。源为自建MySQL或RDS MySQL的同步方案 重要 PolarDB-X 1.0中的数据库须基于RDS MySQL...
什么是数据资源平台
阿里云数据资源平台是数据资产定义、加工、管理、服务的全流程平台，提供数据同步、数据查询、数据标准、数据建模、数据加工、质量评估、业务模型构建、资产管理、数据服务等功能，为智能数据应用持续稳定供给全量、标准、干净、智能的数据...
数据归档概述
当线上数据库中的历史数据（访问率很低的数据）越来越多，占用的存储越来越大，以至于会影响数据库的查询性能与业务运转，此时您可以使用 数据管理DMS 的数据归档功能，周期性地将指定表的数据归档至其他数据库或存储服务中。同时，该功能...
常见问题
如何优化数据同步速度？如何通过调整数据类型来提升查询性能？性能分析和资源评估 分区索引是如何提升查询RT和QPS的？如何评估查询性能？分片数量对查询和写入性能有什么影响？如何评估搜索索引所需要的资源？数据迁移 搜索索引数据可以...
客户案例
客户需求 希望优化数据体系结构，解决如下难点、痛点问题：业务团队对全域数据资产无感知，且数据需求响应时间长。组件繁多，运维、开发成本高。昼夜资源使用量不均，资源利用率低。扩展性差，扩容、升级存在一定难度和风险。数据质量难...
版本及存储引擎
基于LSM tree结构组织数据，针对性优化数据写入，将随机写入转换成了顺序写入，能保证持续高效的数据写入。TerarkDB（已下线）适用于多读少写或批量写大量读的场景。借助TerarkDB的全局压缩技术，在提高压缩率的同时，能大幅提高随机查询的...
概述
数据安全共享场景：您可以通过控制密钥的所有权，管理数据使用权和数据访问的频次，实现数据安全共享，避免数据泄露。场景如下图所示：版本介绍 Spark全密态计算引擎分为 基础版和高性能版两个版本，区别如下：基础版：基础版的Spark全密态...
2019年
构建与优化数据仓库 2019年5月更新记录 时间 特性 类别 描述 产品文档 2019-05-31 新增Java SDK示例。新示例 新增Java SDK示例。运行安全命令示例 Instance Logview示例 输出错误日志示例 在SQL语句中设置Flag示例 SQLTask配合Tunnel实现...
新功能发布记录
2023-04-03 全部 修改专有网络VPC或交换机 2023年03月 变更项 说明 发布时间 发布地域 相关文档 功能优化 数据闪回功能新增支持持久内存型实例、内存型云盘版的读写分离架构实例。截至目前，下述实例版本均已支持数据闪回功能：云盘版：...
管理数据集
可以在仪表盘中使用数据集变量对数据进行筛选。定义变量 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>数据应用>数据分析。进入 数据分析 页面，单击 数据集 页签。选择目标数据集行，单击 操作 列下的 图标，进入编辑...
导入与导出
此时，集群CPU使用率、磁盘IO使用率处于较低水位，但写入响应时间较高，同时您可以在 诊断优化 数据建模诊断 页面的倾斜诊断表中发现目标表。您可以重新设计表结构后再导入数据，详情请参见 表结构设计。使用adb-import.sh导入本地数据时，...
数据库优化
数据库选型 阿里云拥有丰富的云数据库...利用 DAS 可以有效地发现并解决性能相关问题，其中的一键诊断、实时性能、锁分析、容量评估、性能洞察、性能趋势、慢SQL、SQL洞察和审计和自动SQL限流等功能可以帮助用户更好地洞察和优化数据库性能。
同步数据
详细操作步骤请参见 使用数据集成迁移数据至分析型数据库MySQL版。通过Kettle将关系型数据库、Hbase等NoSQL数据源，以及Excel、Access中的数据导入分析型数据库MySQL版中，详细操作步骤请参见 使用kettle将本地数据导入分析型数据库MySQL版...
- 产品推荐
- 这些文档可能帮助您