使用StarRocks作为元仓计算引擎进行元仓初始化
Dataphin元数据仓库（简称：元仓），是统一管理Dataphin内部业务元数据和相应计算引擎元数据的数据仓库，存在于Dataphin元仓租户中（OPS租户）的一个Dataphin项目空间中，由一系列的周期性数据集成节点、SQL脚本节点、Shell节点组成。元仓...
DatabaseInput
名称 类型 描述 示例值 object 数据库对象 Description string 元数据库描述文本 this is a hive database LocationUri string 元数据库保存路径，例如可填写 HDFS 路径/hdfs/hivedb/data Name string 元数据库名称，校验长度 128，不支持...
Spark SQL
在数据湖 元信息发现、T+1全量同步一键建仓 中创建的库表结构,可以被Spark读取并使用，Spark SQL创建或者修改的元数据也可以被其他引擎访问到。下图是Spark SQL和DLA SQL与元数据服务之间的关系。登录 DLA控制台，单击左侧导航栏的 SQL执行...
如何解决集群连接失败的问题
本文将介绍使用DMS（Data Management Service）和通用MySQL客户端连接 PolarDB MySQL版 集群失败的问题原因以及解决方法。集群白名单未配置或配置有误 问题原因：白名单设置中默认地址为 127.0.0.1，表示禁止任何IP地址访问 PolarDB 集群。...
使用DTS迁移实例
本文介绍如何使用数据传输服务DTS（Data Transmission Service），实现 RDS PostgreSQL 间的结构迁移、全量数据迁移以及增量数据迁移。同时使用这三种迁移类型可以实现在业务不停服的情况下，平滑地完成数据库的迁移。前提条件 已创建源和...
生命周期管理介绍
功能说明 您可以通过生命周期管理对数据湖中的数据库、数据表配置数据管理规则，可以基于数据最后访问时间、分区值、分区/表最后修改时间、分区/表创建时间四种规则类型，对数据定期进行存储类型转换，从而节省数据存储成本。同时，可以...
使用MaxCompute作为元仓计算引擎进行元仓初始化
Dataphin元数据仓库（简称：元仓），是统一管理Dataphin内部业务元数据和相应计算引擎元数据的数据仓库，存在于Dataphin元仓租户中（OPS租户）的一个Dataphin项目空间中，由一系列的周期性数据集成节点、SQL脚本节点、Shell节点组成。元仓...
管理敏感数据
说明 开通免费试用后，系统会根据您提供的用户名和密码抽取目标数据库中的元数据和少量随机数据用于敏感数据分析，这些数据不会被存储和修改。您可以在页面中查看到数据库相关信息和数据库中敏感数据的扫描结果。如需对扫描出来的敏感数据...
数据湖元数据管理
数据湖元数据是服务化高可用并且可扩展的元数据库，您无需额外购买独立的元数据库，就可以实现多个引擎计算，例如同时使用Databricks 数据洞察和E-MapReduce。多个Databricks 数据洞察集群可以共享统一元数据库。前提条件 已在 数据湖构建...
UpdateDatabase-更新元数据库信息
CatalogId string 否 数据库分类命名空间，默认填写主账号 Uid 1344371 DatabaseInput DatabaseInput 否 新的元数据库 Name string 否 修改前的元数据库名称，更新前后元数据库相同则仅更新其他 Meta database_test 返回参数 名称 类型 ...
MaxCompute湖仓一体
MaxCompute湖仓一体方案通过数据仓库MaxCompute和数据湖共同实现，将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合，助力于构建数据湖和数据仓库相融合的数据管理平台。本文为您介绍如何通过Dataphin管理MaxCompute和...
MaxCompute湖仓一体
MaxCompute湖仓一体方案通过数据仓库MaxCompute和数据湖共同实现，将数据湖的灵活性、生态丰富能力与数据仓库的企业级部署能力进行融合，助力于构建数据湖和数据仓库相融合的数据管理平台。本文为您介绍如何通过Dataphin管理MaxCompute和...
接入阿里云ECS自建数据库实例
本文介绍如何在数据库自治服务DAS中接入阿里云ECS自建数据库。前提条件 DAS目前支持接入的ECS自建数据库引擎有：MySQL PostgreSQL MongoDB Redis 说明 目前DAS仅支持接入6.0及以下版本的自建Redis。部署数据库实例的ECS与DAS属于同一个阿里...
接入其他自建或其他云厂商数据库实例
本文介绍如何在数据库自治服务DAS上接入除阿里云外的其他自建数据库，包括用户本地机房数据库、其他云厂商的数据库和其他云厂商虚拟机上的自建数据库。前提条件 DAS目前支持接入的自建数据库引擎：MySQL MongoDB PostgreSQL Redis 说明 ...
查询服务
您可以通过微服务中心MSE查询部署的Spring Cloud或Dubbo应用的服务列表和服务详情。本文介绍如何查询服务。名词解释 服务：指被注册到注册中心的Spring Cloud和Dubbo服务。应用：指部署的实体。查看服务列表 登录 MSE治理中心控制台，并在...
0037-00000004
问题原因 您发起了DoMetaQuery或GetMetaQueryStatus请求，但是请求的目标Bucket元数据索引库未构建完成。问题示例 例如，你发起了DoMetaQuery请求，但是请求的Bucket（oss-example）元数据索引库未构建完成，导致请求报错。POST/?metaQuery...
迁移元数据上云
元数据存储于RabbitMQ集群的内部数据库，在集群的各个节点之间自动复制。集群内各节点的元数据内容都相同。使用限制 由于RabbitMQ和 云消息队列 RabbitMQ 版 在权限管控机制等方面存在差异，rabbit_version、users、permissions、...
单点登录（SSO）常见问题
问题原因 解决方法 企业IdP中使用的签名公私钥对发生了轮转，但未更新在阿里云中配置的IdP元数据。更新在阿里云中配置的IdP元数据。您可以从企业IdP下载最新的元数据文件，重新上传到阿里云中。企业IdP中使用的签名公私钥对发生了轮转，且...
常见报错
本文介绍DBS配置备份计划、备份恢复预检查以及恢复任务运行时系统返回的报错信息（如异常信息或错误码）以及解决方法。说明 若在本文中未找到您遇到的异常或报错，或按照文中修复建议仍未解决您的问题，请到 DBS客户咨询群（钉钉群号：...
单点登录（SSO）常见问题
问题原因 解决方法 企业IdP中使用的签名公私钥对发生了轮转，但未更新在阿里云中配置的IdP元数据。更新在阿里云中配置的IdP元数据。您可以从企业IdP下载最新的元数据文件，重新上传到阿里云中。企业IdP中使用的签名公私钥对发生了轮转，且...
Spark
原因和解决方法如下：原因1：Executor进程使用的内存超出限制。Spark Executor除了JVM本身使用的内存外，还包括堆外内存（Shuffle、Cache），以及Python UDF等使用的内存。容器使用的内存超过了容器允许使用内存的限制，导致Spark进程被...
元数据迁移
元数据迁移提供可视化的元数据迁移能力，可以帮...验证元数据同步结果 在元数据管理-元数据库中，查询期望同步的数据库信息，可以查询到相应的数据库信息。在元数据管理-元数据表中，查询期望同步的数据表信息，可以查询到相应的数据表信息。
PolarDB-X 2.0和1.0功能对比
支持两种方式创建数据库：使用用户习惯的工具或者DMS登录数据库，执行 CREATE DATABASE 指令创建数据库。在控制台创建数据库。扩容 需要评估每个MySQL的容量，并选择将哪些分库迁移到新的MySQL存储上。只需要增加节点数，数据将自动均衡的...
DLF统一元数据
背景信息 阿里云数据湖构建是一款全托管的快速帮助用户构建云上数据湖的服务，产品为云原生数据湖提供了统一的元数据管理、统一的权限与安全管理、便捷的数据入湖能力以及一键式数据探索能力，详细信息请参见 数据湖构建产品简介。...
搭建与管理（基于DLF和OSS）
通过MaxCompute与DLF和OSS的组合，可以实现数据仓库和数据湖的一体化，提供更加灵活和高效的数据处理能力。本文为您介绍如何通过MaxCompute、DLF和OSS构建湖仓一体，以及湖仓一体项目的管理。前提条件 当您通过MaxCompute与DLF和OSS构建湖...
创建Hive数据源
通过创建Hive数据源能够实现Dataphin读取Hive的业务数据或向Hive写入数据。本文为您介绍如何创建Hive数据源。背景信息 Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供SQL查询功能。Hive用于转化...
EMR元数据迁移DLF最佳实践
本方案支持已有EMR集群元数据库使用RDS或内置MySQL数据库迁移DLF，通过统一的元数据管理，多种数据源入湖，搭建高效的数据湖解决方案。本文主要介绍如何将Hive Metasstore存储在MySQL/RDS中的元数据迁移到DLF中，并介绍如何在EMR集群中配置...
Hadoop集群迁移至DataLake集群
本文将详细阐述如何将您已有的旧版数据湖集群（Hadoop），高效地迁移至数据湖集群（DataLake），以下分别简称“旧集群”和“新集群”。迁移过程将充分考虑旧集群的版本、元数据类型以及存储方式，并针对这些因素，提供适应新集群的迁移策略...
查询Dubbo服务
您可以通过EDAS查询部署的Dubbo应用的服务列表和服务详情。使用限制 服务查询包含新版和旧版，您可以在 服务查询 页面切换版本。新版通过Agent查询服务，支持查询EDAS注册中心、MSE托管的注册中心 和自建注册中心（包括ZooKeeper、Nacos、...
0037-00000002
问题原因 您发起OpenMetaQuery请求为Bucket开启元数据管理功能，但是请求的Bucket已开启或者正在关闭元数据索引库。问题示例 例如，您发起OpenMetaQuery请求为Bucket（oss-example）开启元数据管理功能。如果该Bucket已开启或者正在关闭...
LockObj
名称 类型 描述 示例值 object LockObj CatalogId string 数据库分类命名空间，默认填写主账号 Uid 1344371 DatabaseName string 元数据库名称 database_test PartitionName string 分区名称，非必填 dt TableName string 元数据表名称 ...
FineBI
您可以通过FineBI连接 云原生数据仓库AnalyticDB MySQL版，以可视化的形式帮助您进行多样数据管理，例如过滤、分组汇总、新增列、字段设置、排序等，极大的提升了数据整合的便利性和效率。前提条件 了解FineBI与 AnalyticDB MySQL版 之间的...
数据地图概述
数据地图是在元数据基础上提供的企业数据目录管理模块，涵盖全局数据检索、元数据详情查看、数据预览、数据血缘和数据类目管理等功能。数据地图可以帮助您更好地查找、理解和使用数据。元数据采集与接入 MaxCompute数据 如果您使用了...
快速入门
数据湖构建（Data Lake Formation，DLF）产品主要使用流程如下。...创建数据源 创建数据湖的入湖来源，当前支持阿里云RDS MySQL...创建数据湖的元数据 添加元数据库 创建元数据表，指定表中数据的存储位置和存储格式 详细操作请参见 元数据管理。
MongoDB实例内存使用率高问题
本文介绍查看 云数据库 MongoDB 版 实例内存使用率的方法，以及导致内存使用率高的原因和优化策略。背景信息 云数据库 MongoDB 版 进程启动后，不仅会加载二进制文件和依赖的各种系统库文件到内存，而且负责内存的分配和释放工作，例如客户...
方案背景
本文主要为您介绍搭建海量智能元数据管理系统的技术点以及使用表格存储搭建智能元数据管理系统的方案。用户存储海量的文档、媒体文件等数据的同时，对文件元数据（Meta）的管理不可或缺。元数据拥有多维度的字段信息，基本信息包含文件大小...
数据湖加速查询
基于阿里云数据湖构建（Data Lake Formation，DLF）和对象存储（Object Storage Service，OSS）推出的Hologres数据湖加速服务，提供了灵活的数据访问和分析能力以及高效的数据处理能力，显著加快了对OSS数据湖的查询和分析过程。...
Query洞察
同时也可以手动输入表的相关信息（所在实例名、数据库、Schema）以及表的元数据收集时间，即可查看表对应的元数据信息。基本信息 包含表名、是否分区，以及分区对应的信息。表元数据信息 包含表的创建时间，收集时间，存储量等信息。表属性...
ODC 常见问题
A：针对 Web 版 ODC，可直接迁移或备份部署 ODC 时创建的元数据库；针对客户端版 ODC，可备份用户目录下的 odc2.0.mv.db 文件，需恢复连接时，拷贝或替换该文件至到原目录下即可。Q：执行 SQL 超时时，应如何解决？A：当执行 SQL 超时时，...
Quick BI中元数据库中记录报表使用分析的数据
概述 本文描述Quick BI中元数据库中如何记录报表使用分析的数据。详细信息 报表使用分析的数据记录在表yunbi_report_view_day_stat中，每天凌晨4:30更新数据。适用于 Quick BI
- 产品推荐
- 这些文档可能帮助您