架构
订阅者按照数据在发布者上被提交的顺序应用数据，这样任意单一订阅中的发布的事务一致性才能得到保证。逻辑复制被构建在一种类似于物理流复制的架构上。它由“walsender”和“apply”进程实现。walsender 进程开始对 WAL 的逻辑解码并且...
使用场景
包含但不限于如下场景：数据迁移与同步 使用DMS任务编排配置和管理数据迁移或数据同步任务，将数据从一个数据源迁移到另一个数据源，或实现同数据源、不同数据源之间的数据实时同步。数据清洗与加工 DMS任务编排可以用于数据清洗和加工任务...
删除数据源
本文介绍在DataV中删除数据源的方法。警告 数据源删除后，不可恢复，请谨慎操作。操作步骤 登录 DataV控制台。在 我的数据 页签中单击 数据源管理。在 数据源管理 页面，将鼠标移至需要删除的数据源上。单击左侧出现的 图标，即可删除该...
什么是数据库代理
PolarDB 数据库代理是位于数据库和应用程序之间的网络代理服务，用于代理应用程序访问数据库时的所有请求，具有高可用、高性能、可运维、简单易用等特点，支持自动读写分离、负载均衡、一致性级别、连接池、过载保护等高级功能。...
筛选数据源
本文介绍在DataV中筛选数据源的方法。系统支持按照类别对数据源进行筛选。操作步骤 登录 DataV控制台。在 我的数据 页签中单击 数据源管理。在 数据源管理 页面，移动鼠标至页面右侧的 按类别筛选 上。在数据源类别下拉列表中，选择需要...
数据集成：全领域数据汇聚
DataWorks的数据集成功能模块是稳定高效、弹性伸缩的数据同步平台，致力于提供复杂网络环境下、丰富的异构数据源之间高速稳定的数据移动及同步能力。功能概述 DataWorks数据集成支持离线同步、实时同步，以及离线和实时一体化的全增量同步...
添加数据集
DataV数据集支持多种数据源的接入，如数据库、excel表格文件等，通过对数据的结构化存储和元数据的汇集整理，提供高效实用的数据建模能力，可用的算子包括常见的数据聚合函数、按不同时间粒度划分、地理信息处理等。本文为您介绍如何在...
添加适配数据源
在使用数据集前需要先添加支持的数据源内容，本文介绍添加适配数据源的方法。如果通过上传本地数据源文件方式创建数据集请跳过本章节。背景信息 当前数据集功能仅支持以下三种数据源类型：RDS for MySQL 兼容MySQL数据库 RDS for ...
使用MaxCompute控制台（离线）
是否剔除脏数据 根据需要选择在上传文件数据时，是否剔除待上传文件中与MaxCompute目标表的列类型不统一的数据。说明 例如：待上传的数据中，某列值为含字母的字符串类型，但对应目标表的列是BIGINT类型，那么该数据将被视为脏数据。若选择...
创建概念模型：维度
应用层基于实际应用需求，获取公共层加工整合后的数据，面向具体业务建立业务层面的维度，进行持续的个性化数据建设及改造。您可根据需求选择创建公共层或应用层维度，不同数仓分层创建维度的准备工作如下表。数仓分层 准备事项 参考链接 ...
应用场景
数据库审计服务支持对阿里云原生数据库（例如RDS云数据库）及自建数据库（例如ECS自建数据库）进行适配审计，满足您对数据审计及日志数据留存的要求。RDS云数据库审计 通过在用户PC（该PC通过数据库运维工具直接连接RDS数据库）或访问数据...
内置全密态能力
PolarDB PostgreSQL版（兼容Oracle）提供全密态数据库功能，数据在用户侧加密后传入数据库管理系统，数据明文对于数据库服务端不可见，实现了端到端的全程加密的数据强安全性。全密态云数据库是达摩院数据库与存储实验室的自研产品，可以...
MMA概述
MMA（MaxCompute Migration Assist）是一款MaxCompute数据迁移工具。本文为您介绍MMA的使用概述，帮助您快速了解并使用MMA。...迁移任务查看与操作 介绍数据迁移任务的查看与操作，及增量迁移方法。帮助您快速了解迁移任务的功能。
添加数据
背景信息 空间数据支持添加的 数据类型与格式有：数据类型 数据格式 矢量 Shapefile GeoJSON CSV GDB PostGIS 栅格 GeoTIFF Images NetCDF 倾斜摄影 OSGB S3M 3DTiles BIM RVT DGN IFC 点云 LAS PCD 三维模型 OBJ 3DS glTF FBX 栅格瓦片 ...
添加RDS for PostgreSQL数据源
本文为您介绍在DataV中添加RDS for PostgreSQL数据源的方法。前提条件 已准备好待添加的RDS for PostgreSQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 类型 列表中，...
01创建解决方案
数据标准 来源于数据标准模块的数据元、数据字典、命名标准、质量函数。说明 质量函数目前只支持展示作用，不会参与导入导出和实例化。数据源 来源于系统设置模块中添加的云计算资源。预期结果 在 方案管理 列表，查看新建的解决方案。单击...
添加PolarDB for MySQL数据源
本文为您介绍在DataV中添加PolarDB for MySQL数据源的方法，以及相关参数配置说明。云原生关系型数据库PolarDB是阿里巴巴自主研发的下一代云原生关系型数据库，100%兼容MySQL语法。通过外网添加数据源操作步骤 登录 DataV控制台。在 我的...
添加PolarDB for Oracle数据源
本文为您介绍在DataV中添加PolarDB for Oracle数据源的方法，以及相关参数配置说明。云原生关系型数据库PolarDB是阿里巴巴自主研发的下一代云原生关系型数据库，100%兼容Oracle语法。通过外网添加数据源操作步骤 登录 DataV控制台。在 我的...
添加ClickHouse数据源
本文档介绍在DataV中添加ClickHouse数据源的方法，以及相关参数配置说明。前提条件 已准备好待添加的ClickHouse数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 类型 列表中...
添加PolarDB for PostgreSQL数据源
本文为您介绍在DataV中添加PolarDB for PostgreSQL数据源的方法，以及相关参数配置说明。云原生关系型数据库PolarDB是阿里巴巴自主研发的下一代云原生关系型数据库，100%兼容PostgreSQL语法。通过外网添加数据源操作步骤 登录 DataV控制台...
添加OceanBase for MySQL数据源
本文为您介绍在DataV中添加OceanBase for MySQL数据源的方法，以及相关参数配置说明。OceanBase具有数据强一致、高可用、高性能、在线扩展、高度兼容SQL标准和主流关系型数据库、低成本等特点。通过外网添加数据源操作步骤 登录 DataV控制...
添加适配数据源
在使用数据集前需要先添加支持的数据源内容，本文介绍添加适配数据源的方法。如果通过上传本地数据源文件方式创建数据集请跳过本章节。背景信息 说明 当前数据集功能支持以下数据源类型：RDS for PostgreSQL、RDS for MySQL、兼容MySQL数据...
添加AnalyticDB for PostgreSQL数据源
本文为您介绍在DataV中添加AnalyticDB for PostgreSQL数据源的方法。前提条件 已准备好待添加的AnalyticDB for PostgreSQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 ...
添加AnalyticDB for MySQL数据源
本文为您介绍在DataV中添加AnalyticDB for MySQL数据源的方法。前提条件 已准备好待添加的AnalyticDB for MySQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。在 类型 列表中...
添加RDS for MySQL数据源
本文为您介绍在DataV中添加RDS for MySQL数据源的方法。前提条件 已准备好待添加的RDS for MySQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 类型 列表中，选择 RDS for ...
添加RDS for SQLServer数据源
本文为您介绍在DataV中通过内网和外网添加RDS for SQLServer数据源的方法。前提条件 已准备好待添加的RDS for SQLServer数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 我的数据 页签中选择 数据源管理，单击 添加数据。从 类型...
添加RDS for PostgreSQL数据源
本文为您介绍在DataV中添加RDS for PostgreSQL数据源的方法。前提条件 已准备好待添加的RDS for PostgreSQL数据源。通过内网添加数据源操作步骤 登录 DataV控制台。在 工作台 页面，单击 数据准备>数据源，进入 数据源 页面，单击 新建数据...
数据保护伞入门
进入数据保护伞 登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。单击左上角的 图标，选择 全部产品>数据治理>数据保护伞。单击 立即体验，即可进入数据保护伞首页。您...
功能特性
通过OpenTelemetry上报Go应用数据 通过Jaeger上报Go应用数据 通过Zipkin上报Go应用数据 通过SkyWalking上报Go应用数据 接入Python应用 支持通过OpenTelemetry、Skywalking、Jaeger上报Python应用性能数据。通过OpenTelemetry上报Python应用...
通用数据开发
数据分析与处理：完成数据的同步后，可以对MaxCompute中的数据进行加工（MaxCompute SQL、MaxCompute MR）、分析与挖掘（数据分析、数据挖掘）等处理，从而发现其价值。数据提取：分析与处理后的结果数据，需要同步导出至业务系统，以供...
什么是EMR on ACK
您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注大数据任务本身。形态对比 阿里云EMR提供on ECS和on ACK两种方式，以...
调用API
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>集成与开发（DTS）>数据应用>数据服务。单击 API调用 页签，找到 加密签名身份认证 的 AppKey 和 AppSecret。在应用中使用SDK调用API。更多调用API信息，请...
添加宜搭数据源
前提条件 已通过钉钉登录 宜搭控制台 创建一个宜搭应用数据表单。新建表单详情请参见 新建宜搭数据表单。背景信息 宜搭数据源内数据的调用权限使用最小可用原则。在DataV调用数据源时，同一账号只能调用本账号在宜搭中搭建的应用下的表单...
数据下载
在DataWorks的数据开发（DataStudio）、数据分析、安全中心模块下载的CSV、XLSX格式文件数据将同步保存至数据下载功能。通过该功能，您可将所需历史下载文件重新下载至本地使用，也可追溯历史下载记录的操作详情。前提条件 已通过如下模块...
开发前准备：绑定数据源或集群
若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发（DataStudio）模块。绑定后，才可读取数据源或集群中的数据，并进行相关开发操作。前提条件 您需根据后续要开发和调度...
添加宜搭数据源
前提条件 已通过钉钉登录 宜搭控制台 创建一个宜搭应用数据表单。新建表单详情请参见 新建宜搭数据表单。背景信息 宜搭数据源内数据的调用权限使用最小可用原则。在DataV调用数据源时，同一账号只能调用本账号在宜搭中搭建的应用下的表单...
数据仓库研发规范概述
数据仓库研发规范旨在为广大数据研发者、管理者提供规范化的研发流程指导方法，目的是简化、规范日常工作流程，提高工作效率，减少无效与冗余工作，赋能企业、政府更强大的数据掌控力来应对海量增长的业务数据，从而释放更多人力与财力专注...
数据重排
使用示例 本文将MaxCompute公共数据集TPC-DS中1 TB规格的 customer 表分别以 DISTRIBUTE BY+SORT BY、CLUSTER BY 两种排序方法重排后写入新的数据表，比较写入前后表的大小以验证存储优化效果，MaxCompute公共数据集TPC-DS详情请参见 TPC-...
划分数据域
数据域是联系较为紧密的数据主题的集合，是业务对象高度概括的概念，目的是便于管理和应用数据。通常，您需要阅读各源系统的设计文档、数据字典和数据模型，研究逆向导出的物理数据模型。进而，可以进行跨源的主题域合并，跨源梳理出整个...
应用场景
前端的监控系统和大数据处理系统会利用 TSDB 的数据查询和计算分析能力进行业务监控和分析结果的实时展现。电力化工及工业制造监控分析 传统电力化工以及工业制造行业需要通过实时的监控系统进行设备状态检测，故障发现以及业务趋势分析。...
- 产品推荐
- 这些文档可能帮助您