数仓分层
基于阿里巴巴OneData方法论最佳实践，在阿里巴巴的数据体系中，建议将数据仓库分为三层：数据引入层（ODS，Operational Data Store）、数据公共层（CDM，Common Dimensions Model）和数据应用层（ADS，Application Data Store）。数据仓库...
数据查询
数据查询为用户提供对云计算资源中物理表基本情况的概览能力，帮助用户直观了解物理表基础信息、字段内容分布等情况，建立对数据表的宏观理解，为建立数据标准、定义数据模型、定义数据加工逻辑等工作提供基础依据。如果数据表格存储的是...
数据服务：低成本快速发布API
功能概述 作为数据仓库与上层应用系统间的“桥梁”，DataWorks数据服务为企业搭建统一的服务总线，帮助企业统一创建及管理对内、对外的API服务，解决数仓、数据库与数据应用间的“最后一公里”，加速数据的流动和共享。数据服务支持通过零...
产品架构
数据管理DMS的产品架构分为三层：数据源、数据运营与管理和商业应用。数据源 关系型数据库：MySQL、SQL Server、PostgreSQL、PolarDB MySQL版...商业应用：数据化运维DataOps 容灾多活 T+1全量数据快照 数据集中处理 可视化报表 数据多维分析
添加宜搭数据源
前提条件 已通过钉钉登录 宜搭控制台 创建一个宜搭应用数据表单。新建表单详情请参见 新建宜搭数据表单。背景信息 宜搭数据源内数据的调用权限使用最小可用原则。在DataV调用数据源时，同一账号只能调用本账号在宜搭中搭建的应用下的表单...
添加宜搭数据源
前提条件 已通过钉钉登录 宜搭控制台 创建一个宜搭应用数据表单。新建表单详情请参见 新建宜搭数据表单。背景信息 宜搭数据源内数据的调用权限使用最小可用原则。在DataV调用数据源时，同一账号只能调用本账号在宜搭中搭建的应用下的表单...
功能简介
数据查询为用户提供对云计算资源中物理表基本情况的概览能力，帮助用户直观了解物理表基础信息、字段内容分布等情况，建立对数据表的宏观理解，为建立数据标准、定义数据模型、定义数据加工逻辑等工作提供基础依据。如果数据表格存储的是...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
数仓分层
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
应用场景
大数据场景：海量数据存储与分析 Lindorm支持海量数据的低成本存储、快速批量导入和实时访问，具备高效的增量及全量数据通道，可轻松与Spark、MaxCompute等大数据平台集成，完成数据的大规模离线分析。优势 低成本：高压缩比，数据冷热分离...
数仓分层
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
功能简介
全景监控支持业务链路配置监控场景，通过自定义监控链路和告警消息配置，可快速实现从数据生产到业务应用的全链路编排及溯源，实现全局监控和问题快速锁定。全景监控提供丰富的告警信息输出方式，包括：钉钉消息、标准协议等方式，出现问题...
全景监控
全景监控支持业务链路配置监控场景，通过自定义监控链路和告警消息配置，可快速实现从数据生产到业务应用的全链路编排及溯源，实现全局监控和问题快速锁定。全景监控提供丰富的告警信息输出方式，包括：钉钉消息、标准协议等方式，出现问题...
功能简介
全景监控支持业务链路配置监控场景，通过自定义监控链路和告警消息配置，可快速实现从数据生产到业务应用的全链路编排及溯源，实现全局监控和问题快速锁定。全景监控提供丰富的告警信息输出方式，包括：钉钉消息、标准协议等方式，出现问题...
管理应用和标签
在应用设置页面上，您可以控制是否显示机器名称和采集应用数据，也可以管理应用的自定义标签和删除应用。背景信息 在 可观测链路 OpenTelemetry 版 控制台上，当需要显示应用所部属的机器时，默认情况下显示的是机器的IP地址，但是您也可以...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将...MaxCompute处理业务数据和日志数据后，可以通过Quick BI快速地以可视化方式展现数据处理结果，详情请参见 基于MaxCompute的大数据BI分析。
PolarDB的高级脱敏
高级脱敏功能具有但不限于如下特性：统一管理敏感数据 敏感数据分类分级 周期性扫描敏感数据 主动发现敏感数据 应用场景 实时从生产环境中的数据库（即生产库）获取用户已脱敏的数据来进行报表生成、数据分析、开发测试等。前提条件 已录入...
概述
例如，业务将应用数据库迁移到云上，需要应对云平台以及运维人员越权访问数据的潜在威胁；再如，数据应用需要将数据库整体线下部署到客户线下环境，需要防止数据被客户运维非授权获取。敏感数据合规：该场景主要针对在不可信环境（如第三方...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
互联网、电商行业离线大数据分析
概述 电商网站的销售数据通过大数据进行分析后，可以在大屏幕展示销售指标、客户指标、销售排名和订单地区分布等业务指标数据。DataV大屏支持可视化动态展示销售数据，触控大屏支持您自助查询数据，极大地提高数据的可读性。应用场景 电商...
应用防护页面看不到应用或资源？
AHAS刚接入应用之后，应用防护页面各个应用数据显示为空，这是因为应用没有实时流量就不会有数据。此时您可以通过PTS发起少量压测流量或手动访问，例如通过浏览器访问应用即可看到请求，控制台中将显示对应的流量数据。在应用防护页面中，...
架构
订阅者按照数据在发布者上被提交的顺序应用数据，这样任意单一订阅中的发布的事务一致性才能得到保证。逻辑复制被构建在一种类似于物理流复制的架构上。它由“walsender”和“apply”进程实现。walsender 进程开始对 WAL 的逻辑解码并且...
导出应用
应用信息 当前导入、导出应用数据时，包含的应用信息如下所示：应用名、应用描述信息、应用所处集群信息、应用实例数 应用程序包、应用镜像 CPU、内存请求与限制值 启动命令、启动参数、环境变量配置 就绪探针、存活探针、启动后脚本、停止...
设置启动命令
应用托管概述 设置镜像部署应用的启动命令 设置JAR包部署应用的启动命令 设置WAR包部署应用的启动命令 设置ZIP包部署应用的启动命令 设置镜像部署应用的启动命令 以创建Java应用为例，在 应用部署配置 配置向导页面选择 应用部署方式 为 ...
数据库分析
将应用数据上报至 可观测链路 OpenTelemetry 版 后，可观测链路 OpenTelemetry 版 即可开始监控应用，您可以在 数据库分析 页面查看数据库分析数据，从而了解数据库的调用详情。前提条件 已将应用数据上报至 可观测链路 OpenTelemetry 版，...
资产质量概述
背景信息 面对各行各业日趋强烈的大数据建设、管理及应用的诉求，Dataphin应用场景的多样性及复杂性随之增加。因业务系统的原始数据的规范性无法得以保障，所以Dataphin需要定义数据分析的质量，以满足资产质量的时效性、准确性、完整性、...
透明数据加密概述
经过数据库身份验证的应用和用户可以继续透明地访问应用数据（不需要更改应用代码或配置），而尝试读取表空间文件中的敏感数据的OS用户以及尝试读取磁盘或备份信息的未知用户将不允许访问明文数据。透明：数据在使用过程中无感知，数据在...
应用拓扑
将应用数据上报至 可观测链路 OpenTelemetry 版 后，可观测链路 OpenTelemetry 版 即可开始监控应用，您可以在 应用拓扑 页面了解应用内部服务的调用关系。前提条件 已将应用数据上报至 可观测链路 OpenTelemetry 版，具体操作，请参见 接...
Spark应用性能诊断
应用场景 Spark应用性能诊断主要适用于以下场景：数据集性能分析：使用Spark处理大规模数据时，需要对数据集进行性能分析。使用性能诊断工具可以快速定位性能瓶颈（例如：内存峰值、Spill等），提高数据处理效率。大规模应用负载均衡：...
远程调试
开启应用内存优化（G1）：默认开启，开启后可以针对多CPU与大容量内存场景，降低GC时间，适用于GC需要优化、大数据等场景。开启应用启动加速（Quickstart）：只有 Java环境 为 Dragonwell 11 时可以设置。选中 开启应用启动加速...
数仓规划概述
DataWorks为您默认创建业界通用的五层数仓分层：数据引入层 ODS（Operational Data Store）明细数据层 DWD（Data Warehouse Detail）汇总数据层 DWS（Data Warehouse Summary）应用数据层 ADS（Application Data Service）公共维度层 DIM...
数据标准概述
Dataphin支持创建并管理数据标准，以保障数据的标准化生产与管理，节约数据应用和处理的成本。背景信息 数据标准目标是为 业务、技术 和 管理 提供服务和支持。数据标准管理的过程就是对数据以及数据的属性信息的标准化定义和应用的过程。...
轨迹层
数据分级：根据数据中的 value 字段值大小划分（自然分割）成2~7个数据大小级别，解决 value 值相差太大导致的渲染问题。轨迹粗细（从细到粗）：单击右侧的 或 图标，添加或删除一个类型。单击 或 图标配置多个轨迹粗细类型的排列样式。...
通过DataV展示数据
通过DataV的SQL语句功能，处理数据，并将结果展示在大屏上。添加DataV数据源。参考 配置数据库白名单，根据您数据库的网络类型，将DataV的白名单添加到您的RDS数据库中。登录 DataV控制台。选择 我的数据>添加数据。填写RDS实例的相关信息...
数据标准概述
Dataphin支持创建并管理数据标准，以保障数据的标准化生产与管理，节约数据应用和处理的成本。背景信息 数据标准目标是为 业务、技术 和 管理 提供服务和支持。数据标准管理的过程就是对数据以及数据的属性信息的标准化定义和应用的过程。...
功能特性
多可用区部署 备份恢复 Lindorm宽表引擎支持数据备份恢复功能，基于数据生态服务中的数据迁移将数据存储至OSS中，定期全量备份数据，实时增量同步数据，来满足对数据备份和数据恢复的需求。备份恢复 产品生态 功能集 功能 功能描述 参考...
创建轻量数据库服务
轻量应用数据库服务和轻量应用服务器需在同一地域，才能通过内网访问。操作步骤 登录 轻量应用服务器管理控制台。在左侧导航栏，单击 数据库服务。在页面左上角，单击 创建数据库服务。在 轻量应用服务器 页面，完成数据库服务的配置。具体...
功能特性
分区格式化数据盘 扩容数据盘 随着业务发展和应用数据增长，数据盘的使用空间不足时，您可以扩容数据盘的存储容量。扩容数据盘 管理快照 管理快照 快照是某一时间点磁盘数据状态的备份文件，常用于日常数据备份、服务器数据误操作恢复、...
创建和管理轻应用
④ 应用数据 用于统计当前版本轻应用的页面编排、服务编排、结构对象、依赖数据源的数量。单击数字跳转到对应的列表页。⑤ Serverless资源用量 显示当前版本轻应用的Serverless资源用量，包括：本月CPU资源使用量、本月Memory资源使用量、...
创建逻辑模型：应用表
应用表通常挂载于应用数据层，用于将一个统计粒度（维度或维度组合）及该粒度下的多个指标汇总输出，为后续的业务查询，数据分发等提供基础。您也可以根据业务需求，选择将应用表挂载至其他数据层。创建数据分层，详情请参见 创建数仓分层...
- 产品推荐
- 这些文档可能帮助您