可观测性能力
背景信息 可观测性是以系统的指标、日志、链路追踪三大数据支柱为基础，衍生出如数据监控、问题分析、系统诊断等一系列的能力。指标（Metrics）：记录一段时间内各个维度的量化信息，用来观察系统的某些状态和趋势。日志（Logs）：记录程序...
重要组件
此外，PolarStore使用了类似Copy On Write技术，支持秒级快照，即对数据库来说，不管底层数据有多大，都能快速完成全量数据备份，因此PolarDB支持高达100T的磁盘规格。计算节点和存储节点之间通过25G RDMA网络连接，保证数据传输不会出现...
可观测性能力介绍
背景信息 可观测性是以系统的指标、日志、链路追踪三大数据支柱为基础，衍生出如数据监控、问题分析、系统诊断等一系列的能力。指标（Metrics）：记录一段时间内各个维度的量化信息，用来观察系统的某些状态和趋势。日志（Logs）：记录程序...
数据域
数据域是联系较为紧密的数据主题的集合，通常是根据业务类别、数据来源、数据用途等多个维度，对企业的业务数据进行的区域划分，将同类型数据存放在一起，便于您快速查找需要的内容。不同使用目的数据，分类标准不同。例如，电商行业通常...
基于Delta lake的一站式数据湖构建与分析实战
数据湖作为一个集中化的数据存储仓库，支持的数据类型具有多样性，包括结构化、半结构化以及非结构化的数据，数据来源上包含数据库数据、binglog 增量数据、日志数据以及已有数仓上的存量数据等。数据湖能够将这些不同来源、不同格式的数据...
手动下载备份集
当您需要将备份集恢复到本地数据库、进行Excel分析与审计、或备份到本地存储时，您可手动下载备份集。本文向您介绍手动下载备份集的操作步骤。功能限制与格式说明 说明 为确保备份集的顺利下载，下载前请先留意目标备份集的有效期。考虑到...
功能特性
OSS数据源 一键入湖 通过DLA控制台配置数据源（RDS数据源、ECS自建数据库数据）和目标OSS数据仓库，系统按照您设定的数据同步时间自动、无缝的帮您把数据源中的数据同步到目标数据仓库OSS中，同时在数据仓库和DLA中创建与数据源表相同的表...
审计配置
在使用 数据安全中心DSC（Data Security Center）提供的安全审计功能前，您需要先完成审计配置。DSC 根据您配置的审计模式采集审计日志，并根据已开启的审计规则上报审计告警。本文介绍如何进行审计配置。前提条件 已购买 DSC 企业版。具体...
数据引入层（ODS）
业务数据系统中的数据通常为非常细节的数据，经过长时间累积，且访问频率很高，是面向应用的数据。说明 在构建MaxCompute数据仓库的表之前，您需要首先了解MaxCompute支持的 数据类型版本说明。数据引入层表设计 本教程中，在ODS层主要包括...
数据引入层（ODS）
业务数据系统中的数据通常为非常细节的数据，经过长时间累积，且访问频率很高，是面向应用的数据。说明 在构建MaxCompute数据仓库的表之前，您需要首先了解MaxCompute支持的 数据类型版本说明。数据引入层表设计 本教程中，在ODS层主要包括...
恢复Oracle物理备份
登录 DBS控制台，在 备份计划>备份计划列表 页面单击备份计划名称，在 备份任务>全量数据备份 页面中查看全量数据集的大小，详情请参见 查看备份计划。数据库程序目录 填入 ORACLE_HOME 的绝对路径。数据跨境合规承诺 阅读并勾选合规承诺。...
Github实时数据同步与分析
本文以使用DataWorks实时同步公共数据至Hologres，并通过Hologres进行实时数据分析为例，为您示例DataWorks的数据同步能力与Hologres的实时分析能力。本教程以申请免费资源为例为您示例详细操作步骤，您也可以使用付费资源，操作类似。教程...
大数据AI公共数据集分析
教程简介 阿里云DataWorks基于多种大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、...
冷热分层
背景信息 在海量大数据场景下，随着业务和数据量的不断增长，性能和成本的权衡成为大数据系统设计面临的关键挑战。Delta Lake是新型数据湖方案，推出了数据流入、数据组织管理、数据查询和数据流出等特性，同时提供了数据的ACID和CRUD操作...
概述
静态脱敏 将生产库的全量数据导入至一个镜像数据库中，同时在导数据的过程中对敏感数据进行加密或脱敏。应用程序访问的不是真正的生产库而是镜像库，因此脱敏过程完全不会影响正常业务对生产库的使用。需要在数据导入的工具中开发一套修改...
异构数据源访问
如果您计划将现有 AnalyticDB PostgreSQL版 数据库表中的数据加载到外表，建议在外表中使用 AnalyticDB PostgreSQL版 表相同的分布策略或字段名，可以避免数据加载操作中Segment节点间额外的数据移动。示例 示例一：创建一个可写外表，在建...
通过MySQL分析实例同步至数仓版
此时，您可以在RDS MySQL控制台上创建一个MySQL分析实例，MySQL分析实例的复杂分析性能约为MySQL的100倍，系统自动通过DTS将RDS MySQL主实例中的全量数据和增量数据实时同步到MySQL分析实例中。您无需关注数据如何入库，无需担心分析卡顿，...
斑马柱状图
图表样式 斑马柱状图是柱状图的一种，与基本柱图相比，斑马柱状图中的柱子是由不连续的可配置的线条组成，能够更加智能美观地展示多维的数据差异，但在可视化应用中占的空间较大。样式面板 搜索配置：单击 样式 面板右上角的搜索配置项图标...
恢复MySQL物理备份
登录 DBS控制台，在 备份计划>备份计划列表 页面单击备份计划名称，在 备份任务>全量数据备份 页面中查看全量数据集的大小，详情请参见 查看备份计划。在 配置恢复对象 页面，单击 恢复整个实例，并单击页面右下角的 预检查并启动。说明 ...
读取优化
目前数据会加载到本地的缓存中，默认100条数据大小。一些大scan需要获取大量的数据，传输数百次甚至数万的rpc请求。我们建议可以适当放开缓存的大小。scan.setCaching(int caching)/大scan可以设置为1000 请求指定列族或者列名 HBase是列族...
梯形柱状图
图表样式 梯形柱状图是柱状图的一种，能够清晰智能地展示各类别之间和各类别内部的数据差异，但在数据看板中所占空间较大。支持自定义y轴区间、多系列数据配置，以及根据数据类目自动分组展示。样式面板 搜索配置：单击 样式 面板右上角的...
恢复数据库
数据库备份DBS 提供数据恢复能力，通过创建恢复任务将已完成备份的数据恢复到云数据库、本地数据库或DBS沙箱中，可用于误操作后恢复以及分析历史数据等场景。前提条件 DBS备份计划的运行状态为 运行中。已完成数据库备份。相关操作，请参见...
分组柱状图
图表样式 分组柱状图是柱状图的一种，支持根据数据类目自动分组展示，能够更加清晰智能地展示各类别之间和各类别内部的数据差异，但在数据看板中所占空间较大。样式面板 搜索配置：单击 样式 面板右上角的搜索配置项图标，可在搜索配置面板...
JindoFS实战演示
使用Checksum迁移HDFS数据到OSS 使用Checksum迁移HDFS数据到OSS 2021-05-11 通过Checksum算法，你可以在大数据迁移场景中校验数据的完整性、对比数据差异并实现增量迁移。本视频为您介绍如何使用Jindo Distcp迁移HDFS数据到OSS，以及在迁移...
RDS MySQL修改字符集（平滑方案）
由于业务需求，需要变更表的字符集（例如从gbk变更为utf8mb4），如果直接使用ALTER命令修改字符集会锁表，当数据表过大时，对业务的影响较大。本文介绍的操作方法需要先在目标实例中创建表结构信息（新字符集），再通过DTS将源实例的数据...
数据流动概述
同时，CPFS文件系统支持通过CPFS控制台或OpenAPI将数据导出至OSS Bucket。按需加载 CPFS文件系统与OSS Bucket建立数据流动后，当您访问CPFS目录或文件时会按需从OSS上加载需要的元数据或数据。例如，执行 ls 命令列出与OSS Bucket链接的...
库表级恢复
数据库备份DBS 支持表级别的数据恢复能力。当发生数据误删除时，您可以选择只对单个表或数据库进行恢复，而无需恢复全部数据，可用于误操作后的快速订正，以及分析历史数据等场景。功能介绍 数据库备份DBS 在执行逻辑备份时，以数据库对象...
库表级恢复
数据库备份DBS 支持表级别的数据恢复能力。当发生数据误删除时，您可以选择只对单个表或数据库进行恢复，而无需恢复全部数据，可用于误操作后的快速订正，以及分析历史数据等场景。功能介绍 数据库备份DBS 在执行逻辑备份时，以数据库对象...
视频
本文介绍视频组件全量选择时各配置项的含义。图表样式 视频是媒体组件的一种，支持自定义视频的URL地址、视频播放属性、播放器的外观属性等，支持mp4格式的视频，能够在可视化应用中添加视频播放器来播放您的视频。样式面板 搜索配置：单击...
音频
本文介绍音频组件全量选择时各配置项的含义。图表样式 音频是媒体组件的一种，支持自定义音频的URL地址、音频播放设置，音量设置等，支持mp4格式的音频，能够在可视化应用中添加音频播放器来播放您的音频。样式面板 搜索配置：单击 样式 ...
Hive
Hive是Hadoop生态系统中的一个被广泛使用的数据仓库工具，主要用来进行Hadoop中的大规模数据的提取、转化、加载、查询和分析等操作。Hive数据仓库工具能将存储在HDFS系统中的结构化的数据文件映射为一张数据库表，并提供SQL查询功能，能将...
什么是EMR Serverless StarRocks
EMR Serverless StarRocks是开源StarRocks在阿里云上的全托管服务，您可以通过其灵活地创建和管理实例以及数据。本文为您介绍StarRocks的核心特性，并详述EMR Serverless StarRocks在此基础之上所引入的诸多增强功能与服务优势。StarRocks...
阿里云流播放器
本文介绍阿里云流播放器全量选择时各配置项的含义。图表样式 阿里云流播放器是媒体组件的一种，支持自定义视频的URL地址，能够在可视化应用中添加视频播放器来播放您的视频。样式面板 搜索配置：单击 样式 面板右上角的搜索配置项图标，可...
从自建SQL Server全量迁移至RDS SQL Server
注意事项 DTS在执行全量数据迁移时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标库存在死锁等），可能会加重数据库压力，...
SSB性能测试说明
SSB基准测试是通过执行一系列规定的查询模式来评估数据仓库或OLAP系统的性能指标，包括查询响应时间、并发处理能力、数据加载和查询优化等。说明 本文的SSB的实现基于SSB的基准测试，并不能与已发布的SSB基准测试结果相比较。场景说明 本...
DataWorks On EMR使用说明
开始使用 一、数据建模与开发 模块 说明 相关文档 数据建模 数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行诠释，让企业内部实现“数...
页面性能
页面性能主要关注 App 各个页面的加载时长，同时展示 App 所有访问页面的实时访问数据，包括访问量、访问用户数、访问账户数等。查看页面性能分析报告 查看步骤如下：登录控制台，进入 产品与服务>移动开发平台 mPaaS 后，选择应用。在左侧...
支持的云服务
数据集成 MaxCompute可以通过数据集成功能加载不同数据源（例如MySQL数据库）的数据，也可以通过数据集成把MaxCompute的数据导出到各种业务数据库。数据集成功能已集成在DataWorks上，您可以直接在DataWorks上配置MaxCompute数据源并读写...
审批设置
一键开启审批电子流开关后，组织管理员可以配置该组织下的数据作品内容是否有申请权限的入口，也可以配置审批电子流的渠道和默认审批人。使用限制 仅专业版支持配置审批权限。功能入口 权限管理员登录 Quick BI控制台，按照下图指引，赋予...
基于MaxCompute实现拉链表
拉链表是数据仓库设计中用来处理数据变化的一种技术，它允许保存历史数据，记录一个事物从开始到当前状态的所有变化信息，可以反映任意时间点数据的状态。本文将为您介绍基于MaxCompute引擎在DataWorks上实现拉链表ETL的案例。前提条件 已...
- 产品推荐
- 这些文档可能帮助您