什么是EMR on ACK
阿里云E-MapReduce（简称EMR）on ACK提供了全新构建大数据平台的方式。您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注...
Delta Lake概述
Delta Lake以数据为中心，围绕数据流走向（数据从流入数据湖、数据组织管理和数据查询到流出数据湖）推出了一系列功能特性，协助您搭配第三方上下游工具，搭建快捷、易用和安全的数据湖。背景信息 通常的数据湖方案是选取大数据存储引擎...
需求分析
本实验提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据。业务背景 为了更好的制定企业经营策略，现需要从用户网站行为中获取网站用户群体基本画像数据，例如，用户群体地理属性、社会属性等，...
新建业务应用
通过新建业务应用，创建数据模型支撑的应用系统信息，将数据模型和所属应用属性进行关联，便于从应用系统维度对数据模型进行分类管理。本文介绍如何新建业务应用。操作步骤 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 协同。...
新建业务应用
通过新建业务应用，创建数据模型支撑的应用系统信息，将数据模型和所属应用属性进行关联，便于从应用系统维度对数据模型进行分类管理。本文介绍如何新建业务应用。操作步骤 登录企业数据智能平台。在页面左上角，单击 图标，选择 协同。在...
采集数据
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据，并且只支持在数据集成模块读取数据。章节目标 将MySQL存储的用户基本信息及OSS存储的网站访问日志数据，通过数据集成服务同步至...
JindoData概述
JindoFSx存储加速系统 JindoFSx（JindoData服务）是原JindoFS Cache模式的全新升级版本，是面向大数据和AI生态的云原生数据湖存储加速系统，为大数据和AI应用访问各种云存储提供访问加速，支持数据缓存、元数据缓存和P2P加速等功能。...
应用场景
本文为您介绍数据资源平台的应用场景。构建数据中台，行业领域模型快速沉淀 场景：快速构建数据仓库，有效治理数据质量，实现政企客户各部门数据的业务协同和共享。痛点：以政务服务为例，政务服务部门众多，业务系统复杂、流程长，数据...
数仓规划概述
使用DataWorks进行数据建模时，数仓架构师或者模型小组成员可以在数仓规划页面对数据分层、业务分类、数据域、业务过程、数据集市、主题域进行设计。完成设计后，模型设计师在建模过程中可以依赖数仓规划中的数据分层、业务分类、数据域、...
添加应用
添加在线服务应用 登录 数据资源平台控制台。在页面左上角，单击 图标，选择 弹性计算。在左侧导航栏，单击 应用管理。在 应用管理 页面，应用类型 选择 在线服务（Service）。在 应用管理 页面右上角，单击 添加应用。在 添加应用 面板，...
大数据AI公共数据集分析
教程简介 阿里云DataWorks基于多种大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、...
功能简介
通过数据标准的管理功能，模型设计者可通过设计标准数据元素，定义关键业务对象、业务对象属性及值域，规范标准数据字典，制定并管理平台遵循的统一数据标准，帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。模型标准设计 ...
功能简介
通过数据标准的管理功能，模型设计者可通过设计标准数据元素，定义关键业务对象、业务对象属性及值域，规范标准数据字典，制定并管理平台遵循的统一数据标准，帮助平台管理者和数据管理者管控治理后数据的一致性和数据质量。模型标准设计 ...
数据标准
全局设置 业务应用：对数据模型支撑的应用系统信息进行创建、管理。业务域：对数据模型来源于哪些系统信息进行创建、管理。数据域：提供对数据域的定义与管理，供逻辑表设计时进行使用。通用设置 数据建模基础信息：对逻辑表的属性进行配置...
发展历程
关键性里程碑 2009年9月，ODPS（即现在的MaxCompute）大数据平台飞天项目正式启动。2010年10月，阿里巴巴集团自主研发的第一代云计算平台稳定运行。2013年8月，平台的单集群规模已达到5000台。2014年7月，平台开始对外提供服务，完全替换...
应用场景
数据传输服务DTS（Data Transmission Service）支持数据迁移、数据订阅和数据实时同步功能，帮助您实现多种典型应用场景。不停机迁移数据库 传输方式：数据迁移 为了保证数据的一致性，传统的迁移过程需要您在迁移数据时停止向源数据库写入...
使用限制
不提供永久文件存储功能，会定期(7+天)清除您的文件，重要转储文件请务必提前使用OSS或其他方式存储 应用诊断分析平台免费提供50GB临时可用空间供您分析 应阿里云安全监管要求，为了最大程度保护用户数据，应用诊断分析平台只能访问以 ...
与云服务器ECS对比
业务场景 适用轻量级且访问量较低的应用场景：网站搭建 知识效率管理 云端学习环境 电商建设 论坛社区 开发环境配置 可覆盖全业务场景，典型场景如下：通用Web应用 在线游戏 大数据分析 深度学习 产品优势 快速上手 除纯净的操作系统镜像外...
授权系统API
在OpenAPI场景，当外部应用需要对接 企业数据智能平台 组件的OpenAPI时，需要联系租户管理员，对外部应用调用 企业数据智能平台 组件的OpenAPI进行授权。本文介绍如何授权API。前提条件 已完成应用创建，具体操作，请参见 新建应用。如需...
开发前端界面
（可选）关联数据源 您可以选择关联一个或多个当前应用依赖的数据源，选择版本号及实现该数据源的中心应用版本。在关联数据源后，轻应用即可使用数据源中的结构对象及应用服务方法，实现能力的直接复用。单击页面右上角 图标或其文本框区域...
受众与核心能力
产品受众 从事数据开发、算法开发等岗位的技术人员 从事销售运营、商业智能分析等岗位的业务人员 从事数据安全与合规工作的管理人员 从事数据应用开发的开发人员 把控公司核心数据资产的管理人员 核心能力 基于DataWorks，您可以获得如下...
DataWorks on EMR Serverless StarRocks最佳实践
了解DataWorks on EMR Serverless StarRocks DataWorks作为阿里云一站式大数据开发治理平台，通过数据源对接EMR Serverless StarRocks，可实现EMR Serverless StarRocks的数据集成、作业周期性调度，同时结合StarRocks引擎在数据分析和数据...
计费相关配置问题
如果您负责的是核心应用，数据流量大，稳定性要求高，需要尽最大可能保证系统可用。建议开通专家版，获取更丰富的监控诊断能力和海量额度的数据处理和存储。收到账单，如何查看应用监控的用量情况？如果想了解用量情况，您可以在 ARMS控制...
我的看板
本文介绍可视化应用中心下我的看板模块的数据来源和使用步骤。说明 可视化应用中心功能为7.0版本产品新增功能，请根据 可视化应用中心 环境进行操作。数据来源 在工作台中创建并发布的数据看板内容，会同步在此处展示，若数据看板仅编辑...
添加应用
添加在线服务应用 登录企业数据智能平台。在页面左上角，单击 图标，选择 弹性计算。在左侧导航栏，单击 应用管理。在 应用管理 页面，应用类型 选择 在线服务（Service）。在 应用管理 页面右上角，单击 添加应用。在 添加应用 面板，配置...
准备工作概述
OpenTelemetry 版 通过Jaeger上报Go应用数据 通过SkyWalking上报Go应用数据 通过Zipkin上报Go应用数据 Python应用 通过OpenTelemetry上报Python应用数据 通过SkyWalking上报Python应用数据 通过Jaeger上报Python应用数据 Node.js应用 通过...
概述
DataWorks的安全中心作为云上大数据体系的安全门户，致力于向您提供面向数据安全生命周期全过程的安全能力，同时在符合安全规范要求的前提下，提供各类安全诊断的最佳实践。其核心功能如下：数据权限管理 安全中心为您提供精细化的数据权限...
使用场景
ACM 为大数据实时计算场景的应用带来以下好处：应用计算参数动态配置，动态生效，生效时间快，性能影响低。企业级互联网架构下的异地多活场景 异地多活是企业级互联网架构中的一种高级容灾架构。相对于传统容灾架构，有业务恢复时间短、...
SDK简介
通过Jaeger上报Go应用数据 通过SkyWalking上报Go应用数据 通过Zipkin上报Go应用数据 Python应用 通过OpenTelemetry上报Python应用数据 通过SkyWalking上报Python应用数据 通过Jaeger上报Python应用数据 Node.js应用 通过OpenTelemetry上报...
安全基线检查
了解安全基线检查 数据安全中心以GB/T 37988-2019《信息安全技术数据安全能力成熟度模型》为依据，针对云上复杂的数据库应用环境和不同类型的数据（结构化数据和非结构化数据），制定了7类基线检查策略以及40+具体的检查项，并提供不同类型...
功能简介
数据预览 支持不同云计算资源数据的快速预览，可为开发人员和数据应用人员提供全面直观的数据呈现。支持MaxCompute、RDS MySQL、PostgreSQL、AnalyticDB PostgreSQL多种云计算资源进行物理表数据预览，可快速对各类数据资源下的物理表的...
通过Prometheus监控获取ARMS应用监控数据
阿里云 可观测监控 Prometheus 版 默认集成了ARMS应用监控数据源，您可以直接在 可观测监控 Prometheus 版 下获取应用监控相关数据、查看应用监控预置大盘，并根据需求进行二次开发。前提条件 已为应用安装探针，具体操作，请参见 应用监控...
使用ARMS应用监控数据指标绘制自定义的Grafana大盘
阿里云 可观测可视化 Grafana 版 支持一键集成ARMS应用监控数据源和大盘，如果您需要使用ARMS应用监控数据指标绘制自定义大盘，只需要创建一个Grafana工作区，一键集成ARMS应用监控数据源后，即可根据实际场景重新绘制Grafana大盘。...
数据查询
数据预览 支持不同云计算资源数据的快速预览，可为开发人员和数据应用人员提供全面直观的数据呈现。支持MaxCompute、RDS MySQL、PostgreSQL、AnalyticDB PostgreSQL、Hologres多种云计算资源进行物理表数据预览，可快速对各类数据资源下的...
快速上手可观测链路 OpenTelemetry 版
OpenTelemetry 版 通过Jaeger上报Go应用数据 通过SkyWalking上报Go应用数据 通过Zipkin上报Go应用数据 Python应用 通过OpenTelemetry上报Python应用数据 通过SkyWalking上报Python应用数据 通过Jaeger上报Python应用数据 Node.js应用 通过...
数据标准概述
通过规范约束标准代码、度量单位、字段标准、命名词典，来保障后续建模与应用过程中数据处理的一致性，从源头上保障数据的标准化生产，节约后续数据应用和处理的成本。应用场景 DataWorks的数据标准包含 字段标准、标准代码、度量单位、...
技术架构选型
本教程中使用阿里云大数据产品MaxCompute配合DataWorks，完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中，DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
功能简介
数据预览 支持不同云计算资源数据的快速预览，可为开发人员和数据应用人员提供全面直观的数据呈现。支持MaxCompute、RDS MySQL、PostgreSQL、AnalyticDB PostgreSQL、Hologres 多种云计算资源进行物理表数据预览，可快速对各类数据资源下的...
解决方案
数据资源平台中的数据标准、数据模型、数据加工场景、数据服务API、云计算资源配置等资产，经过验证最终可沉淀为一个特定的解决方案。支持通过不同的创建方式，灵活的选择解决方案中包含的内容。依托数据资源平台中管理的大量元数据，确保...
数仓分层
在阿里巴巴的数据体系中，我们建议将数据仓库分为三层，自下而上为：数据引入层（ODS，Operation Data Store）、数据公共层（CDM，Common Data Model）和数据应用层（ADS，Application Data Service）。数据仓库的分层和各层级用途如下图所...
- 产品推荐
- 这些文档可能帮助您