产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
自媒体：易撰
自媒体 网站地址：易撰 客户介绍 长沙营智信息技术有限公司是专业的新媒体大数据服务商，其旗下知名品牌易撰，基于新媒体大数据挖掘技术及NLP算法分析，为各内容创客、广告主提供全面、科学、精准的大数据分析服务以及大数据架构解决方案。...
EMR Studio概述
EMR Studio作为一款云上产品，支持与数据湖构建（DLF）和对象存储（OSS）等云上产品对接，构建云原生大数据产品架构。您可以在创建EMR Studio时指定OSS bucket路径，EMR Studio将自动备份作业代码和作业日志，并可以通过该路径提交Airflow ...
金融大数据
架构优势：合理解决了金融行业内外部数据整合问题 优化了结数据架构分层 提供了高效的数数据加工与服务方式 技术架构 架构说明：阿里云大数据数据仓库解决方案经历了阿里巴巴集团内部的实战验证，完全基于自主研发，且在不断优化、完善，以...
管理数据架构待发布对象
导入的发布包文件中存在数据架构变更对象时，将在待发布数据架构页面为您展示，您可在待发布数据架构页面对数据架构对象进行管理和发布。前提条件 数据架构对象所在的数据板块已经发布。待发布数据架构对象入口 请参见 发布包总览入口，...
管理数据架构待发布对象
导入的发布包文件中存在数据架构变更对象时，将在待发布数据架构页面为您展示，您可在待发布数据架构页面对数据架构对象进行管理和发布。前提条件 数据架构对象所在的数据板块已经发布。待发布数据架构对象入口 请参见 发布包总览入口，...
操作指南
Dataphin全托管 数仓规划概述 数据引入概述 数据开发概述 发布中心概述 运维中心概述 分析平台概述 标签工厂概述 资产全景及目录概述 数据标准概述 资产质量概述 资源治理概述 资产安全概述 数据服务概述 Dataphin半托管 数仓规划概述 ...
客户案例
互联网行业：快狗打车云上大数据仓库 客户架构如下。客户简介 快狗打车则一直坚持通过“连接网络化”、“运力共享化”、“过程数据化”、“匹配智能化”等数字信息化解决方案，将闲散运力统一整合到平台上，通过大数据将运力精准匹配市场...
E-MapReduce支持倚天云服务器
大数据场景下倚天架构与X86架构对比 在相同规格下X86架构的ECS实例和基于倚天架构的ECS实例上进行了基准测试，可以看到在大数据业务场景下倚天架构实例比基于x86架构实例算力性价比更高。降低硬件成本 相比于X86架构ECS实例成本，倚天架构...
简介
典型案例&架构 航海船舶大数据平台 场景：全球AIS船舶实时位置数据，每天上亿条轨迹写入，要求轨迹时空/时序查询秒级响应，具体包括：监管区域实时地理围栏判断。轨迹区域回放（指定区域+指定时间段）。轨迹回放（指定时间段查询）。架构...
数据合并
更多信息请参见 存储架构概述。当 MemTable 的大小超过一定阈值时，就需要将 MemTable 中的数据转存到 SSTable 中以释放内存，我们将这一过程称之为转储。有关转储的详细介绍，请参见 转储。转储会生成新的 SSTable，当转储的次数超过一定...
发起合并
更多信息请参见 存储架构概述。当 MemTable 的大小超过一定阈值时，就需要将 MemTable 中的数据转存到 SSTable 中以释放内存，我们将这一过程称之为转储。有关转储的详细介绍，请参见 转储。转储会生成新的 SSTable，当转储的次数超过一定...
发布包总览概述
数据架构：您可以对数据架构对象执行发布、查看版本详情操作。更多信息，请参见 管理数据架构待发布对象。研发：您可以对研发对象执行发布、查看版本详情、下载建表文件操作。更多信息，请参见 管理编码研发待发布对象。标签架构：您可以对...
发布包总览概述
数据架构：您可以对数据架构对象执行发布、查看版本详情操作。更多信息，请参见 管理数据架构待发布对象。研发：您可以对研发对象执行发布、查看版本详情、下载建表文件操作。更多信息，请参见 管理编码研发待发布对象。标签架构：您可以对...
未来规划
云计算架构的核心逻辑就是通过虚拟化技术带来池化资源，云原生数据库采用分布式数据库架构，实现大规模扩展，每套数据库系统横跨多台服务器和虚拟机，带来了全新的系统管理挑战。其中最核心的挑战就是如何实现弹性以及高可用，实现按需按量...
创建数据板块
进入 Dataphin规划 页面后，默认进入 数据架构 页面。在 数据架构 页面，单击 新建数据板块。在 新建数据板块 配置向导页面，完成以下操作。在 生产开发类型 页面，选择 Dev-Prod模式 后，单击 下一步。在 板块定义 页面，配置参数。参数 ...
创建数据板块
进入 Dataphin规划 页面后，默认进入 数据架构 页面。在 数据架构 页面，单击 新建数据板块。在 新建数据板块 配置向导页面，完成以下操作。在 生产开发类型 页面，选择 Dev-Prod模式 后，单击 下一步。在 板块定义 页面，配置参数。区域 ...
跨境SaaS:深圳市易仓科技有限公司
在数据库架构演进过程中，也遇到诸多痛点：痛点1:单实例海量表，运维管理困难，数据库稳定性挑战大 痛点2:多租户共享一个数据库实例，数据量大，资源抢占 痛点3:租户版本升降、合并、打散时，租户数据迁移效率低 痛点4:传统主从数据库架构...
概述
更多内容参见 存储架构概述。实时分析 OceanBase 基于分布式架构，在保障高性能的交易处理同时，能够完成实时分析、跑批等分析场景，一套引擎支持 OLAP+OLTP 工作负载，从根本上保持数据的一致性，并最大程度降低数据冗余，帮企业大幅降低...
增量导出发布包
支持 规划、数据架构、研发、标签架构、标签、数据标准、数据质量、数据安全 对象类型。规划：包括公共定义、数据板块、计算源、项目、数据源。数据架构：包括主题域、业务对象、业务活动。研发：包括离线管道、事实逻辑表、维度逻辑表、...
增量导出发布包
支持 规划、数据架构、研发、标签架构、标签、数据标准、数据质量、数据安全 对象类型。规划：包括公共定义、数据板块、计算源、项目、数据源。数据架构：包括主题域、业务对象、业务活动。研发：包括离线管道、事实逻辑表、维度逻辑表、...
应用场景
本地IDC/跨云数据库上云迁移 数据传输服务 DTS 支持RDBMS、NoSQL、OLAP等数据源间的数据交互，集数据迁移/订阅/同步于一体，助您构建安全、可扩展、高可用的数据架构。通过数据库网关，可将本地或第三方云的数据库低成本地接入至阿里云。...
应用场景
本地IDC/跨云数据库上云迁移 数据传输服务 DTS 支持RDBMS、NoSQL、OLAP等数据源间的数据交互，集数据迁移/订阅/同步于一体，助您构建安全、可扩展、高可用的数据架构。通过数据库网关，可将本地或第三方云的数据库低成本地接入至阿里云。...
安全白皮书概述
Dataphin面向各行各业大数据建设、管理及应用诉求，一站式提供从数据接入到数据消费全链路的智能数据建设与资产治理的大数据能力，包括产品、技术和方法论等，可帮助企业一站式构建生产经济、质量可靠、安全稳定、消费便捷的企业级数据资产...
产品简介
阿里云数据湖构建（Data Lake Formation，简称 DLF）是一款全托管的快速帮助用户构建云上数据湖及Lakehouse的服务，为客户提供了统一的元数据管理、统一的权限与安全管理、...结合 Databricks、OSS 产品，构建云上全托管Lakehouse数据架构。
应用场景
表格存储 有互联网应用架构（包括数据库分层架构和分布式结构化数据存储架构）、数据湖架构和物联网架构三种典型应用架构。本文结合 表格存储 的典型应用架构介绍了不同应用架构下的应用场景。互联网应用 目前互联网已在日常生活中广泛应用...
管理标签架构待发布对象
标签实体 待发布对象 标签实体待发布对象页面主要由搜索与筛选区、数据架构对象列表、批量操作组成。各区域及操作说明如下。区域 描述 ① 搜索与筛选区 搜索及筛选区支持根据发布对象变更类型、当前环境是否变更、发布状态或输入对象名称...
管理标签架构待发布对象
标签实体 待发布对象 标签实体待发布对象页面主要由搜索与筛选区、数据架构对象列表、批量操作组成。各区域及操作说明如下。区域 描述 ① 搜索与筛选区 搜索及筛选区支持根据发布对象变更类型、当前环境是否变更、发布状态或输入对象名称...
概述
PolarDB PostgreSQL版 分区表的查询优化可以让它相比于同样数据量的普通表性能更加优异，特别是面临超大数据量场景时，合理的使用分区，可以有效地提高查询效率。PolarDB PostgreSQL版 支持分区修剪技术和分区wise-join技术，这两种技术在...
概述
PolarDB PostgreSQL版（兼容Oracle）分区表的查询优化可以让它相比于同样数据量的普通表性能更加优异，特别是面临超大数据量场景时，合理的使用分区，可以有效地提高查询效率。PolarDB PostgreSQL版（兼容Oracle）支持分区修剪技术和分区...
概述
PolarDB PostgreSQL版（兼容Oracle）分区表的查询优化可以让它相比于同样数据量的普通表性能更加优异，特别是面临超大数据量场景时，合理的使用分区，可以有效地提高查询效率。PolarDB PostgreSQL版（兼容Oracle）支持分区修剪技术和分区...
数据模型概述
DDM目前支持逻辑模型和物理模型建模，其中物理模型又分为关系型数据模型和非关系型数据模型，支持的大数据引擎为MaxCompute、Hive。说明 Hadoop的MR调优参数属于底层，DDM是数据建模工具，支持设置表、字段等物理属性。
概述
EMR数据开发于2022年2月21日停止功能更新，2023年9月30日停止全面支持。如果您在2022年2月21日21点前未使用过数据开发功能，推荐您通过EMR Workflow进行...您也可以迁移到大数据开发治理平台DataWorks，详情请参见 EMR数据开发停止更新公告。
Paimon概述
目前阿里云开源大数据平台E-MapReduce常见的计算引擎（例如Flink、Spark、Hive或Trino）都与Paimon有着较为完善的集成度。您可以借助Apache Paimon快速地在HDFS或者云端OSS上构建自己的数据湖存储服务，并接入上述计算引擎实现数据湖的分析...
概述
解决方案 T+1全量同步一键建仓是指通过DLA控制台配置数据源（RDS、PolarDB for MySQL、MongoDB数据源、ECS自建数据库数据）和目标OSS数据仓库，系统按照您设定的数据同步时间自动、无缝的帮您把数据源中的数据同步到目标数据仓库OSS中，...
数据模型架构规范
本文为您介绍数据模型架构规范。声明 本文以及后续章节中介绍的非功能性规范均为建议性规范，产品功能无强制，仅供指导。数据层次的划分 ODS：Operational Data Store，操作数据层，在结构上其与源系统的增量或者全量数据基本保持一致。它...
概述
背景信息 在大数据生态系统中，Alluxio位于数据驱动框架或应用（例如Apache Spark、Presto、TensorFlow、Apache Flink和Apache Hive等）和各种持久化存储系统（例如HDFS和阿里云OSS）之间，使得上层的计算应用可以通过统一的客户端API和...
产品优势
相对于传统的数据同步工具，数据同步服务的实时同步功能能够将并发粒度缩小到事务级别，能够并发同步同张表的更新数据，从而极大得提升同步性能，高峰期时，同步性能可以达到 30000 RPS（性能指标仅供参考，数据同步服务的数据迁移和同步...
数据仓库研发规范概述
在大数据时代，规范地进行数据资产管理已成为推动互联网、大数据、人工智能和实体经济深度融合的必要条件。贴近业务属性、兼顾研发各阶段要点的研发规范，可以切实提高研发效率，保障数据研发工作有条不紊地运作。而不完善的研发流程，会...
概述
数据组织 ZooKeeper的数据组织方式与标准文件系统类似，组织成类似文件树的结构，在ZooKeeper中使用znode（ZooKeeper node）来描述文件，与标准文件系统不同的是，znode并不区分目录或者文件的概念，每个znode都可以存储数据。ZooKeeper...
- 产品推荐
- 这些文档可能帮助您