数据湖构建之MaxCompute湖仓一体最佳实践
背景信息 大数据计算服务MaxCompute（原名ODPS）是一种快速、完全托管的EB级数据仓库解决方案。与数据湖相比数据仓库具备易优化、易治理等优点，但同时面临数据种类单一，灵活性低，仅向特定引擎开放等不足，提高了数据存储和加工的成本，...
AnalyticDB MySQL助力Flowerplus业务高速发展
基于MySQL生态打造的HTAP（Hybrid Transaction and Analytical Process）数据库解决方案（RDS MySQL+AnalyticDB MySQL）有效支撑了Flowerplus的业务鲜花售卖。基于 AnalyticDB MySQL 快速分析海量数据的结果，优化用户的采购环节、订单分析...
某历史养成类游戏开发公司实时计算和数据仓库方案
解决方案 客户选择云数据库Lindorm SQL（Phoenix）服务+数据湖Spark服务构建实时计算和数据仓库解决方案。Lindorm SQL提供在线查询能力、Spark提供流式处理、复杂分析等能力来满足业务需求；梳理业务数据，对数据进行分层存储在Lindorm SQL...
ETL工具支持概览
数据迁移及同步方案综述：数据传输服务（DTS）：阿里云提供的实时数据同步服务，可以将其他数据源（RDS MySQL，ECS自建MySQL，PolarDB等）实时同步数据到 AnalyticDB PostgreSQL版，构建实时数据仓库解决方案。阿里云的数据集成服务（Data ...
前言
为您提供容灾、备份、恢复、监控、报警等方面的全套数据库解决方案。为什么选择云数据库MongoDB版 详情请参见 云数据库MongoDB与自建数据库对比优势 和 应用场景。文档概述 有关阿里云数据库MongoDB更多功能说明和定价信息，请参见 云数据...
新零售：特步
解决方案 通过 PolarDB-X+RDS的分布式数据库解决方案支撑O2O全渠道业务中台系统上线，通过垂直拆分剥离各业务中心，使不同类型的业务数据可以存储在不同的RDS上，确保资源和访问隔离，从物理上使整个数据库架构具备了扩展性。通过这套架构...
常见问题
本文为您介绍数据湖构建的常见问题。如何申请数据湖构建产品的公测资格？数据湖构建如何收费？...目前DLF支持与阿里云E-MapReduce产品组合实现Spark数据的读取，详细请参考：EMR+DLF数据湖解决方案，暂不支持与自建Hadoop/Spark集群的集成。
资产质量概述
资产质量基于Dataphin平台，为数据的开发及使用提供全套的数据质量解决方案。数据质量的功能包括质量规则配置、质量监控、调度配置、智能报警、校验治理等。前提条件 已购买资产质量增值服务，详情请参见 开通Dataphin。背景信息 面对各行...
资产质量概述
资产质量基于Dataphin平台，为数据的开发及使用提供全套的数据质量解决方案。数据质量的功能包括质量规则配置、质量监控、调度配置、智能报警、校验治理等。前提条件 已购买资产质量增值服务并且当前租户已开通资产质量模块。背景信息 面对...
概述
阿里云DataWorks联合建模工具DDM（Datablau Data Modeler）为您提供一体化的数据建模解决方案（DATABLAU），将数据模型设计管控、引标落标等能力融入DataWorks规范化开发流程，助力用户实现数据资产价值化输出，在数据全生命周期上夯实数据...
Spark作业异常排查及处理
解决方案：已使用Spark导入的数据，如果需要被Hive或Impala使用，建议在EMR控制台中Spark服务配置页面的 spark-defaults.conf 页签下，增加 spark.sql.parquet.writeLegacyFormat=true 配置后重新导入数据。Shuffle报错 java.lang....
收费常见问题
本文为您介绍数据集成收费相关问题及解决方案。数据集成是怎么收费的？数据集成收费包含三种途径，详情请参见 独享数据集成资源组计费说明：包年包月、公共数据集成（调试）资源组：按量计费、公网流量计费说明。
EMR+DLF数据湖解决方案
采用EMR+DLF数据湖解决方案，相对传统EMR数据湖方案有下列优点：DLF提供数据湖跨引擎的统一的，全托管免运维的元数据服务。支持可视化的元数据管理，以及多版本管理和回退。支持可视化一键元数据迁移。支持元数据全文检索。支持元数据...
阿里云MaxCompute数据源
概述 云原生大数据计算服务(MaxCompute)是一种快速、完全托管的TB/PB级数据仓库解决方案。MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，并保障数据...
新用户必读
数据导入：如果您需要将已有数据源中的数据迁移到 AnalyticDB MySQL，阿里云为此提供了完善的数据同步解决方案。数据可视化：您可以通过 AnalyticDB MySQL 兼容的BI工具，对 AnalyticDB MySQL 中的数据进行有效整合，快速准确地提供报表并...
2020年
更新说明 MaxCompute支持不带DISTRIBUTE BY的SORT BY，提供数据重排的解决方案，提高SQL执行的过滤性能。SELECT语法 2020-10-30 INSERT命令支持ZORDER BY子句，提升查询时的过滤性能。新功能 支持把数据相近的行排列在一起，提升查询时的...
IoT数据自动化同步至云端解决方案
解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。例如，使用OSS存储原始信息为CSV文件。但同步至大数据系统或传统数据库的数据，需要使用专业的...
新建数据库网关
在顶部菜单栏中，选择 解决方案>数据库网关。说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据库网关。在 网关列表 页面，单击 新建网关。在弹出的对话框中，填写 网关名称 和 备注 信息，单击...
数据湖管理FAQ
本文汇总了数据湖管理相关的常见问题及解决方案。Lakehouse相关问题 什么是Lakehouse？Lakehouse数据入湖时，对线上RDS有压力吗？如何控制建仓的限流能力？Lakehouse工作负载为什么运行失败，又没有S park Log 日志可以看？元数据发现相关...
RDS MySQL空间不足问题
解决方案 优化数据结构，减少二级索引数量。大字段导致空间不足 现象 如果表结构定义中有blob、text等大字段或很长的varchar字段，也会占用更大的表空间。解决方案 将数据压缩以后再插入。空闲表空间太多导致空间不足 现象 空闲表空间太多...
Delta Lake概述
很高 低 较高 事务性 支持 不支持 支持 性能 高 低 较高 扩展性 依赖于具体实现 高 高 面向人员 管理人员 管理人员、数据科学家 管理人员、数据科学家 成本 高 低 低 适用场景 Delta适用于云上数据湖数据管理解决方案。如果您存在以下场景...
创建高可用本地Agent集群
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据库网关。在数据 网关列表 页面，选择待添加高可用节点的网关，单击其右侧的 详情。在 网关详情 页面，单击 添加网关节点。您可以根据操作系统...
管理数据库网关
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据库网关。在 网关列表 页面，单击目标网关对应 操作 列的 详情。在 网关详情 页单击 添加网关节点。您可以根据操作系统类型，选择不同的下载...
Slowly Changing Dimension
本文为您介绍G-SCD的具体解决方案及如何通过G-SCD处理维度的数据。背景信息 SCD简介 Slowly Changing Dimension（SCD）即缓慢变化维，是随着时间变化的维度。在数据仓库中存储和管理当前和历史的数据，就需要考虑如何处理缓慢变化维，因此...
跨境SaaS:深圳市易仓科技有限公司
业务快速发展，租户数据越来越大，存储成本越来越高 痛点6:传统主从架构数据库模式，实例众多，数据集成成本高 痛点7:租户数据量越来越大，单租户维度查询性能遇瓶颈 解决方案 PolarDB多主集群助力易仓跨境SaaS打造新一代数据库解决方案 ...
技术发展趋势
因此急需统一、标准化的技术解决方案。数据加速上云 Gartner预测到2023年，所有数据库中75%将放在云平台上。企业机构正在云中部署新的应用程序，并以更快的速度迁移现有的数据资产。这一趋势将会持续。数据库管理系统的部署和创新越来越...
发展历程
Gartner发布了《2017年分析型数据管理解决方案（DMSA）魔力象限》报告，阿里云作为云服务商成功冲进Gartner魔力象限。Forrester：CloudData Warehouse Q4 进入第三象限Contender象限。中国数字化转型与创新案例大会：年度大数据创新产品奖...
应用场景
解决方案：数据融合：通过数据引入功能，将业务系统数据集成、融合一体，统一基础数据。数据建模：通过规范建模功能，结合业务发展需求，自顶向下设计标准的数据模型，统一公共数据。数据生产：基于建模后系统代码自动化托管生产功能，快速...
快速入门
如果您初次使用阿里云关系型数据库RDS，请参见快速...阿里云关系型数据库MariaDB完全兼容社区版MariaDB，良好兼容Oracle，对PL/SQL有优秀的兼容性，提供技术支持以及专家服务，为您提供企业级数据库解决方案。当前RDS MariaDB支持10.3版本。
ODPS-0130071
数据插入表是一个分区表，其中有m个分区字段，但是插入数据SQL里只有n个分区列，导致数据写入找不到分区报错 解决方案 建议修改插入数据SQL，对齐分区字段。示例-创建表 create table if not exists mf_sale_detail(shop_name string,...
数据库迁移
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据库迁移。在 新建数据库迁移工单 页面，配置数据库迁移任务工单。配置项 描述 任务名称 输入明确、清晰的任务名称，以减少沟通成本。业务背景 ...
云数据库RDS简介
RDS支持MySQL、SQL Server、PostgreSQL和MariaDB引擎，并且提供了容灾、备份、恢复、监控、迁移等方面的全套解决方案，帮助您解决数据库运维的烦恼。安全稳定可靠 历经考验：已支撑数十万用户的业务稳定运行，且经过双十一高并发、大数据量...
使用应用程序访问本地或第三方云数据库
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据库网关。在 网关列表 页面，单击目标网关对应 操作 列的 详情。跳转至添加的数据库详情页，单击 操作 列 创建数据库访问点。选择对应的 VPC ID...
查询用户OSS或专属存储的归档数据
说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 全部功能>解决方案>数据归档。进入 数据归档工单列表 页面，视图 选择 归档视图。搜索目标数据归档工单。您可在搜索框中输入工单号、库名或表名等信息，单击 搜索，...
概述
通过列存索引，PolarDB MySQL版 实现了一体化的实时事务处理和实时数据分析的能力，成为一站式HTAP数据库产品解决方案。通过一套数据库系统，即可满足业务的OLTP及OLAP需求。如您有关于列存索引的使用问题，请进钉钉群咨询，群号：...
某手游开发公司在离线一体分析方案
解决方案 云数据库Lindorm能适应业务的快速变化，支持灵活的Schema，动态列等。云数据库Lindorm能支持海量数据实时写入，百万/千万并发，PB级存储，同时HBase支持冷热数据分离，通过直接读写OSS降低日志存储成本。DLA Spark和云数据库...
应用场景
解决方案：数据同步：通过数据同步功能，将不同业务系统数据汇聚到统一的存储计算引擎，实现数据的初步融合。数据标准：管理数据标准和构建数据模型，将数据标准贯彻到数据质量分析、保障及检查的全过程中，将散乱的多源异构数据加工成标准...
如何对JSON类型进行高效分析
传统数仓解决方案 数据仓库的处理流程通常包括以下步骤：数据抽取（Extraction）：从各个数据源中抽取需要的数据，包括数据库、文件、Web服务等，并进行清洗、转换和过滤。数据转换（Transformation）：对抽取的数据进行转换，使其符合数据...
常见问题概览
数据库没有数据Owner时如何处理 数据变更 SQLConsole页面执行SQL语句超时中断解决方案 DMS控制台中执行数据变更任务时提示“Duplicate column name 'XXXXX'”使用新版DMS控制台进行变更时提示“Duplicate entry:XXXX”数据库返回“Row size...
Iceberg概述
适用场景 Iceberg作为通用数据湖解决方案中最核心的组件之一，主要适用于以下场景。场景 描述 实时数据导入和查询 数据实时从上游流入Iceberg数据湖，查询侧即可查询该数据。例如，在日志场景中，启动 Iceberg 或 Spark 流作业，实时地将...
- 产品推荐
- 这些文档可能帮助您