如何将一棵LSM-Tree塞进NVM
在实际的应用场景中，云上基于LSM-tree的OLTP引擎通常不会设计较大的内存表，通常为256 MB，这主要是由于以下两个原因：云上用户通常会购买较小内存的数据库实例。LSM-tree需要维持小的内存表以保证快速的刷盘操作。对于256 MB的内存表，将...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
分布表
使用场景 是否使用分区表，可以通过以下几个方面进行考虑：表数据量是否足够大：通常对于大的事实表，比如数据量有几千万或者过亿，可以考虑使用分区表，但数据量大小并没有一个绝对的标准可以使用，一般是根据经验，以及对目前性能是否...
SQL优化技术
本文介绍数据库自治服务DAS（Database Autonomy Service）的SQL优化技术。背景信息 作为数据库管理员或应用开发者，都有过SQL优化经历。数据库上执行的SQL千差万别，且伴随着业务快速迭代、数据分布特征变化、热点变化、数据库版本升级等...
DataWorks模块使用说明
使用流程与主要子模块 DataWorks为您提供从端到端的一站式数据开发治理平台，数据处理流程主要包括以下几个阶段。各个阶段DataWorks的主要子模块如下。数据集成 子模块：数据集成 功能说明：数据集成是稳定高效、弹性伸缩的数据同步平台，...
引擎功能
使用数据库内机器学习服务的优势主要体现在以下几个方面：简单易用：无需掌握专业的机器学习知识，只需要使用标准的SQL就能完成机器学习整个流程。无数据移动：无需将数据导出到外部平台，提高效率的同时，也可以更好地应对监管需求。企业...
基本概念
时空几何 DLA Ganos中所称的时空几何，其范畴包含以下几方面：时空几何对象。矢量数据，如点、线、面状要素。在矢量数据基础上结合时间属性，组成的时空数据（或时空轨迹数据）。针对时空几何对象的相关操作，如时空关系判断。时空索引 DLA...
案例介绍
某公司实行的是事业部制，各事业部之间业务独立，关联极少，主要体现在以下几方面：事业部之间不共享资源，人员独立、办公场地独立等。即从Dataphin的实施角度来看，事业部之间不存在共同的业务对象（业务参与人或物）。事业部之间不存在...
客户案例
优化结果 OceanBase 在一致性方面做了以下几个事情，架构层面引入 Paxos 协议，多重数据校验机制，完善支付宝业务模型，多重机制保障金融级别的一致性。OceanBase 的高可用策略与传统的基于共享存储的方案有很大不同，OceanBase 采用 Share...
PolarDB HTAP实时数据分析技术解密
在处理大数据量下复杂查询所需要的能力方面，如优化器处理子查询的能力、高性能算子HashJoin、SQL并行执行等。社区将其处于低优先级，因此MySQL的数据分析能力提升进展缓慢。随着MySQL的发展，用户使用其存储了大量的数据，并且运行着关键...
深度解析Lindorm搜索索引（SearchIndex）特性
有了这些功能，可以很容易的将Lindorm应用到多样化的业务场景中，经典的使用场景主要有以下几个：订单详情，例如物流订单、交易账单，支持订单的多维查询、排序等。标签画像，例如基于商家对买家进行标签圈选，定向投递信息。文本搜索：...
表设计规范
数据导入通道与表设计 通道类型有以下几种：DataHub 规划写入的分区与写入流量之间的关系。数据达到64 MB会执行1次Commit。数据集成或DataX 规划写入表分区的频率。数据达到64 MB会执行1次Commit，以免Commit空目录。DTS 规划写入的表存量...
常见问题
支持的数据库部署位置（接入方式）阿里云实例 有公网IP的自建数据库 通过数据库网关DG接入的自建数据库 通过云企业网CEN接入的自建数据库 ECS上的自建数据库 通过专线/VPN网关/智能接入网关接入的自建数据库 阿里云实例 通过数据库网关DG接...
通过函数计算节点实现GitHub实时数据分析与结果发送
开发人员在基于GitHub开源项目进行开发时会产生海量事件，GitHub会记录每次事件的类型、详情、开发...本实践使用的公共Github数据存储在公共的MySQL数据库中，您需要先创建一个MySQL数据源，用于后续同步数据至MaxCompute时对接MySQL数据库。...
调优集群性能
集群的Build任务数增多并影响到读写节点CPU使用率，可以从以下几个方面进行定位和分析：分区表的单分区较大。单分区较大时，这类大分区被写入、更新或者删除概率较大，更容易触发分区被Build。您可以通过 数据建模诊断 来定位这些类型的表...
列存索引技术架构介绍
在处理大数据量下复杂查询所需要的能力方面，如优化器处理子查询的能力、高性能算子HashJoin、SQL并行执行能力等，MySQL社区一直将其放在比较低优先级上，因此，MySQL的数据分析能力提升进展缓慢。随着MySQL发展为世界上最为流行的开源数据...
如何对JSON类型进行高效分析
PolarDB 列存索引（In Memory Column Index，IMCI）功能推出了完备的虚拟列与列式JSON功能等，可以快速处理大数据和多种数据类型（包括结构化数据与半结构化数据等），并提供高效的数据分析、查询与流计算能力，适用于数据分析、数据仓库与...
Transaction Table2.0概述
更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案可解决的业务痛点和主要架构功能。现状分析 当前典型...
Logview诊断实践
解决思路：一种情况是数据分布变化导致的，我们在写表的过程中，会对数据进行压缩，而压缩算法对于重复数据的压缩率是最高的，所以如果写表的过程中，如果相同的数据都排布在一起，就可以获得很高的压缩率。写表的数据分布情况主要取决于写...
SmartData常见问题
JindoFS是阿里云开源大数据E-MapReduce产品提供的一套Hadoop文件系统，主要对Hadoop和Spark大数据生态系统使用阿里云OSS提供多层次的封装支持和优化。基础功能提供适配OSS和支持访问，您可以直接使用JindoFS SDK；标准功能针对OSS提供分布...
公开数据集概述
国家统计数据集 national_data TPC性能数据 TPC-DS TPC-DS是一个面向决策支持的基准，它对决策支持系统的几个普遍适用的方面进行建模，包括查询和数据维护等，使大数据系统等新兴技术能够执行基准测试。TPC-DS 10GB性能测试集 TPC-DS 100GB...
概述
事实上，鉴于数据库研究在数据发现、数据管理、版本控制、数据清理和数据集成方面积累的专业知识，PolarDB for AI 可以为数据驱动的智能应用提供一站式的数据（包括：数据、特征和模型）服务来解决这种割裂状态，大大减少数据驱动的智能...
DAS Auto Scaling弹性能力
数据库自治服务DAS的Auto Scaling是以数据库实例的实时性能数据作为输入，由DAS完成流量异常发现、合理数据库规格建议和合理磁盘容量建议，使数据库服务具备自动扩展存储和计算资源的能力。背景信息 为业务应用选择一个合适的数据库计算...
离线同步常见问题
读取Loghub同步某字段有数据但是同步过来为空 读取Loghub同步少数据 读取Loghub字段映射时读到的字段不符合预期 读取kafka配置了endDateTime来指定所要同步的数据的截止范围，但是在目的数据源中发现了超过这个时间的数据 Kafka中数据量少...
常见问题
本文汇总了 云数据库ClickHouse 的常见问题及解决方案。选型与购买 云数据库ClickHouse和官方版本对比多了哪些功能和特性？购买实例时，推荐选择哪一个版本？单双副本实例各有什么特点？购买链路资源时显示“当前区域资源不足”，应该如何...
MongoDB 5.0新特性概览
本文介绍MongoDB 5.0的主要新特性。背景信息 MongoDB 5.0标志着一个新的发布周期的到来，以更快地交付新特性给用户。例如：版本化API与在线重新分片相结合，使用户不必担心未来的数据库升级以及业务变化问题；本地原生时间序列数据平台使...
ECS实例说明
Core核心实例 小数据量（TB级别以下）或者是使用OSS作为主要的数据存储时，推荐使用通用型、计算型或内存型。大数据量（10 TB或以上）情况下，推荐使用大数据机型，可以获得极高的性价比。重要 当Core核心实例使用本地盘时，HDFS数据存储在...
功能简介
数据资产管理体系主要包括以下几个方面的内容。数据资产编目，数据管理者对平台数据资产进行梳理，确定其共享属性，并按照技术标准，进行数据类目定义。数据资产上线，将已经注册管理的高质量数据资产资源发布，供数据使用者查询和使用。...
运营
数据资产管理体系主要包括以下几个方面的内容。数据资产编目，数据管理者对平台数据资产进行梳理，确定其共享属性，并按照技术标准，进行数据类目定义。数据资产上线，将已经注册管理的高质量数据资产资源发布，供数据使用者查询和使用。...
功能简介
数据资产管理体系主要包括以下几个方面的内容。数据资产编目，数据管理者对平台数据资产进行梳理，确定其共享属性，并按照技术标准，进行数据类目定义。数据资产上线，将已经注册管理的高质量数据资产资源发布，供数据使用者查询和使用。...
数据服务入门
步骤一：创建数据源并配置网络连通性 使用数据服务创建API前，您需将数据库或数据仓库添加为DataWorks的数据源，并保障数据服务资源组与您的目标数据源网络连通，以便调用API时DataWorks可成功访问数据源。说明 DataWorks工作空间将集群或...
什么是云原生多模数据库Lindorm
多模型的核心能力主要由以下几大数据引擎提供，包括：数据引擎 核心能力 宽表引擎 负责 宽表与对象数据 的管理和服务，具备全局二级索引、多维检索、动态列、TTL等能力，适用于元数据、订单、账单、画像、社交、feed流、日志等场景，兼容...
上海新能源汽车车辆基础数据
成立以来，数据中心在多源数据融合应用方面做了许多探索，陆续建成了“上海市新能源汽车大数据平台”、“上海市动力电池溯源管理平台”、“上海市加氢站与氢燃料电池汽车公共数据平台”、“GEF6上海能源管理中心平台”，有效发挥了数据在...
技术发展趋势
近些年来，数据在国民经济各个领域扮演着愈发重要的作用，其使用特点较之以往也发生了诸多变化，其趋势主要有几个方面。规模爆炸性增长 随着8K、5G、IoT、大数据、AI等系列技术的发展，数据量迎来了爆发式增长。IDC在《Data Age 2025》的...
使用Tunnel命令或Tunnel SDK
流式数据通道SDK主要接口有以下几种。接口 描述 TableTunnel 访问MaxCompute Tunnel服务的入口类。您可以通过外网或阿里云内网环境对MaxCompute及其Tunnel进行访问。TableTunnel.StreamUploadSession 上传数据会话。TableTunnel....
Doris概述
Apache Doris是一个高性能、实时的分析型数据库，能够较好的满足报表分析、即席查询、数据湖联邦查询加速等使用场景。本文为您介绍Apache Doris。背景信息 关于更多Apache Doris信息，详情请参见 Doris介绍。使用场景 数据源经过各种数据...
DataV数字大屏设计介绍
确定了数据内容后，就进入布局阶段，您可以参考以下几种方式进行布局规划。您可以根据现代人的阅读习惯，由上至下和由左至右，串联故事线。如下图，您首先可以看到标题，然后是左侧面板，随后是右侧两个并列的面板，最后才是底下的面板。您...
原理优势
以下是 MyBase 与自建数据库的综合对比优势：MyBase与自建数据对比优势 专属集群 MyBase 不仅继承了MySQL、SQL Server、PostgreSQL Redis数据库 实例的原有功能，还在某些方面有更多优势，详情请参见 MyBase与自建数据库对比优势。...
产品概述
什么是E-MapReduce 开源大数据开发平台E-MapReduce（简称EMR），是运行在阿里云平台上的一种大数据处理的系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理...
产品简介
开源大数据开发平台E-MapReduce（简称EMR）是运行在阿里云平台上的一种大数据处理系统解决方案。EMR基于开源的Apache Hadoop和Apache Spark，让您可以方便地使用Hadoop和Spark生态系统中的其他周边系统分析和处理数据。EMR还可以与阿里云...
- 产品推荐
- 这些文档可能帮助您