基于Delta lake的一站式数据湖构建与分析实战
企业构建和应用数据湖一般需要经历数据入湖、数据湖存储与管理、数据湖探索与分析等几个过程。本文主要介绍基于阿里云数据湖构建（DLF）构建一站式的数据入湖与分析实战。背景信息 随着数据时代的不断发展，数据量爆发式增长，数据形式也变...
应用场景
您可以将模式固定的结构化数据存储在 RDS（Relational Database Service）中，模式灵活的业务存储在MongoDB中，高热数据存储在 云数据库Redis 或 云数据库Memcache 中，实现对业务数据高效存取，降低存储数据的投入成本。移动应用 云数据库...
JindoData概述
JindoData是阿里云开源大数据团队自研的数据湖存储加速套件，面向大数据和AI生态，为阿里云和业界主要数据湖存储系统提供全方位访问加速解决方案。JindoData套件基于统一架构和内核实现，主要包括JindoFS存储系统（原JindoFS Block模式）、...
某网约车公司车辆轨迹数据
云原生多模数据库 Lindorm 支持OSS做为冷存储，这样业务上把一个月之前的数据（冷数据）全部通过Lindorm自动存储到OSS里面，最近一个月内的数据存储到高效云盘，这样在零代码开发、零运维、客户无感知情况下进行了冷热分层存储，大大节约了...
数据安全
表格存储提供服务器端加密和客户端加密，可有效防止数据在云端的潜在安全风险。表格存储支持同城冗余功能，可实现多可用区数据容灾，确保数据的高可用性和容灾能力。表格存储支持通过云备份服务对重要数据进行备份，可防止数据误删除或者...
DMS作业调度
配置方法如下：选中 RDS数据抽取 任务右侧的圆点，拖动到 ADBPG数据加载 任务上，完成拖动后显示效果如下：单击页面下方的 任务流信息，打开 调度配置 下 开启调度 的开关。选择需要的作业调度周期，每个周期调度任务都会进行RDS侧数据的...
持久内存型
大规格优化 解决大规格下执行AOF重写调用fork引起的延时抖动、服务数据加载慢等问题，无需在性能与持久化中取舍。可提供128~512 GB的大容量主从规格，集群版预计最大规格为32 TB。掉电数据不丢失 强大的命令级持久化保障，每个写操作持久化...
持久内存型
大规格优化 解决大规格下执行AOF重写调用fork引起的延时抖动、服务数据加载慢等问题，无需在性能与持久化中取舍。可提供128~512 GB的大容量主从规格，集群版预计最大规格为32 TB。掉电数据不丢失 强大的命令级持久化保障，每个写操作持久化...
ECU详解
大存储：以字母S开头的ECU为大存储实例，采用SSD/HDD分层存储架构，热点数据存储在SSD磁盘中，冷数据存储在HDD磁盘中。适用于并发稍低、性能要求不高（可接受数据查询响应时间受超过10秒以上）的业务场景。ECU规格 系列 型号 内存 磁盘类型...
全局节点
数据加载完成 可视化应用上所有组件数据接口加载完成后，抛出的事件，无参数。动作 设置回调id 与画布编辑器的 交互 面板联通，可设置回调ID。回调ID的变化，会引起监听该回调ID的组件重新请求数据。回调值仅支持字符串、数字、单层对象、...
Hive
本实例展示如何将Hive数据加载到DLA Ganos进行分析。Hive是Hadoop生态系统中的一个被广泛使用的数据仓库工具，主要用来进行Hadoop中的大规模数据的提取、转化、加载、查询和分析等操作。Hive数据仓库工具能将存储在HDFS系统中的结构化的...
东软案例
目前，东软在物联网、互联网等新场景下面临的IT系统运维主要问题与挑战有：多模型数据融合分析困难，面向海量数据采集终端同时写入数据的并发能力弱，数据量大且价值密度低导致存储成本高，基于开源软件自建数据存储集群稳定性低运维成本...
存储资源
存储资源是指用于存储和管理数据的硬件和软件资源，包括节点的本地磁盘、分布式文件存储、数据库和缓存等。存储资源的主要作用是存储和管理系统的数据。存储资源需要提供数据的持久性、可靠性和高效性，以满足系统的数据存储和访问需求。...
通过实时计算订阅数据
订阅DataHub数据进行实时计算，插入到RDS实例的目标表中。在RDS数据库中，按照源表结构创建相应的表。参考 数据存储配置白名单，配置RDS数据库白名单。由于本案例的RDS数据库位于华东1区，而流计算项目位于华东2区，所以需要在RDS数据库中...
引擎功能
高效时序存储技术 时序数据压缩 Lindorm时序引擎使用高效的数据压缩技术，将单个数据点的平均使用存储空间降为1~2个字节，可以降低90%存储使用空间，同时加快数据写入的速度。冷数据归档能力 Lindorm时序引擎支持将长期存储的冷数据归档到...
常见问题
表格存储 具有以下优势：多模型数据存储 表格存储 支持宽表（WideColumn）模型、时序（TimeSeries）模型、消息（Timeline）等多种数据存储模型，能实现多种类型数据的一体化存储。模型 描述 宽表模型 类Bigtable/HBase模型，可应用于元数据...
ODS层设计规范
数据加载与处理 通过一键实时同步至MaxCompute方案实现，请参见 配置查看数据同步任务。命名规范 表命名规范 表命名规则：{层次}{源系统表名}{保留位/delta与否}。增量数据：{project_name}.s{源系统表名}delta。全量数据：{project_name}....
加载矢量数据
本文介绍如何将矢量数据加载到Ganos中，建议您使用的工具为shp2pgsql、ogr2ogr或QGIS。准备工作 在加载矢量数据之前，请确保在数据库中已输入如下命令，来创建ganos_geometry扩展：CREATE EXTENSION ganos_geometry CASCADE shp2pgsql命令...
备份存储费用说明
开启存储压缩功能后，集群的一级备份存储的 免费备份空间额度 的规则如下：如果集群的存储付费类型为按容量计费（按量付费），则在开启存储压缩功能后，一级备份存储的 免费备份空间额度 为压缩前数据库存储用量×50%。如果集群的存储付费...
加载矢量数据
本文介绍如何将矢量数据加载到Ganos中，建议您使用的工具为shp2pgsql、ogr2ogr或QGIS。准备工作 在加载矢量数据之前，请确保在数据库中已输入如下命令，来创建ganos_geometry扩展：CREATE EXTENSION ganos_geometry CASCADE shp2pgsql命令...
加载矢量数据
本文介绍如何将矢量数据加载到Ganos中，建议您使用的工具为shp2pgsql、ogr2ogr或QGIS。准备工作 在加载矢量数据之前，请确保在数据库中已输入如下命令，来创建ganos_geometry扩展：CREATE EXTENSION ganos_geometry CASCADE shp2pgsql命令...
产品优势
本文介绍了 表格存储 的优势，包括多模型数据存储、多元化数据索引、多计算生态接入、访问安全性等。多模型数据存储 表格存储 支持宽表（WideColumn）模型、时序（TimeSeries）模型、消息（Timeline）等多种数据存储模型，能实现多种类型...
迁移工具
数据同步包括以下两个阶段：同步初始化：DTS先开始收集增量数据，然后将源数据库的结构和存量数据加载到目标数据库。数据实时同步：DTS同步正在进行的数据变更，并保持源数据库和目标数据库的同步。canal 使用canal同步数据时，Deployer...
应用场景
背景信息 设备将原始数据通过 MQTT 协议发送到物联网平台，经由物联网平台将数据转发到消息服务系统，继而通过流计算系统对这些数据进行实时计算处理后写入到 TSDB 中存储，或者经由物联网平台直接将原始数据写入 TSDB 中存储。前端的监控...
ActionTrail日志清洗
DLA提供ActionTrail日志自动清洗解决方案，可以将ActionTrail投递到OSS的日志文件转换为DLA中可以直接查询的数据表，同时自动对数据进行分区和压缩，方便您分析和审计对云产品的操作日志。日志分析痛点 ActionTrail是阿里云提供的云账号...
产品架构
EMR Serverless StarRocks架构 EMR Serverless StarRocks的产品架构主要由以下三个层次构成：存储层：存算一体版：StarRocks内表使用云盘或本地盘作为数据存储的介质，使用StarRocks Table Format存储格式。存算分离版：StarRocks内表使用...
应用场景
可以将访问频度非常高的数据存储在云数据库 Memcache 版中，底层数据存储在 RDS 中。大型促销类业务 大型促销秒杀系统，系统整体访问压力非常大。一般的数据库根本无法承载这样的读取压力，可选用云数据库 Memcache 版存储。带有计数器的...
Transaction Table2.0概述
很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案...
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive JindoFS分层存储命令均为异步执行，分层存储命令只是...
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive JindoFS分层存储命令均为异步执行，分层存储命令只是...
大数据用户画像解决方案
实时增量归档：通过LTS(Lindorm Tunnel Service)可以实时归档数据到离线存储 4.Bulkload技术：LSM技术架构使其具备高效、低影响的数据加载能力 5.动态列：很好的满足用户画像结构变化频繁的业务特点 6.多维度&复杂查询：原生全局二级索引、...
应用场景
物联网存储IoTstore作为物联网的统一数据存储平台，可应用于车联网、智能家居、工业物联网等场景。车联网 车联网是物联网技术在智能交通领域的典型应用。在智能交通领域通过使用物联网、云计算、传感器、大数据、无线通信等技术对交通信息...
高压缩引擎（X-Engine）介绍
随着业务发展，数据库系统中会积累大量访问频率很低甚至为0的数据，这些数据的积累容易导致如下问题：历史数据和最新数据存储在同一数据库系统中，导致磁盘空间不足。大量数据共享数据库系统的内存、缓存空间、磁盘IOPS等，导致性能问题。...
方案背景
本文以车联网场景中车辆轨迹数据为例介绍基于设备接入平台与表格存储Tablestore搭建车辆轨迹数据平台的场景需求以及方案架构。场景需求 在车联网场景中，车辆通过传感器上报时序数据到云端。通过存储、查询和分析这些时序数据，用户可以...
加载矢量数据
本文介绍如何将矢量数据加载到Ganos中，建议您使用的工具为shp2pgsql、ogr2ogr或QGIS。准备工作 在加载矢量数据之前，请确保在数据库中已输入如下命令，来创建ganos_geometry扩展：CREATE EXTENSION ganos_geometry CASCADE;shp2pgsql命令...
JindoFS介绍和使用
JindoFS是基于阿里云对象存储OSS，为开源大数据生态构建的Hadoop兼容文件系统（Hadoop Compatible File System，HCFS）。JindoFS提供兼容对象存储的纯客户端模式（SDK）和缓存模式（Cache），以支持与优化Hadoop和Spark生态大数据计算对OSS...
概述
若集群中某些库表的数据几乎没有更新、插入和修改操作，且读取频率非常低，如果您有降本需求，可以使用 PolarDB MySQL版 提供的冷数据归档功能，将这部分数据转存至低成本的OSS上存储，以降低数据存储成本。本章节介绍了冷数据归档方法、...
基本概念
本文将向您介绍 云数据库ClickHouse 产品中涉及的一些基本名词概念，以便于您更好地理解 云数据库ClickHouse 产品。地域（Region）购买 云数据库ClickHouse 的服务器所处地理位置。您需要在购买 云数据库ClickHouse 服务时指定Region，...
分层存储命令使用说明
通过该功能您可以根据数据冷热程度选择不同的存储介质来存储数据，以减少数据存储成本，或者加速访问数据的速度。使用Jindo jfs 执行以下命令，获取帮助信息。jindo jfs-help archive-archive-i/a<path>.:Archive commands.JindoFS分层存储...
概述
使用场景 数据架构变化 随着业务的变化，如果现有业务对数据库并发读写需求、扩展性和可用性需求较高，或需要复杂的检索，原有MySQL数据库的数据架构已经不能满足现在的业务需求，您可以选择将MySQL数据库中的数据迁移到表格存储中。...
- 产品推荐
- 这些文档可能帮助您