访问列存数据
Lindorm计算引擎支持将半结构化、结构化数据以列存方式进行存储，相较于行式存储，列式存储的查询响应时间更短，消耗IO更少。本文介绍如何通过计算引擎访问Lindorm列存数据。背景信息 Lindorm列存是面向海量半结构化、结构化数据设计的列...
创建Sap Table数据源
在 新建数据源 对话框的 半结构化存储 区域，选择Sap Table。如果您最近使用过Sap Table，也可以在 最近使用区域 选择Sap Table。同时，您也可以在搜索框中，输入Sap Table的关键词，快速筛选。在 新建Sap Table数据源 对话框中，配置相关...
创建API数据源
在 新建数据源 对话框的 半结构化存储 区域，选择 API。如果您最近使用过API，也可以在 最近使用 区域选择API。同时，您也可以在搜索框中，输入API的关键词，快速筛选。在 新建API数据源 对话框中，配置相关连接数据源参数。配置数据源的...
数据集成概述
离线（批量）的数据通道通过定义数据来源和去向的数据源和数据集，提供一套抽象化的数据抽取插件（Reader）、数据写入插件（Writer），并基于此框架设计一套简化版的中间数据传输格式，从而实现任意结构化、半结构化数据源之间数据传输。...
大数据用户画像解决方案
方案总览 作为面向大数据场景的半结构化、结构化存储系统，Lindorm可以很好的满足用户画像：没有强事务要求，大数据量、高并发读写场景这样的业务特征。其架构如下图所示：方案优势 1.低成本：集群内单表冷热分离能力、独有的压缩优化能力...
集成与开发概览
功能简介 数据集成与开发功能模块支持多种计算、存储引擎，支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务，能够满足企业各类数据加工、集成、开发、服务需求。您可以通过流批一体的数据集成对在线数据进行入仓、...
产品架构
宽表引擎 LindormTable 是面向海量半结构化、结构化数据设计的分布式NoSQL系统，适用于元数据、订单、账单、画像、社交、feed流、日志等场景，兼容HBase、Cassandra等开源标准接口。其基于数据自动分区+分区多副本+LSM的架构思想，具备全局...
数据传输作业：数据集成
离线同步 离线（批量）的数据通道通过定义数据来源和去向的数据源和数据集，提供一套抽象化的数据抽取插件（Reader）、数据写入插件（Writer），并基于此框架设计一套简化版的中间数据传输格式，从而实现任意结构化、半结构化数据源之间...
基于Delta lake的一站式数据湖构建与分析实战
数据湖作为一个集中化的数据存储仓库，支持的数据类型具有多样性，包括结构化、半结构化以及非结构化的数据，数据来源上包含数据库数据、binglog 增量数据、日志数据以及已有数仓上的存量数据等。数据湖能够将这些不同来源、不同格式的数据...
金融大数据
架构优势：提供了结构化与非结构化数据的融合方案 满足了同时存在离线、在线、流数据的业务场景 解决了大数据平台的集成问题 为大数据平台的开发与管理提供了高效方案 金融风险控制方案 金融风险控制解决方案通过大数据画像、机器学习、...
MaxCompute JSON类型使用指南
针对以上问题，我们设计了一种新的数据类型JSON，既可以支持无强Schema约束的半结构化数据，又能够充分利用列存储的优化，同时满足高灵活性和高性能的要求。基本原理 JSON数据类型作为一种新的数据类型，使用方法和其他类型相似。我们无需...
数据扫描和识别
支持扫描的数据源类型如下：结构化数据：RDS、PolarDB、PolarDB-X、MongoDB、OceanBase、自建数据库 非结构化数据：OSS 大数据：TableStore、MaxCompute、ADB-MYSQL、ADB-PG 数据源授权完成后需要多长时间完成扫描？DSC 完成数据源授权后，...
技术发展趋势
生产处理智能化 企业视之为有价值的数据，不再仅仅限于结构化数据，大量半结构化数据（如日志）、非结构化（音视频）等等比例在持续增加。IDC在《Data Age 2025》的报告中预测到2025年非结构化数据占企业数据的80%以上，并且以每年55%的...
版本发布记录
深度集成的生态 接入融合分析和数据回流能力 目前支持如下数据源的接入融合分析和数据回流能力，包括对象存储OSS上7种以上结构化、半结构化、以及多种压缩格式的数据文件，表格存储，AnalyticDB，云数据库版或自建数据库（MySQL、...
PolarDB PostgreSQL版间的迁移
表结构不一致的情况下，可能会导致无法初始化数据、只能同步部分列的数据或同步失败，请谨慎操作。目标库对象名称大小写策略 您可以配置目标实例中同步对象的库名、表名和列名的英文大小写策略。默认情况下选择 DTS默认策略，您也可以选择...
IoT数据自动化同步至云端解决方案
IoT设备大量的数据通常以半结构化的形式存储。例如，使用OSS存储原始信息为CSV文件。但同步至大数据系统或传统数据库的数据，需要使用专业的数据同步系统。下图为您展示使用DataWorks数据集成完成OSS数据同步至大数据系统的解决方案流程。...
大数据安全治理的难点
存储 众所周知，大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，...
离线同步能力说明
您可以通过定义来源与去向数据源，并通过数据集成提供的数据抽取插件（Reader）、数据写入插件（Writer），实现任意结构化、半结构化数据源之间数据传输。详情请参见：支持的数据源与读写能力。复杂网络环境下的数据同步 离线同步支持云...
东软案例
客户价值 一体化指标、日志、代码链路、网络包等结构化、半结构化、无结构数据存储、检索、分析能力，降低开发部署复杂度。云端低成本海量运维数据存储，TCO大幅降低。高性能、高通量监控数据入库，轻松搞定大日活量应用系统监控。实时日志...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
什么是图数据库GDB?
分类 图数据库 关系型数据库 模型 图结构 表结构 存储信息 结构化/半结构化数据库 高度结构化数据库 2度查询 高效 低效 3度查询 高效 低效/不支持 空间占用 高 中 开始使用 您可以通过 入门概览 了解如何购买实例、重置密码以及链接实例和...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
RDS术语
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。更多信息，请参见 什么是云数据库MongoDB版。慢SQL 执行时间很长的SQL语句。更多信息，请参见 慢日志分析。O OSS Object Storage...
DLA Lakehouse实时入湖
背景信息 数据湖分析（Data Lake Analytics）是⽬前炙⼿可热的⽅向，主要是以对象存储系统为核心，构建海量、低成本的结构化、半结构化、⾮结构化对象⽂件的入湖、存储和分析业务。⽬前各⼤云⼚商都在积极跟进，布局相关的业务能力，阿⾥云...
持久内存型
大规格优化 解决大规格下执行AOF重写调用fork引起的延时抖动、服务数据加载慢等问题，无需在性能与持久化中取舍。可提供128~512 GB的大容量主从规格，集群版预计最大规格为32 TB。掉电数据不丢失 强大的命令级持久化保障，每个写操作持久化...
持久内存型
大规格优化 解决大规格下执行AOF重写调用fork引起的延时抖动、服务数据加载慢等问题，无需在性能与持久化中取舍。可提供128~512 GB的大容量主从规格，集群版预计最大规格为32 TB。掉电数据不丢失 强大的命令级持久化保障，每个写操作持久化...
离线同步任务调优
半结构化的单个文件没有切分键的概念，多个文件可以设置作业速率上限来提高同步的速度，但作业速率上限和文件的个数有关。例如，有n个文件，作业速率上限最多设置为n MB/s：如果设置n+1 MB/s，还是以n MB/s速度同步。如果设置为n-1 MB/s，...
外部表概述
外部表示例 您可以通过以下示例，深入了解通过MaxCompute外部表功能处理各种非结构化数据的方法：访问OSS和TableStore（OTS）非结构化数据，请参见 访问OSS非结构化数据 和 访问OTS非结构化数据。外部表访问OSS的账号，在RAM中自定义授权...
Tair小版本发布日志
云原生内存数据库Tair 作为一个高可用、高性能的分布式NoSQL数据库，从访问延时、持久化需求、整体成本这三个核心维度考量，基于DRAM、NVM和ESSD云盘存储介质，推出了多种不同形态的产品，为您提供更强的性能、更多的数据结构和更灵活的...
如何基于LSM-tree架构实现一写多读
B+tree并发回放有它自身的复杂性，比如需要解决系统页回放与普通数据页回放先后顺序问题，并且还需要解决同一个mtr中多个数据页并发回放可能导致的物理视图不一致问题。LSM-tree需要解决多个节点在同样位置SwitchMemtable，以及2PC事务回放...
玄武分析型存储
多种索引类型多路归并查找的过程如下所示：结构化与非结构化融合 玄武存储层索引管理器实现结构化索引与非结构化索引的统一管理，如数值类的BKD索引、字符串类的倒排索引、非结构化的JSON索引及向量索引，还有文本数据的全文索引。...
常见问题
非结构化数据源，单击数据预览字段无法映射，如何处理？报错信息及解决方案 报错信息及解决方案。实时同步常见问题 实时同步任务配置须知 实时同步任务支持哪些数据源？为什么实时同步任务延迟较大？实时同步任务延迟解决方案。实时同步...
名词解释
术语 宽表引擎 时序引擎 说明 DATABASE 〇 〇 Database（数据库）是一个结构化的、用于存储和管理相关数据的集合。TABLE 〇 〇 Table（表）是一种结构化的数据对象，用于存储和组织相关的数据记录。构建表时需要定义表的Schema结构，包括表...
核心能力
统一数据服务封装 实时、离线、半结构化、非结构化、消息队列的数据服务封装。支持向导模式和SQL模式等的服务封装。简单身份认证和加密签名身份认证模式。数据服务调用流量管控。行业知识敏捷交付 工作组下API服务、模型、节点、场景、指标...
面临的业务挑战
数据散乱不一致 传统企业的数据具有多样性，包括结构化、半结构化以及非结构化的数据。数据来源上包含数据库数据、日志数据、对象数据以及已有数仓上的存量数据等。这些不同来源、不同格式的数据，各自又有不同的访问和分析方式，而大量...
云数据库RDS简介
数据结构多样时，可以选择将结构化数据存储在RDS，将非结构化数据存储在MongoDB，满足业务的多样化存储需求。MaxCompute 大数据计算服务MaxCompute（原名ODPS）是一种快速、完全托管的TB/PB级数据仓库解决方案，提供了完善的数据导入方案...
数据集成
数据集成目前支持40种以上的数据源类型（包括关系型数据库、非结构化存储、大数据存储、消息队列等），通过定义来源与去向数据源，并使用数据集成提供的数据抽取插件（Reader）、数据写入插件（Writer），实现任意结构化、半结构化数据源...
添加数据集
DataV数据集支持多种数据源的接入，如数据库、excel表格文件等，通过对数据的结构化存储和元数据的汇集整理，提供高效实用的数据建模能力，可用的算子包括常见的数据聚合函数、按不同时间粒度划分、地理信息处理等。本文为您介绍如何在...
- 产品推荐
- 这些文档可能帮助您