非结构化数据向量检索
Lindorm向量索引旨在帮助您实现非结构化数据的检索分析。您可以通过AI算法提取非结构化数据的特征，并利用特征向量唯一标识非结构化数据。这些向量数据可以被Lindorm高性能地存储和检索。同时，Lindorm也支持向量数据与标量数据的混合检索...
统一服务
非结构化数据服务的源头为OSS，服务封装为根据文件名称返回文件数据流。通过空间服务发布将空间数管中的各类型空间数据发布成行业标准的空间服务。支持发布OGC WMTS、WMS、WFS服务，TMS（MVT）矢量瓦片服务，S3M、3DTiles等标准的三维服务...
功能简介
非结构化数据服务的源头为OSS，服务封装为根据文件名称返回文件数据流。通过空间服务发布将空间数管中的各类型空间数据发布成行业标准的空间服务。支持发布OGC WMTS、WMS、WFS服务，TMS（MVT）矢量瓦片服务，S3M、3DTiles等标准的三维服务...
功能简介
数据模板管理 针对半结构化、非结构化数据，支持创建数据模板，支持自定义数据字段及字段类型，并提供编辑、删除等功能。支持在离线数据同步、实时数据同步任务中引用已添加的数据模板，根据数据模板定义的数据结构执行数据同步任务。离线...
2023年
2023-04-06 全部地域 作业运维（新版）2023-03 功能名称 功能描述 发布时间 发布地域 相关文档 支持使用Spark和MapReduce任务处理External Volume中的非结构化数据 MaxCompute支持使用Spark和MapReduce任务在仓内处理基于OSS的External ...
构建数据仓库
用户的应用场景复杂，对非结构化的语音、自然语言文本进行语音识别、语义分析、情感分析等，同时融合结构化数据搭建企业级的数据管理平台，并且计算和存储成本最低。平台支撑多种形式的应用，包括使用机器学习算法进行复杂数据分析、使用BI...
数据同步
数据模板管理 针对半结构化、非结构化数据，支持创建数据模板，支持自定义数据字段及字段类型，并提供编辑、删除等功能。支持在离线数据同步、实时数据同步任务中引用已添加的数据模板，根据数据模板定义的数据结构执行数据同步任务。离线...
功能简介
数据模板管理 针对半结构化、非结构化数据，支持创建数据模板，支持自定义数据字段及字段类型，并提供编辑、删除等功能。支持在离线数据同步、实时数据同步任务中引用已添加的数据模板，根据数据模板定义的数据结构执行数据同步任务。离线...
添加对象存储OSS数据源
使用阿里云对象存储服务（Object Storage Service，简称OSS），您可以通过网络随时存储和调用文本、图片、音频和视频等各种非结构化数据文件。前提条件 已准备好待添加的对象存储OSS数据源。添加对象存储OSS数据源操作步骤 登录 DataV控制...
产品架构
宽表引擎 LindormTable 是面向海量半结构化、结构化数据设计的分布式NoSQL系统，适用于元数据、订单、账单、画像、社交、feed流、日志等场景，兼容HBase、Cassandra等开源标准接口。其基于数据自动分区+分区多副本+LSM的架构思想，具备全局...
产品概述
数据总线 DataHub 同时支持强Schema的结构化数据（创建Tuple类型的Topic）和无类型的非结构化数据（创建Blob类型的Topic），您可以自由选择。高可用 服务可用性不低于99.9%。规模自动扩展，不影响对外服务；数据持久性不低于99.999%。数据...
支持的云服务
MaxCompute处理非结构化数据时，通过RAM对非结构化数据进行授权。MaxCompute支持直接处理非结构化数据（包含OSS和表格存储），但是需要提前在RAM中授予MaxCompute访问OSS或表格存储的权限，详情请参见 OSS外部表 和 Tablestore外部表。阿里...
添加对象存储OSS数据源
使用阿里云对象存储服务（Object Storage Service，简称OSS），您可以通过网络随时存储和调用文本、图片、音频和视频等各种非结构化数据文件。前提条件 已准备好待添加的对象存储OSS数据源。添加对象存储OSS数据源操作步骤 登录 DataV控制...
创建数仓分层
ODS层对原始数据的操作具体如下：将原始的结构化数据增量或全量同步至数据仓库中。将原始的非结构化数据（例如，日志信息）进行结构化处理，并存储至MaxCompute。根据实际业务需求，记录原始数据的历史变化或对原始数据进行简单的清洗。ODS...
冷热分层
海量结构化数据Delta Lake架构 针对结构化冷热分层的数据场景，阿里巴巴集团推出了海量结构化数据的Delta Lake架构。基于Tablestore的通道服务，原始数据可以利用变更数据捕获CDC（Change Data Capture）技术写入多种存储组件中。示例 本...
从RDS MySQL同步至Tablestore
表格存储（Tablestore）是阿里云自研的多模型结构化数据存储，提供海量结构化数据存储以及快速的查询和分析服务。通过数据传输服务DTS（Data Transmission Service），您可以将MySQL数据库（例如自建MySQL或RDS MySQL）同步至Tablestore...
功能特性
Spark访问湖仓一体外部数据源 基于External Volume处理非结构化数据 通过创建External Volume挂载OSS的路径，利用MaxCompute权限管理系统对用户访问External Volume做细粒度的权限控制，同时利用 MaxCompute引擎处理External Volume内部的...
数据分析整体趋势
技术发展趋势 商业数据库起步于二十世纪八十年代，主要代表为Oracle，SQL Server，DB2等结构化数据在线处理的关系型数据库，而以MySQL，PostgreSQL为代表的开源关系型数据库也在二十世纪九十年代得到了发展。近些年来，随着业务数据量的...
功能特性
通过Kafka导入数据 通过Flink导入数据 云数据库 SelectDB 版支持通过SelectDB提供的Flink连接器（SelectDB Connector for Apache Flink），将Kafka中的非结构化数据以及MySQL等上游业务数据库中的变更数据，实时同步到云数据库 SelectDB 版...
访问列存数据
Lindorm计算引擎支持将半结构化、结构化数据以列存方式进行存储，相较于行式存储，列式存储的查询响应时间更短，消耗IO更少。本文介绍如何通过计算引擎访问Lindorm列存数据。背景信息 Lindorm列存是面向海量半结构化、结构化数据设计的列...
创建Sap Table数据源
在 新建数据源 对话框的 半结构化存储 区域，选择Sap Table。如果您最近使用过Sap Table，也可以在 最近使用区域 选择Sap Table。同时，您也可以在搜索框中，输入Sap Table的关键词，快速筛选。在 新建Sap Table数据源 对话框中，配置相关...
创建API数据源
在 新建数据源 对话框的 半结构化存储 区域，选择 API。如果您最近使用过API，也可以在 最近使用 区域选择API。同时，您也可以在搜索框中，输入API的关键词，快速筛选。在 新建API数据源 对话框中，配置相关连接数据源参数。配置数据源的...
东软案例
客户价值 一体化指标、日志、代码链路、网络包等结构化、半结构化、无结构数据存储、检索、分析能力，降低开发部署复杂度。云端低成本海量运维数据存储，TCO大幅降低。高性能、高通量监控数据入库，轻松搞定大日活量应用系统监控。实时日志...
混合检索使用指南
当结构化数据与非结构化数据需要同时检索时，您可以使用 AnalyticDB PostgreSQL版 向量数据库的混合查询，既支持结构化字段过滤，也支持半结构化字段过滤，同时支持和文本字段的全文检索一起进行双路召回。混合检索简介 ANNS（Approximate ...
集成与开发概览
功能简介 数据集成与开发功能模块支持多种计算、存储引擎，支持结构化、半结构化、非结构化数据的实时集成、离线集成、开发、服务，能够满足企业各类数据加工、集成、开发、服务需求。您可以通过流批一体的数据集成对在线数据进行入仓、...
面临的业务挑战
数据散乱不一致 传统企业的数据具有多样性，包括结构化、半结构化以及非结构化的数据。数据来源上包含数据库数据、日志数据、对象数据以及已有数仓上的存量数据等。这些不同来源、不同格式的数据，各自又有不同的访问和分析方式，而大量...
基于Delta lake的一站式数据湖构建与分析实战
数据湖作为一个集中化的数据存储仓库，支持的数据类型具有多样性，包括结构化、半结构化以及非结构化的数据，数据来源上包含数据库数据、binglog 增量数据、日志数据以及已有数仓上的存量数据等。数据湖能够将这些不同来源、不同格式的数据...
玄武分析型存储
多种索引类型多路归并查找的过程如下所示：结构化与非结构化融合 玄武存储层索引管理器实现结构化索引与非结构化索引的统一管理，如数值类的BKD索引、字符串类的倒排索引、非结构化的JSON索引及向量索引，还有文本数据的全文索引。...
版本发布记录
深度集成的生态 接入融合分析和数据回流能力 目前支持如下数据源的接入融合分析和数据回流能力，包括对象存储OSS上7种以上结构化、半结构化、以及多种压缩格式的数据文件，表格存储，AnalyticDB，云数据库版或自建数据库（MySQL、...
核心能力
统一数据服务封装 实时、离线、半结构化、非结构化、消息队列的数据服务封装。支持向导模式和SQL模式等的服务封装。简单身份认证和加密签名身份认证模式。数据服务调用流量管控。行业知识敏捷交付 工作组下API服务、模型、节点、场景、指标...
名词解释
术语 宽表引擎 时序引擎 说明 DATABASE 〇 〇 Database（数据库）是一个结构化的、用于存储和管理相关数据的集合。TABLE 〇 〇 Table（表）是一种结构化的数据对象，用于存储和组织相关的数据记录。构建表时需要定义表的Schema结构，包括表...
概述
数据集是数据的结构化形态，一切逻辑、权限、服务等都是从数据集展开。仪表盘是数据分析和数据展示的画布，在仪表盘中可以做实时的数据分析，也可以将数据制作为报表进行展示或分享。大屏是针对大屏幕的特殊数据展示画布，支持灵活自定义的...
数据可视化概览
数据集是数据的结构化形态，一切逻辑、权限、服务等都是从数据集展开。图表是数据的可视化形态，一切展示、交互、引导等都是从图表展开。说明 作为数据的两种不同形态，二者相辅相成，让您拥有一致的体验和认识。仪表盘和大屏是图表的组合...
添加数据集
DataV数据集支持多种数据源的接入，如数据库、excel表格文件等，通过对数据的结构化存储和元数据的汇集整理，提供高效实用的数据建模能力，可用的算子包括常见的数据聚合函数、按不同时间粒度划分、地理信息处理等。本文为您介绍如何在...
DataV6.0数据集介绍
介绍 DataV数据集支持多种数据源的接入，如数据库、Excel表格文件等，通过对数据的结构化存储和元数据的汇集整理，提供高效实用的数据建模能力，可用的算子包括常见的数据聚合函数、按不同时间粒度划分和地理信息处理等。创建 登录 DataV...
MaxCompute JSON类型使用指南
JSON类型简介 背景信息 半结构化数据介于结构和非结构化数据之间，数据中有一定的Schema，但是Schema灵活，没有强约束，通常数据的Schema是自描述的。典型的例子就是JSON数据。MaxCompute中已经支持Schema Evolution、JSON STRING或复杂...
应用场景
背景 HBase的设计之初是为了满足互联网的大数据场景，几乎所有非强事务的结构化、半结构化的存储需求都可以使用HBase来满足。ApsaraDB for HBase是NoSQL（Not only SQL），也支持SQL及二级索引。大数据场景 云数据库HBase支持海量全量数据...
基本概念
元数据管理 对非结构化类型的数据表进行统一的结构化（二维化）配置及管理。网络配置 应用能够成功调用API或Dataphin数据源的基础网络配置，包括域名配置和VPC白名单配置。说明 如果您是公共云用户，则需要配置VPC白名单。调用示例 应用...
应用场景
该场景可实现：实时多源数据同步 支持多业务数据源，结构化非结构化数据的实时同步。营销效果实时反馈 支持对海量日志数据和业务进行即时的复杂关联计算，提高营销效果反馈及时性。商业智能报表 该场景要求支持海量数据实时入库和计算，...
RDS搭配异构数据库实现数据多样化存储
本文介绍数据多样化存储的典型应用。RDS可以搭配云数据库Redis、云数据库Memcache和对象存储OSS等产品使用，实现多样化存储扩展。缓存数据持久化 RDS可以搭配云数据库缓存产品（Redis和Memcache），组成高吞吐、低延迟的存储解决方案。相...
- 产品推荐
- 这些文档可能帮助您