DataWorks V3.0
MaxCompute：大数据计算服务MaxCompute（原ODPS）是一种快速、完全托管的EB级大数据计算引擎，是大规模离线数据仓库的核心引擎。MaxCompute是DataWorks最早支持，且最成熟完备的计算引擎，目前已基本覆盖MaxCompute的所有功能。详情请参见 ...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
数据模型概述
DDM目前支持逻辑模型和物理模型建模，其中物理模型又分为关系型数据模型和非关系型数据模型，支持的大数据引擎为MaxCompute、Hive。说明 Hadoop的MR调优参数属于底层，DDM是数据建模工具，支持设置表、字段等物理属性。
简介
HBase Ganos是什么 HBase Ganos是阿里云推出的一款包含管理 空间几何数据、时空轨迹、专题栅格、遥感影像的时空大数据引擎系统。系统兼容开源GeoMesa、GeoServer等生态，内置了高效的时空索引算法、空间拓扑几何算法、遥感影像处理算法等，...
DataWorks模块使用说明
使用流程概览：参考文档：DataWorks数据建模 子模块：数据开发（DataStudio）功能说明：数据开发（DataStudio）是一站式大数据开发平台，支持在线开发MaxCompute、EMR、Hologres、CDP、ADB等多种大数据引擎的数据处理任务。它集成了强大的...
大数据AI公共数据集分析
教程简介 阿里云DataWorks基于多种大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、...
代码模式建模
DataWorks数据建模的设计与实现解耦，在设计过程中，您无需考虑各个大数据引擎的实现方式，建模引擎会根据FML语言定义的Schema去驱动底层各个数据引擎的执行和操作，仅在实际物化（即把设计的逻辑表转换为底层引擎的物理表）阶段，建模引擎...
逆向建模：物理表反向建模
建模流程 逆向建模主要用于将大数据引擎中已经存在的物理表反向建模至DataWorks的维度建模中，其建模流程如下：配置逆向建模策略。建模范围：创建模型前，您需要根据业务需求确定需要将哪些表逆向生成模型。该过程需确定表所在的工作空间、...
文档修订记录
函数计算节点 2023.6.29 新增功能 管理控制 创建E-MapReduce计算引擎数据源：支持选择EMR on ACK中的Spark集群类型。支持配置全局Spark属性。配置 OPENLDAP账号映射或Kerberos账号映射时，支持上传Keytab文件。注册EMR集群至DataWorks 2023...
大数据开发治理平台 DataWorks
大数据开发治理平台 DataWorks基于MaxCompute/EMR/MC-Hologres等大数据计算引擎，为客户提供专业高效、安全可靠的一站式大数据开发与治理平台，自带阿里巴巴数据中台与数据治理最佳实践，赋能各行业数字化转型。每天阿里巴巴集团内部有数万...
产品简介
常见的搜索应用场景包括互联网搜索、电子商务搜索、社交媒体搜索等等 检索引擎 文本检索引擎是一种用于从大量文本数据中快速检索相关信息的软件工具。它能够根据用户的查询词或关键字，从文本数据库中找到相关的文档或记录，并将其按照相关...
基于向量检索版+LLM构建对话式搜索
大数据检索，较之行业算法版，高性能检索版取消了繁重的行业算法能力，在支持搜索通用能力（分析器、排序）的基础上，重点关注业务查询和写入的吞吐，为开发者提供了大数据集检索场景下，秒级响应、实时查询的能力。产品特性 高吞吐，单表...
基于向量检索版+LLM构建对话式搜索
大数据检索，较之行业算法版，高性能检索版取消了繁重的行业算法能力，在支持搜索通用能力（分析器、排序）的基础上，重点关注业务查询和写入的吞吐，为开发者提供了大数据集检索场景下，秒级响应、实时查询的能力。产品特性 高吞吐，单表...
预排序
因此，使用预排序功能够大幅度提升数据检索性能，优化搜索引擎的服务能力。本章节介绍使用预排序功能的操作步骤。操作步骤 修改solrconfig.xml中的MergePolicy，具体请参见 Customizing Merge Policies。查询时，指定参数...
Delta Lake概述
背景信息 通常的数据湖方案是选取大数据存储引擎构建数据湖（例如，阿里云对象存储OSS产品或云下HDFS），然后将产生的各种类型数据存储在该存储引擎中。在使用数据时，通过Spark或Presto对接数据分析引擎并进行数据解析。但该套方案存在...
基于Delta lake的一站式数据湖构建与分析实战
数据湖计算与分析 相比于数据仓库，数据湖以更开放的方式对接多种不同的计算引擎，如传统开源大数据计算引擎Hive、Spark、Presto、Flink等，同时也支持云厂商自研的大数据引擎，如阿里云MaxCompute、Hologres等。在数据湖存储与计算引擎...
MaxCompute近实时增全量一体化架构介绍
数据库整库 实时同步写入 当前数据库系统与大数据处理引擎都有各自擅长的数据处理场景，面对一些复杂的业务需求，往往需要同时运用OLTP（联机事务处理）、OLAP（联机分析处理）及离线分析引擎来对数据进行全面且深入的分析与处理，因此数据...
TSDB全量迁移至时序引擎
本文介绍时间序列数据库（Time Series Database，简称TSDB）全量迁移至 云原生多模数据库 Lindorm 时序引擎的方法。前提条件 已安装Linux或者macOS操作系统，并且安装以下环境。已安装Java环境，版本为JDK 1.8及以上。已安装Python环境，...
OpenSearch产品选型
开箱即用，无需运维，可一键式完成行业智能搜索全链路配置 高性能检索版 有订单、优惠券、物流、保单等高性能大数据检索场景需求，需低成本一站式快速搭建搜索系统的企业及开发者，可接入此类型 基于自研搜索引擎实现千亿数据毫秒级响应，...
开启或关闭向量检索引擎优化
云原生数据仓库AnalyticDB PostgreSQL版 向量数据库针对向量数据库场景做了大量的内核参数优化，您需要先在控制台开启该功能才能使用向量检索引擎优化，本文介绍如何开启或关闭向量检索引擎优化。使用场景 如果实例用于向量分析，例如AIGC...
通过SQL导入向量数据
前提条件 已开启向量检索引擎功能，目前已支持如下两种方式开启：在创建实例时开启向量引擎优化，更多信息，请参见 创建实例。如果已创建实例未开启向量引擎优化，您还可以在控制台手动开启该功能，更多信息请参见 开启或关闭向量检索引擎...
如何选择文件引擎规格
存储规格选择 当您选择Lindorm文件引擎 作为大数据、数据湖的底层存储时，推荐您选用 容量型云存储 类型。Lindorm存储以预留空间方式计费，需要确保LindormDFS的预留存储空间超出您的最大使用空间10%以上 说明 容量型存储在保持低成本的...
东软案例
在运维过程中，用户通过实时监控仪表盘、统计分析报表或风险定位、检测工具对接Lindorm多模引擎海量数据检索、分析能力，来满足不同应用场景的运维大数据信息提取需要。图 3.东软新型IT智能运维系统部署方案 适用场景 实时状态大屏展现。...
采集数据
本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...
数据库引擎
数据库引擎 数据库引擎分类 文档链接 Atomic Atomic Lazy Lazy Replicated Replicated PostgreSQL PostgreSQL MySQL MySQL SQLite SQLite MaterializedPostgreSQL MaterializedPostgreSQL MaterializedMySQL MaterializedMySQL
JindoFS实战演示
Impala如何高效查询OSS数据 Impala如何高效查询OSS数据 2021-06-08 Apache Impala是一个开源的大数据查询分析引擎，能够快速查询分析存储在Hadoop集群的PB级数据。如果您已将HDFS数据迁移至OSS中，可通过在Impala中使用JindoFS SDK，高效...
图扑案例
多模数据检索引擎协同工作，解锁更强悍数据可视化场景。客户感言 阿里 云原生多模数据库 Lindorm 针对工业物联网数据高并发写入，实时存取等特点，创新性地融合时序、索引、宽表等多模引擎能力，为存储、分析低价值密度、高通量、高实时性...
2023年
2023-03-30 全部地域 利用MaxCompute External Volume处理非结构化数据 推出向量计算引擎Proxima CE Proxima CE是超大规模离线向量检索引擎，用于支持批量离线向量检索任务，包括基础的向量检索、多类目检索及百万TopK检索等。2023-03-30 ...
向量检索使用指南
高效检索：通过使用ANN技术，能够在大规模数据集上实现快速搜索。向量检索正逐渐成为搜索引擎、推荐系统以及其他多种应用中的核心技术。例如，电商网站使用它来提升商品推荐的相关性，社交媒体平台使用它来提高内容发现的精确度等。前提...
表引擎
Full-text Search using Inverted Indexes 使用倒排索引进行全文搜索，用于在大规模文本数据中进行全文搜索和检索。Log Log系列引擎适用于快速写入小表（1百万行左右的表）并读取全部数据的场景。该系列引擎的共同特点如下。数据被追加写入...
解决方案：免费体验AnalyticDB PostgreSQL版以文搜图
本文为您介绍在实际的电商业务中，通过将商品图片集合的向量化结果存储在云原生数据仓库 AnalyticDB PostgreSQL版 向量检索引擎中，实现以文搜图的高效准确检索。背景信息 在现实世界中，绝大多数的数据都是以非结构化数据的形式存在，如...
pgvector兼容模式使用指南
pgvector兼容模式说明 对于使用pgvector做向量检索引擎的业务，AnalyticDB PostgreSQL版 向量数据库对pgvector的向量读写操作可以完全兼容，只需要修改索引构建的SQL语法即可。因此使用pgvector做向量检索的业务可以完全无缝迁移到 ...
高性能检索版介绍
大数据检索，较之行业算法版，高性能检索版取消了繁重的行业算法能力，在支持搜索通用能力（分析器、排序）的基础上，重点关注业务查询和写入的吞吐，为开发者提供了大数据集检索场景下，秒级响应、实时查询的能力。SQL语法，在线多表join...
数据检索与预览
本文为您介绍自动驾驶数据管理平台中的数据检索和预览功能。平台提供场景数据的可视化功能，包括数据的检索、预览、回放等，通过目标数据特征检索并找到各类元数据。数据集 说明 数据文件的集合，通过左上方搜索栏输入数据集名称字段可自动...
计算设置概述
设置Dataphin实例的计算引擎为TDH或ArgoDB 星环TDH 6.x Transwarp Data Hub（TDH)是星环大数据平台 实时计算引擎 阿里云实时计算Flink 阿里云新一代计算引擎Flink，支持实时计算，具有高吞吐低延迟等优势，同时也支持离线计算与调度。...
通过阿里云百炼搭建专属大模型应用
阿里云百炼结合 AnalyticDB PostgreSQL版 向量检索引擎推出一站式企业专属大模型开发和应用平台，提供应用API，可一键接入您的业务应用并对外提供服务，帮助您轻松完成企业专属大模型应用的开发。概述 产品简介 阿里云百炼是基于通义千问大...
基本介绍
背景信息 云数据库HBase增强版是由 云原生多模数据库Lindorm宽表引擎 提供的、完全兼容HBase的云上托管数据库，从2011年开始云数据库HBase增强版正式承载阿里内部业务的海量数据实时存储需求，支撑服务了淘宝、支付宝、菜鸟、优酷、高德等...
应用场景
典型业务场景：电商零售智能搜索、内容社区智能搜索、游戏智能搜索、教育搜题等 适用客户：开箱即用，适合有智能搜索诉求的中小企业及开发者 高性能检索版 版本特性：大数据检索性能深度优化，实现秒级响应，实时查询能力，支持一站式快速...
Serverless应用指南
本文介绍了访问Serverless应用的各种方式，将源数据（MySQL数据、日志数据、ES数据）迁移到Serverless应用的方法，以及在Serverless应用中实现数据检索、分析、交互的方法。访问指南 访问方式 相关文档 curl 通过curl命令访问与管理...
通过阿里云Milvus与PAI搭建高效的检索增强生成（RAG）...
其中，检索部分采用了高效的向量检索引擎和向量数据库技术，例如基于开源库Faiss、Annoy以及HNSW算法优化构建的Milvus系统，极大地提升了对大规模数据进行快速检索和精确分析的能力。这样的设计使得RAG能够在必要时即时调用相关领域或最新...
- 产品推荐
- 这些文档可能帮助您