[帮助文档] 部署vLLM推理应用

vLLM(Vectorized Large Language Model)是一个高性能的大型语言模型推理库,支持多种模型格式和后端加速,适用于大规模语言模型的推理服务部署。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例,演示如何部署一个vLLM推理服务。

[帮助文档] 基于AnalyticDB PostgreSQL图搜API构建图搜应用

本文介绍基于云原生数据仓库 AnalyticDB PostgreSQL 版的图搜API,实现向量化检索图片的整体流程。

云原生可观测最佳实践

1 课时 |
39 人已学 |
免费

阿里云云原生助理工程师认证(ACA)课程

66 课时 |
214 人已学 |
免费

高校精品课-华东师范大学-云原生数据库

13 课时 |
277 人已学 |
免费
开发者课程背景图

[帮助文档] 如何通过Java SDK提交Spark作业、查询Spark作业的状态和日志信息、结束Spark作业以及查询Spark历史作业

AnalyticDB MySQL湖仓版(3.0)集群支持通过Java SDK开发Spark应用和Spark SQL作业。本文介绍通过Java SDK提交Spark作业、查询Spark作业的状态和日志信息、结束Spark作业以及查询Spark历史作业的操作步骤。

构建未来:云原生技术在企业数字化转型中的应用

在当今的商业领域,数字化转型已成为企业生存和发展的核心命题。为了适应这一趋势,企业必须采用先进的技术来提升运营效率,加快产品上市速度,并增强客户体验。云原生技术以其独特的优势应运而生,它代表了一套全新的软件开发和运维模式,旨在最大化利用云计算的弹性、可扩展性和敏捷性。 首先,理解云原生技术的基础是至...

构建未来:云原生技术在企业数字化转型中的应用

在信息技术快速发展的今天,企业正面临着前所未有的市场压力和竞争挑战。为了保持竞争力,企业必须加快创新步伐并提升运营效率。云原生技术以其独特的设计理念和灵活的部署方式,成为企业实现这一目标的有效途径。 云原生是一种构建和运行应用程序的方法,它充分利用了云计算的灵活性、可扩展性和弹性。该技术栈通常包括容...

构建未来:云原生架构在企业数字化转型中的应用

在信息技术日新月异的今天,企业面临着前所未有的挑战与机遇。为了保持竞争力,组织必须加快产品和服务的创新速度,同时确保运营效率和成本控制。云原生架构应运而生,它不仅代表着技术的演进,更是企业文化和组织结构转型的催化剂。 云原生架构是一种构建和运行应用程序的方法,它充分利用了云计算的灵活性、可扩展性和弹...

构建未来:云原生架构在企业数字化转型中的应用

在当今快速演变的商业环境中,企业必须不断适应新的技术趋势,以满足不断变化的消费者需求和市场压力。云原生架构,作为一种为云计算环境量身打造的技术体系,提供了一种全新的解决方案,使得企业能够在竞争激烈的市场中保持灵活性和响应速度。 云原生架构的核心在于将应用程序设计为一组微服务,每个服务都封装在自己的容...

探索云原生技术在企业数字化转型中的应用

随着云计算技术的不断发展和普及,云原生技术作为一种新兴的软件开发和部署范式,正受到越来越多企业的关注和应用。云原生技术是一种以云计算为基础架构,利用容器、微服务、自动化、持续交付等技术手段来构建和部署应用程序的方法论。它的出现为企业数字化转型提供了全新的解决方案和思路。首先,云原生技术的核心概念之一...

[帮助文档] 基于OpenAPI构建RAG应用

本文介绍如何利用AnalyticDB PostgreSQL版的OpenAPI快速构建Retrieval Augmentation Generation(RAG)应用。

[帮助文档] 实现应用Pod与缓存数据之间的亲和性调度

通过Fluid提供的数据缓存亲和性调度优化能力,您可以设置应用Pod上的亲和性配置,让应用Pod优先访问同节点、同可用区节点或同地域节点的缓存数据,从而提高应用Pod访问数据的效率。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"cardStyle":"productCardStyle","productCode":"polardb","productCardInfo":{"productTitle":"云原生数据库 PolarDB PostgreSQL 版","productDescription":"阿里云自研数据库 PolarDB PostgreSQL,100%兼容 PostgreSQL,高度兼容 Oracle。为用户提供快速弹性、高性能、海量存储、安全可靠的数据库服务,同时支持阿里云自研 Ganos 多维多模时空信息引擎及开源 PostGIS 地理信息引擎。","productContentLink":"https://www.aliyun.com/product/apsaradb/polardbpg","isDisplayProductIcon":true,"productButton1":{"productButtonText":"了解详情","productButtonLink":"https://www.aliyun.com/product/apsaradb/polardbpg"},"productButton2":{"productButtonText":"管理控制台","productButtonLink":"https://polardb.console.aliyun.com/cn-hangzhou/clusters?spm=5176.28041490.J_5253785160.4.340b5820H6ZQUA"},"productButton3":{"productButtonText":"在线咨询","productButtonLink":"https://www.aliyun.com/core/online-consult?spm=5176.8789780.7y9jhqsfz.115.47ea55caeL2Mfu&from=OVtXEBmlH8"},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"最新活动","productPromotionInfoFirstText":"新用户3个月免费试用","productPromotionInfoFirstLink":"https://free.aliyun.com/?searchKey=PolarDB%20PostgreSQL","productPromotionInfoSecondText":"3月采购季限时优惠","productPromotionInfoSecondLink":"https://www.aliyun.com/activity/2024purchase/database"},{"$id":"1","productPromotionGroupingTitle":"快速入门","productPromotionInfoFirstText":"产品介绍","productPromotionInfoFirstLink":"https://help.aliyun.com/product/172538.html","productPromotionInfoSecondText":"快速入门","productPromotionInfoSecondLink":"https://help.aliyun.com/document_detail/139507.html"},{"$id":"2","productPromotionGroupingTitle":"最佳实践","productPromotionInfoFirstText":"AIGC 构建企业专属 chatbot","productPromotionInfoFirstLink":"https://help.aliyun.com/zh/polardb/polardb-for-postgresql/build-enterprise-specific-chatbot-based-on-polardb-postgresql-and-llm?spm=a2c4g.11186623.0.0.5ca81ad5VNjj3e","productPromotionInfoSecondText":"","productPromotionInfoSecondLink":""},{"$id":"3","productPromotionGroupingTitle":"产品推荐","productPromotionInfoFirstText":"PolarDB MySQL 版","productPromotionInfoFirstLink":"https://www.aliyun.com/product/apsaradb/polardbm","productPromotionInfoSecondText":"PolarDB 分布式版","productPromotionInfoSecondLink":"https://www.aliyun.com/product/apsaradb/polardbx"}]},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock"}}

社区圈子

阿里云云原生
阿里云云原生
关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践
9163+人已加入
加入
相关电子书
更多
从技术到架构,云原生全面加速应用现代化
为创新提速,打造智算时代的云原生应用平台
开源混部系统Koordinator,助力云原生应用性能提升
立即下载 立即下载 立即下载