[帮助文档] 调用RebalanceDBInstance实例部署平衡
对AnalyticDB PostgreSQL版实例进行部署平衡。
[帮助文档] 部署vLLM推理应用
vLLM（Vectorized Large Language Model）是一个高性能的大型语言模型推理库，支持多种模型格式和后端加速，适用于大规模语言模型的推理服务部署。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例，演示如何部署一个vLLM推理服务。
[帮助文档] 在ACK集群中部署和管理ack-kserve组件
KServe是一个开源项目，旨在简化在Kubernetes上部署和运行机器学习模型的过程，支持多种机器学习框架、具备弹性扩容能力。KServe通过定义简单的YAML文件，提供声明式的API来部署模型，使得配置和管理模型服务变得更加容易。本文介绍如何在ACK集群中部署和管理ack-kserve组件以及...
探索云原生架构的未来：如何优化资源管理和服务部署
引言：在数字化时代，企业需要快速响应市场变化，并持续交付高质量的软件产品。为此，云原生架构应运而生，它强调使用容器、微服务和持续交付等技术来构建和运行应用。这种架构使得应用能够在公有云、私有云和混合云环境中灵活部署和扩展。 一、云原生核心概念云原生涉及多个技术领域，包括容器化、微服务架构、DevOp...
[帮助文档] 在ACK集群部署多租户任务调度管理
在ACK集群中，企业可以通过AI套件中的任务管理工具Arena、队列调度管理系统Kube Queue、配额管理工具ElasticQuotaTree以及Prometheus监控打造企业级任务调度系统。本文将从实际案例出发自底而上地介绍如何基于ACK集群构建一个任务调度系统。
[帮助文档] 如何部署KServe模型推理服务
KServe（原KFServing）是云原生环境的一个模型服务器和推理引擎，支持自动扩缩容、缩容至零、金丝雀部署等能力。本文介绍如何基于阿里云服务网格ASM和Arena部署KServe模型推理服务。
云原生 AI 套件中，阿里云的ack服务，部署的代码想要检测宿主机是否有GPU资源，这个有方案么？
云原生 AI 套件中，阿里云的ack服务，部署的代码想要检测宿主机是否有GPU资源，这个有方案么？
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
社区圈子
最佳实践
