[帮助文档] 在ACK集群上通过容器化部署并运行Slurm
容器服务 Kubernetes 版 ACK（Container Service for Kubernetes）通过提供Slurm on Kubernetes解决方案及ack-slurm-operator应用组件，使得您能够在阿里云的ACK集群上便捷、高效地部署和管理Slurm（Simple Linu...
[帮助文档] 基于KServe为服务配置弹性扩缩容策略
在部署与管理KServe模型服务过程中，需应对模型推理服务面临的高度动态负载波动。KServe通过集成Kubernetes原生的HPA（Horizontal Pod Autoscaler）技术及扩缩容控制器，实现了根据CPU利用率、内存占用情况、GPU利用率以及自定义性能指标，自动灵活地调整模型服务...
[帮助文档] 使用Arena进行模型微调和模型管理
本文以大语言模型Qwen-7B-Chat为例，并结合Arena工具，演示如何在提交模型微调作业的同时，对模型微调作业所产生的模型进行管理。
[帮助文档] 什么是KServe
KServe是一个开源的云原生模型服务平台，旨在简化在Kubernetes上部署和运行机器学习模型的过程，支持多种机器学习框架、具备弹性扩容能力。KServe通过定义简单的YAML文件，提供声明式的API来部署模型，使得配置和管理模型服务变得更加容易。
[帮助文档] 部署vLLM推理应用
vLLM（Vectorized Large Language Model）是一个高性能的大型语言模型推理库，支持多种模型格式和后端加速，适用于大规模语言模型的推理服务部署。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例，演示如何部署一个vLLM推理服务。
阿里云 ACK 云原生 AI 套件中的分布式弹性训练实践
作者：霍智鑫众所周知，随着时间的推移，算力成为了 AI 行业演进一个不可或缺的因素。在数据量日益庞大、模型体量不断增加的今天，企业对分布式算力和模型训练效率的需求成为了首要的任务。如何更好的、更高效率的以及更具性价比的利用算力，使用更低的成本来训练不断的迭代 AI 模型，变成了迫切需要解决的问题。而...
《开发者评测》之 ACK 云原生 AI 套件评测获奖名单
【最优奖获奖名单】礼品：小度智能屏X9 + 开源项目定制书包 + 优质评测证书 + 社区首页展示获奖链接博主昵称https://developer.aliyun.com/note/256997609nb@plus【潜力奖获奖名单】礼品：绿联快充头 +...
ACK云原生AI套件初评
产品定义云原生 AI 套件通过多个可组装、可扩展、可定制的组件来提供云原生 AI 能力。以 Kubernetes 容器服务为底座，向下封装对各类异构资源的统一管理，向上提供标准 Kubernetes 集群环境和 ...
ACK 云原生 AI 套件：云原生 AI 工程化落地最优路径
作者：胡玉瑜(稚柳)前言在过去几年中，人工智能技术取得了突飞猛进的发展，涵盖了机器学习、深度学习和神经网络等关键技术的重大突破，这使得人工智能在各个领域都得到广泛应用，对各行各业产生了深远的影响。特别值得一提的是，近年来，ChatGPT 的快速发展，使得人工智能技术在自然语言处理和对话...
阿里云容器服务ACK云原生AI套件测评
一、背景介绍随着人工智能（AI）技术的快速发展，越来越多的企业开始在其业务中引入AI能力，以提高运营效率、优化用户体验，以及创造新的商业价值。像我们这种小型企业也不例外，希望通过集成先进的AI技术来提升业务运营的智能化水平。在这样的背景下，阿里云容器服务ACK推出了云原生AI套件，它能...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
社区圈子
最佳实践
