[帮助文档] 在ACK集群上通过容器化部署并运行Slurm

容器服务 Kubernetes 版 ACK(Container Service for Kubernetes)通过提供Slurm on Kubernetes解决方案及ack-slurm-operator应用组件,使得您能够在阿里云的ACK集群上便捷、高效地部署和管理Slurm(Simple Linu...

[帮助文档] 基于KServe为服务配置弹性扩缩容策略

在部署与管理KServe模型服务过程中,需应对模型推理服务面临的高度动态负载波动。KServe通过集成Kubernetes原生的HPA(Horizontal Pod Autoscaler)技术及扩缩容控制器,实现了根据CPU利用率、内存占用情况、GPU利用率以及自定义性能指标,自动灵活地调整模型服务...

容器应用的高弹性架构

9 课时 |
31 人已学 |
免费

容器应用更新与灰度发布

9 课时 |
47 人已学 |
免费

Serverless容器入门和实践案例

1 课时 |
41 人已学 |
免费
开发者课程背景图

[帮助文档] 使用Arena进行模型微调和模型管理

本文以大语言模型Qwen-7B-Chat为例,并结合Arena工具,演示如何在提交模型微调作业的同时,对模型微调作业所产生的模型进行管理。

[帮助文档] 什么是KServe

KServe是一个开源的云原生模型服务平台,旨在简化在Kubernetes上部署和运行机器学习模型的过程,支持多种机器学习框架、具备弹性扩容能力。KServe通过定义简单的YAML文件,提供声明式的API来部署模型,使得配置和管理模型服务变得更加容易。

[帮助文档] 部署vLLM推理应用

vLLM(Vectorized Large Language Model)是一个高性能的大型语言模型推理库,支持多种模型格式和后端加速,适用于大规模语言模型的推理服务部署。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例,演示如何部署一个vLLM推理服务。

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(1)

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(1)

AMD SEV机密容器本文主要为您介绍如何基于AMD安全加密虚拟化功能SEV(AMD Secure Encrypted Virtualization)技术,通过远程证明启动一个租户的加密容器镜像。前提条件1. 安装Anolis 8.6 操作系统请在支持AMD CPU的硬件设备上,参考Anolis 8...

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(2)

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(1) https://developer.aliyun.com/article/1231034?groupCode=aliyun_linux步骤一:部署测试集群本步骤为您提供快速部署单节点测试集群的步骤。您可以根据您的需求...

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(3)

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(2) https://developer.aliyun.com/article/1231030?groupCode=aliyun_linux步骤二:安装Confifidential computing OperatorCo...

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(4)

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(3) https://developer.aliyun.com/article/1231028?groupCode=aliyun_linux步骤四:运行workload示例一:运行一个未加密的容器镜像为了验证主机上不存在容...

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(5)

《云原生机密计算最佳实践白皮书》——06运行时底座——AMD SEV机密容器(4) https://developer.aliyun.com/article/1231026?groupCode=aliyun_linux基于online KBC运行机密容器• 请下载支持online sev kbc 的...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里云容器服务 ACK
阿里云容器服务 ACK
云端最佳容器应用运行环境,安全、稳定、极致弹性
234772+人已加入
加入
相关电子书
更多
微服务×容器Meetup:云原生架构与应用专场PPT合辑
云原生架构容器&微服务优秀案例集
阿里云总监课第五期第三节:从容器到云原生–极致弹性
立即下载 立即下载 立即下载