容器服务Kubernetes版 GPU 的相关内容

[帮助文档] 基于GPU指标实现弹性伸缩

Kubernetes提供了Custom Metrics机制，该机制可以对接阿里云Prometheus监控来采集GPU指标。本文介绍如何部署阿里云Prometheus监控，并结合示例说明如何通过阿里云Prometheus监控观测GPU指标，实现容器的弹性伸缩。

[帮助文档] GPU设备插件重启和GPU设备隔离

GPU设备插件（GPU Device-Plugin）是Kubernetes集群中用于管理每个节点的GPU的组件，它使得Kubernetes能够更方便、高效地利用GPU资源。本文介绍在独占GPU调度场景下，如何对节点的GPU Device-Plugin进行重启和GPU设备隔离等操作，以及如何查看和更新...

使用ASK容器化部署大语言模型FastChat

1 课时 |

16 人已学 |

加入学习

如何在 ACK 中使用 MSE Ingress

1 课时 |

114 人已学 |

加入学习

从概念、部署到优化，Kubernetes Ingress 网关的落地实践

1 课时 |

188 人已学 |

加入学习

[帮助文档] 利用DCGM实现GPU的性能分析

NVIDIA GPU上存在一些硬件计数器，这些计数器可以用来收集一些设备级别的性能指标，例如GPU利用率、内存使用情况等。借助NVIDIA提供的NVML（NVIDIA Management Library）库或DCGM（Data Center GPU Manager）工具能够查询这些硬件层提供的指标...

云原生 AI 套件租用阿里云 ecs gpu ，放到阿里云ack就不行了，提示驱动没安装，为什么？

云原生 AI 套件租用阿里云 ecs gpu ，docker 能跑在 nvidia -gpu上跑，放到阿里云 ack 就不行了，提示驱动没安装，这一般是什么原因？

阿里云ACK助力GPU成本优化，实现灵活管理

阿里云ACK助力GPU成本优化，实现灵活管理摘要：本文将介绍如何在阿里云容器服务ACK中，利用cGPU技术，共享GPU算力，提高GPU利用率，降低TCO。视频处理、科学计算等应用场景中，GPU云服务器是重要的计算服务。然而，对于GPU利用率不高的应用，如推理的应用...

云原生 AI 套件中，阿里云的ack服务，部署的代码想要检测宿主机是否有GPU资源，这个有方案么？

[帮助文档] 如何在ACK专有版集群中使用共享GPU调度

如您需要在ACK专有版集群中使用共享GPU调度基础版，请参见以下文档。ACK专有版集群基础版迁移专业版安装共享GPU调度组件运行共享GPU调度组件使用共享GPU调度实现仅共享不隔离能力使用共享GPU调度实现cGPU算力分配策略解决专业版集群升级共享GPU调度失效问题

[帮助文档] 如何配置共享GPU调度仅共享不隔离策略

在某些场景下，您可能不需要GPU隔离模块参与共享GPU调度。例如，有些业务应用本身提供显存限制能力，类似于Java应用启动时，可以通过选项指定该应用能够使用的最大内存值。这种情况下，使用GPU隔离模块隔离业务显存反而会有问题。对此，共享GPU调度支持某些节点不安装GPU隔离模块的选项。本文介绍如何配...

基于ACK One注册集群实现IDC中K8s集群以Serverless方式使用云上CPU/GPU资源

在前一篇文章《基于ACK One注册集群实现IDC中K8s集群添加云上CPU/GPU节点》中，我们介绍了如何为IDC中K8s集群添加云上节点，应对业务流量的增长，通过多级弹性调度，灵活使用云上资源，并通过自动弹性伸缩，提高使用率，降低云上成本。这种直接添加节点的方式，适合需要自定义配置节...

基于ACK One注册集群实现IDC中K8s集群添加云上CPU/GPU节点

在前一篇文章《基于ACK One注册集群轻松实现云上云下K8s集群统一管理》中，我们注重介绍了注册集群的应用场景，架构实现，安全加固，以及在他云K8s集群和IDC自建K8s集群中使用阿里云容器服务ACK的强大可观测性能力，实现云上云下K8s集群的统一运维管理。本文会重点介绍ACK ...

共有32条

< 1 2 3 4 >

跳转至： GO

更新时间 2024-04-29 21:20:06

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"img","link":"https://img.alicdn.com/imgextra/i2/O1CN017FgGOF1GeN2C8hjWx_!!6000000000647-1-tps-3840-740.gif","icon":"","iconImg":"https://img.alicdn.com/imgextra/i4/O1CN01HTbnvZ1zYYlhbjXKj_!!6000000006726-0-tps-200-200.jpg","contentLink":"https://www.aliyun.com/product/bailian","title":"大模型服务平台百炼","des":"面向企业客户、个人开发者和生态伙伴，基于多种大模型的一站式大模型开发平台。提供完整的模型训练工具和开发套件，预置丰富的应用插件，提供便捷的集成方式，结合企业专属数据和API，帮企业快速完成大模型应用构建","link1":"https://www.aliyun.com/product/bailian","btn1":"产品详情页","link2":"https://bailian.console.aliyun.com/","btn2":"产品控制台","btn3":"","link3":"","infoGroup":[{"infoName":"产品入门","infoContent":{"firstContentName":"产品文档","lastContentName":"快速入门","firstContentLink":"https://help.aliyun.com/product/2400256.html","lastContentLink":"https://help.aliyun.com/document_detail/2579563.html"}},{"infoName":"相关产品","infoContent":{"firstContentName":"智能对话机器人","lastContentName":"","lastContentLink":"","firstContentLink":"https://www.aliyun.com/product/beebot"}},{"infoName":"产品优势","infoContent":{"firstContentName":"大模型能力丰富","firstContentLink":"https://help.aliyun.com/document_detail/2579562.html","lastContentName":"模型应用构建强大","lastContentLink":"https://help.aliyun.com/document_detail/2579562.html"}},{"infoName":"产品价格","infoContent":{"firstContentLink":"https://help.aliyun.com/document_detail/2586397.html","lastContentLink":"https://help.aliyun.com/document_detail/2586397.html","firstContentName":"多种付费方式灵活选择","lastContentName":"价格查询"}}]}],"card":[],"search":[],"infoCard":[{"bannerUrl":"https://img.alicdn.com/tfs/TB1Xf81a3gP7K4jSZFqXXamhVXa-5169-974.jpg","bannerTitle":"mPaaS 小程序","bannerContent":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。<br>不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","liveButtonName":"查看详情","liveButtonLink":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","contentTitle":"提供即开即用的端上体验","homePageLink":"https://common-buy.aliyun.com/?spm=5176.14673561.J_8751524360.2.56702709BussF3&commodityCode=mpaas_beta#/open","homePageName":"免费试用","linkGroup":[{"linkContent":"发布包大小极致优化，节省流量和存储。"},{"linkContent":"服务迭代不再受发版限制，快速发布，快速迭代。"},{"linkContent":"业务开发效率更加优秀，一次开发，多端运行。"}]}],"title":{"mainTitle":"mPaaS","subtitle":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","linkUrl":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","btnText":"查看详情"},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"","textColor":"dark"},"dataList":[{"summary":"啦啦啦","author":"wuwu","linksUrl":"#"}],"sceneCard":[],"txt":[]}

{"$env":{"JSON":{}},"$page":{"env":"production"},"$context":{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"ifIcon":"img","link":"https://img.alicdn.com/imgextra/i2/O1CN017FgGOF1GeN2C8hjWx_!!6000000000647-1-tps-3840-740.gif","icon":"","iconImg":"https://img.alicdn.com/imgextra/i4/O1CN01HTbnvZ1zYYlhbjXKj_!!6000000006726-0-tps-200-200.jpg","contentLink":"https://www.aliyun.com/product/bailian","title":"大模型服务平台百炼","des":"面向企业客户、个人开发者和生态伙伴，基于多种大模型的一站式大模型开发平台。提供完整的模型训练工具和开发套件，预置丰富的应用插件，提供便捷的集成方式，结合企业专属数据和API，帮企业快速完成大模型应用构建","link1":"https://www.aliyun.com/product/bailian","btn1":"产品详情页","link2":"https://bailian.console.aliyun.com/","btn2":"产品控制台","btn3":"","link3":"","infoGroup":[{"infoName":"产品入门","infoContent":{"firstContentName":"产品文档","lastContentName":"快速入门","firstContentLink":"https://help.aliyun.com/product/2400256.html","lastContentLink":"https://help.aliyun.com/document_detail/2579563.html"}},{"infoName":"相关产品","infoContent":{"firstContentName":"智能对话机器人","lastContentName":"","lastContentLink":"","firstContentLink":"https://www.aliyun.com/product/beebot"}},{"infoName":"产品优势","infoContent":{"firstContentName":"大模型能力丰富","firstContentLink":"https://help.aliyun.com/document_detail/2579562.html","lastContentName":"模型应用构建强大","lastContentLink":"https://help.aliyun.com/document_detail/2579562.html"}},{"infoName":"产品价格","infoContent":{"firstContentLink":"https://help.aliyun.com/document_detail/2586397.html","lastContentLink":"https://help.aliyun.com/document_detail/2586397.html","firstContentName":"多种付费方式灵活选择","lastContentName":"价格查询"}}]}],"card":[],"search":[],"infoCard":[{"bannerUrl":"https://img.alicdn.com/tfs/TB1Xf81a3gP7K4jSZFqXXamhVXa-5169-974.jpg","bannerTitle":"mPaaS 小程序","bannerContent":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。<br>不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","liveButtonName":"查看详情","liveButtonLink":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","contentTitle":"提供即开即用的端上体验","homePageLink":"https://common-buy.aliyun.com/?spm=5176.14673561.J_8751524360.2.56702709BussF3&commodityCode=mpaas_beta#/open","homePageName":"免费试用","linkGroup":[{"linkContent":"发布包大小极致优化，节省流量和存储。"},{"linkContent":"服务迭代不再受发版限制，快速发布，快速迭代。"},{"linkContent":"业务开发效率更加优秀，一次开发，多端运行。"}]}],"title":{"mainTitle":"mPaaS","subtitle":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","linkUrl":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","btnText":"查看详情"},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"","textColor":"dark"},"dataList":[{"summary":"啦啦啦","author":"wuwu","linksUrl":"#"}],"sceneCard":[],"txt":[]}}