如何基于 ACK Serverless 快速部署 AI 推理服务

如何基于 ACK Serverless 快速部署 AI 推理服务

作者:元毅​随着 AI 浪潮的到来,各种 AI 应用层出不穷,众所周知 AI 应用对 GPU 资源强烈依赖,但 GPU 很昂贵,如何降低 GPU 资源使用成本成为用户首要问题。而 AI 与 Serverless 技术结合,完全可以达到按需使用资源,降低资源成本的目的。那么在云原生场景下,...

基于ACK One注册集群实现IDC中K8s集群以Serverless方式使用云上CPU/GPU资源

基于ACK One注册集群实现IDC中K8s集群以Serverless方式使用云上CPU/GPU资源

在前一篇文章《基于ACK One注册集群实现IDC中K8s集群添加云上CPU/GPU节点》中,我们介绍了如何为IDC中K8s集群添加云上节点,应对业务流量的增长,通过多级弹性调度,灵活使用云上资源,并通过自动弹性伸缩,提高使用率,降低云上成本。 这种直接添加节点的方式,适合需要自定义配置节...

使用ASK容器化部署大语言模型FastChat

1 课时 |
16 人已学 |
免费

如何在 ACK 中使用 MSE Ingress

1 课时 |
114 人已学 |
免费

Serverless 容器从入门到精通: - Serverless Kubernetes

7 课时 |
1145 人已学 |
免费
开发者课程背景图
阿里云容器服务 Serverless 版(ACK Serverless)全新升级

阿里云容器服务 Serverless 版(ACK Serverless)全新升级

7 月 31 日,阿里云智能云原生应用平台负责人丁宇宣布,容器服务 Serverless 版 ACK Serverless 全新升级。ACK Serverless:免运维、极致弹性的 K8s 全托管服务阿里云在 2018 年发布了首个 Serverless 容器服务 ASK,其本质是将容器的运行时和...

我使用edas, 我新创建 K8S 集群,选 托管k8s 还是用 Serverless K8s ?

我使用edas, 我新创建 K8S 集群,选 托管k8s 还是用 Serverless K8s 集群 ,有没有好的建议呀?

EDAS中Serverless K8s集群 进行部署的, 但是没有 这个免密组件,为什么?

EDAS中Serverless K8s集群 进行部署的, 但是没有 这个免密组件: aliyun-acr-credential-helper ,为什么?

我司用 edas K8S /SERVERLESS k8S 有相关的资料吗?

"问题1:我司用 edas K8S /SERVERLESS k8S 有相关的资料不,现在碰到用云效进行做镜像,部署碰到一个问题。Dockerfile 文件内容如上所示,这样子是否规范可行?我是用云效 流水线来搞的。问题2:因为我用云效那边进行操作的,做了镜像,然后上传到镜像容器中。已经有一个镜像,里...

本地 IDC 中的 K8s 集群如何以 Serverless 方式使用云上计算资源

本地 IDC 中的 K8s 集群如何以 Serverless 方式使用云上计算资源

作者:庄宇在前一篇文章《应对突发流量,如何快速为自建 K8s 添加云上弹性能力》中,我们介绍了如何为 IDC 中 K8s 集群添加云上节点,应对业务流量的增长,通过多级弹性调度,灵活使用云上资源,并通过自动弹性伸缩,提高使用率,降低云上成本。这种直接添加节点的方式...

请问在Serverless Kubernetes中,ASK事件中的告警需要处理吗?

请问在Serverless Kubernetes中,ASK事件中的告警需要处理吗?

有没有k8s 迁移到Serverless应用引擎的案例?客户案例

有没有k8s 迁移到Serverless应用引擎的案例?客户案例

Serverless应用引擎可以完全替代k8s吗?

Serverless应用引擎可以完全替代k8s吗?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里云容器服务 ACK
阿里云容器服务 ACK
云端最佳容器应用运行环境,安全、稳定、极致弹性
234772+人已加入
加入
相关电子书
更多
K8s 原生 Serverless 实践:ASK 与 Kna
基于 RocketMQ+ Knative 驱动云原生 Ser
Play with Serverless Kubernetes
立即下载 立即下载 立即下载
相关镜像