[帮助文档] 基于Nginx Ingress Controller网关实现推理服务的灰度发布
在Raw Deployment部署模式下，应用的灰度发布需要基于网关实现。本文以Nginx Ingress Controller网关为例，介绍如何实现推理服务的灰度发布，并最终平稳地完成从v1到v2版本推理服务的升级。
[帮助文档] 什么是KServe
KServe是一个开源的云原生模型服务平台，旨在简化在Kubernetes上部署和运行机器学习模型的过程，支持多种机器学习框架、具备弹性扩容能力。KServe通过定义简单的YAML文件，提供声明式的API来部署模型，使得配置和管理模型服务变得更加容易。
[帮助文档] 基于KServe为服务配置弹性扩缩容策略
在部署与管理KServe模型服务过程中，需应对模型推理服务面临的高度动态负载波动。KServe通过集成Kubernetes原生的HPA（Horizontal Pod Autoscaler）技术及扩缩容控制器，实现了根据CPU利用率、内存占用情况、GPU利用率以及自定义性能指标，自动灵活地调整模型服务...
[帮助文档] 部署vLLM推理应用
vLLM（Vectorized Large Language Model）是一个高性能的大型语言模型推理库，支持多种模型格式和后端加速，适用于大规模语言模型的推理服务部署。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例，演示如何部署一个vLLM推理服务。
[帮助文档] 基于KServe使用Fluid实现模型加速
随着技术的发展，AI应用的模型数据越来越大，但是通过存储服务（如OSS、NAS等）拉取这些大文件时可能会出现长时间的延迟和冷启动问题。您可以利用Fluid显著提升模型加载速度，从而优化推理服务的性能，特别是对于基于KServe的推理服务而言。本文以Qwen-7B-Chat-Int8模型、GPU类型为...
可靠、稳定、安全，龙蜥云原生容器镜像正式发布！
文/云原生 SIG01 背景随着云原生的蓬勃发展，越来越多的企业在自己的生产或者测试环境使用云原生技术，而容器镜像正是云原生技术中应用的实际运行环境。一个好的容器运行环境即容器镜像会真正关系到应用的体验、演进和维护。那么选择一个好的容器镜像需要考虑哪些方面呢？具体如下：1. 长期的支持与维护：容器镜...
今天 2 点：关于龙蜥社区云原生 SIG 及安全容器 runD 介绍 | 第 24 期
「龙蜥大讲堂」第 24 期来啦！本期 SIG 双周会邀请了龙蜥社区云原生 SIG 来分享《龙蜥云原生 SIG 目标及规划》和《runD——Kata 3.0 原型介绍》，快来扫码入群，一起来了解云原生 SIG 的发展规划！会议主题及内容介绍本期主题：龙蜥云原生 SIG 目标及规划、runD—...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
产品推荐
社区圈子
最佳实践
容器云原生相关内容
- 构建云原生容器
- 云原生学习容器
- 云原生ack容器
- 云原生容器工程师
- 云原生容器安全
- 云原生容器部署
- 云原生kubernetes比个容器部署wordpress
- 云原生容器最佳实践
- 云原生容器clouder认证企业级应用
- 云原生容器课程
- 云原生容器场景
- 云原生容器clouder认证应用集群管理
- 云原生容器集群管理课时
- 云原生容器clouder认证集群管理课时
- 云原生容器clouder认证应用集群
- 云原生容器存储
- 云原生构建容器
- 云原生容器安装
- 云原生实践容器
- 云原生容器资源管理
- 云原生容器编排minikube
- 云原生容器编排
- 云原生机密计算最佳实践白皮书容器
- 云原生机密容器
- 云原生pre-attestation机密容器
- 云原生签名容器
- 云原生amd容器
- 云原生电商容器
- 云原生amd机密容器
- 云原生物流容器
- 云原生容器运行
- 云原生项目容器
- 云原生容器拓展
- 云原生zone容器
- 企业级云原生白皮书项目实战容器部署
- 云原生容器架构设计
- 云原生容器排查
- 云原生容器交付
- 云原生容器数据卷
- 云原生asm容器
- 云原生容器方案
- 云原生编程容器赛题
- 云原生编程容器
- 云原生容器概念
- 容器场景云原生
- 运维云原生kubernetes课程容器
- 企业级云原生容器监控
- 云原生实战容器
容器更多云原生相关
- longhorn云原生容器分布式存储
- longhorn企业级云原生容器分布式存储
- 云原生容器界面特征
- 云原生容器界面典型特征
- 容器云原生基础设施
- 云原生容器安全风险
- 云原生容器界面典型特征怎么理解
- 企业级云原生容器存储
- 容器云计算云原生
- 云原生容器无处不在
- 云原生容器工作负载
- 云原生容器解决方案
- 云原生容器功能
- 云原生企业级容器
- 云原生周报容器
- 云原生kubernets课程容器
- 云原生容器开发者社区
- kubecon容器云原生
- 云原生必备知识容器
- 云原生cnfs容器
- 云原生容器最终归宿
- 容器云原生企业
- longhorn企业级云原生容器部署
- 云原生容器特征
- 容器云原生解决方案
- longhorn企业级云原生容器存储