AI 推理

  1. 阿里云 >
  2. 全部产品 >
  3. 函数计算 FC >
  4. AI 推理

应用场景

AI 推理
Serverless 助力人工智能,做专注于算法的 AI 工程师
能够提供
AI 工程师更专注算法,免去繁琐的运维困扰
人工智能领域开发者可以更专注于算法模型的训练与业务逻辑的开发,将计算集群的运维交予函数计算处理,提高工作效率。
迅速调动上万核计算资源,计算力不再是瓶颈
函数计算储备充足的计算资源,根据请求量毫秒级弹性扩容,可以快速调动上万核的计算资源,平滑支撑业务洪峰。
多版本功能轻松实现 A/B 测试,降低模型上线风险
函数计算提供多版本功能,支持模型的灰度发布,轻松实现算法 A/B 测试,降低模型上线风险。
一键安装第三方库,本地调试如丝般顺滑
工具链全面升级,大幅提升 TensorFlow,PyTorch 等第三方库的安装体验。一键部署应用到云端,真正实现 “一行命令,一触即发”。
推荐搭配使用
点击查看完整内容
AI 推理 相关文章
AI推理服务概述
借助ACK云原生AI套件提供的Arena命令行工具、AI负载调度、GPU管理、资源弹性伸缩等基础能力,您可以在Kubernetes集群中简便、高效地把训练好的模型部署为AI推理服务。阿里云容器服务ACK支持为推理服务提供弹性伸缩、GPU共享调度、性能监控...
ACK集群实现基于弹性计算的AI推理
本文介绍基于弹性计算的AI推理的场景描述、解决问题、架构图及操作参考链接。场景描述 本方案适用于使用GPU进行AI在线推理的场景。在推理之前,模型已经训练完成。比如,刷脸支付的时候,就是推理的一个过程。另外,图像分类、目标检测、...
基于函数计算和TensorFlow的Serverless AI推理
您可以通过Serverless Devs开发工具快速将AI推理类的应用部署到 函数计算 控制台,从而实现按需、自动扩展的AI模型推理,无需管理底层基础设施,节省成本并快速迭代。背景信息 本文示例实现的能力是识别上传的照片内的动物是猫还是狗。关于...
AI模型推理结果写回数据库
该表既包含了数据,又包含了AI推理生成结果。PolarDB 对图2中的数据库表进行充分利用,可以帮助用户来分析自己的航班有没有可能延误,也可以帮助航空公司来改进相关航班信息,提升它的准点率。图1 原表 图2 AAT 在关系型数据库中引入并使用...
使用FastGPU加速AI训练/推理
本文通过使用FastGPU工具一键构建阿里云上的AI训练/推理环境,并使用AIACC加速工具进行模型的训练或推理加速。使用FastGPU可快速搭建环境,使用AIACC可加快模型的训练/推理速度,两者协同使用,可有效提高AI模型的训练/推理效率和性能。...
ASM集成KServe实现云原生AI模型推理服务
690000,23.00 Bytes Out[total,mean]2460000,82.00 Success[ratio]100.00%Status Codes[code:count]200:30000 Error Set:相关文档 如果您需要加速云原生环境中数据密集型应用(例如大数据应用、AI应用等)的模型加载过程,请参见 ASM结合...
使用EAIS推理TensorFlow模型
EAIS实例成功绑定至ECS实例后,您需要远程登录该ECS实例,使用EAIS实例进行AI推理。本文为您介绍使用EAIS推理TensorFlow模型的具体操作。前提条件 已将EAIS实例绑定至ECS实例上。具体操作,请参见 绑定实例。已将您需要推理的TensorFlow...
使用EAIS推理PyTorch模型(C++)
EAIS实例成功绑定至ECS实例后,您需要远程登录该ECS实例,然后使用EAIS实例进行AI推理。本文为您介绍使用C++程序通过EAIS推理PyTorch模型的具体操作。前提条件 已将EAIS实例绑定至ECS实例上。具体操作,请参见 绑定ECS实例。已绑定的ECS...
使用EAIS推理PyTorch模型(Python)
EAIS实例成功绑定至ECS实例后,您需要远程登录该ECS实例,然后使用EAIS实例进行AI推理。本文为您介绍使用Python脚本通过EAIS推理PyTorch模型的具体操作。前提条件 已将EAIS实例绑定至ECS实例上。具体操作,请参见 绑定实例。已绑定的ECS...
推理加速(Blade)概述
PAI-Blade结合了多种优化技术,对训练完成的模型进行优化,从而达到最优的推理性能。同时,PAI-Blade提供的C++ SDK可以部署优化后的模型推理,帮助您快速的将模型应用于生产。本文介绍PAI-Blade的工作原理和使用流程。背景信息 PAI-Blade是...

热门推荐

视频直播 大数据计算服务 MaxCompute 国内短信套餐包 开发者问答 阿里云建站 新零售智能客服 万网 小程序开发制作 视频内容分析 视频集锦 代理记账服务 阿里云AIoT 阿里云科技驱动中小企业数字化
其他推荐内容