基于函数计算FC实现大语言模型部署
基于函数计算FC实现大语言模型部署
在现代AI应用中, Qwen /chatglm2-6b 和Stable Diffusion等模型因其强大的功能而受到关注。然而,这些模型对计算资源的高需求和复杂的运维管理成为部署时的挑战。基于函数计算FC的无服务器计算模式为这类模型的部署提供了全新的解决方案。用户只需关注模型的部署和调用逻辑,而无需关心底层的服务器配置、资源分配和扩展性等问题。函数计算FC能够自动处理函数的执行环境,包括冷启动、弹性伸缩等,确保模型能够在大规模的请求下稳定运行。
魔搭社区(ModelScope):由阿里巴巴集团旗下的达摩院(Damo Academy)开发 并运营的一个开源模型服务平台。其核心目标是打造一个面向未来的、开放的“模型即服务”(MaaS)生态系统,为全球泛人工智能(AI)开发者提供一站 式、灵活、易用且成本效益高的模型服务解决方案。模型服务灵积(DashScope):灵积模型服务建立在...
来自: 最佳实践 相关产品:函数计算
通过 WAF 防护 Web 应用
随着网络技术的不断发展,您的web应用如果没有流量入口的防护,会面临恶意篡改、SQL注入、XSS、CC攻击等风险。本方案推荐您使用Web应用防火墙(WAF)开启应用防护,避免网站服务器被恶意入侵导致性能异常等问题,保障网站的业务安全和数据安全。同时,为您节约开发成本,满足行业合规要求。
相关产品云服务器 ECSWeb应用防火墙 WAF在线咨询方案优势深厚积累建立在阿里巴巴集团10年以上的网络安全经验上,多年护航天猫、淘宝双十一、保护阿里核心业务,积累大量攻防数据与实战经验。防护功能强大拥有丰富的IP数据库,并集成大数据分析能力,每天约抵御数亿次网络攻击。通过防护集群的作用,避免单点故障和冗余。...
来自: 解决方案
Alibaba Cloud Linux
Alibaba Cloud Linux 是阿里云打造的 Linux 服务器操作系统发行版。为云上应用程序提供 Linux 社区的增强功能,同时通过引入更完善的发行版质量体系,确保产品品质,提供云上最佳用户体验。
相关产品云服务器 ECS在线咨询弹性扩容方案构建超快速弹性扩容集群极速启动能力基于云服务器 ECS+Alibaba Cloud Linux qboot 镜像的实例,提供单实例 11s,500 实例 P90 20s 的极速启动能力。弹性速度提升应用到弹性创建云服务器 ECS 场景中,大幅提升弹性速度。相关产品云服务器 ECS在线咨询神龙裸金属容器优化方案通过...
来自: 云产品
新版产品集合页
基于丰富的产品,将计算、存储、网络、数据库、大数据、人工智能等最新产品技术与场景深度融合,为开发者打造稳定可靠的云基础设施以及云原生的开发环境。
云服务器云服务器 ECS免费试用云服务器是一种安全可靠、弹性可伸缩的云计算服务,助您降低 IT 成本,提升运维效率。GPU 云服务器提供 GPU 算力的弹性计算服务,具有超强的计算能力,服务于深度学习、科学计算、图形可视化、视频处理等多种应用场景。弹性裸金属服务器一种可弹性伸缩的高性能计算服务,具有安全物理隔离的...
来自: 云产品
数据库 RDS MySQL 版
阿里云云数据库RDS MySQL是一种稳定可靠、可弹性伸缩的在线MySQL数据库服务, 提供了高可用、高可靠、高安全、易运维等一站式的数据库解决方案,帮助您免除MySQL运维的烦恼。
相关产品云数据库 RDS MySQL本产品数据管理 DMS数据传输服务 DTS云服务器 ECS专有网络 VPC负载均衡 SLB一键部署RDS MySQL 基础版全新升级RDS MySQL 基础版全新升级,推出超高性价比的经济规格1核1G 和1核2G,专为中小型企业量身打造,月付低至18元/月起,包年更享75折!查看详情三分钟了解云数据库 RDS MySQL一站掌握云...
来自: 云产品
美家全域潜客运营​解决方案
阿里云美家全域潜客运营​解决方案赋能品牌对线上和线下的潜在客群(根据近30天活跃消费者的特征进行放大后的人群,并剔除活跃消费者)进行远场、近场、现场、离场的全链路营销,从潜客到投放、留资、转化到留存形成消费者资产运营闭环,解决人群不精、触达方式有限、到店率低、流资成本高、到店转化率低、离店无法运营的问题。
下载零售智能变革白皮书.赋能品牌对线上和线下的潜在客群(根据近30天活跃消费者的特征进行放大后的人群,并剔除活跃消费者)进行远场...云服务器 ECS.阿里巴巴自主研发的下一代关系型分布式云原生数据库.云数据库PolarDB.集产品、技术、方法论于一体的智能大数据平台建设引擎.它能提供快速、完全托管的PB级数据仓库解决方案.
来自: 解决方案
全包式混合解决方案
全包式混合云解决方案基于阿里巴巴支撑百万级服务器云平台的先进基础设施能力和智能运维运营技术,通过标准化和产品化的建设,为政府、金融、能源、交通、大型企业等行业客户提供软硬协同的全栈能力;在阿里云数据中心内部构建合规的业务独享专区,为企业级客户构建类似公共云的全包式专属云服务。
基于阿里巴巴支撑百万级服务器云平台的先进基础设施能力和智能运维运营技术,通过标准化和产品化的建设,为政府、金融、能源、交通、大型企业等行业客户提供软硬协同的全栈能力。在阿里云数据中心内部构建合规的业务独享专区,为企业级客户构建类似公共云的全包式专属云服务.阿里云混合云>.混合云体验营>.全包式混合云解决...
来自: 解决方案
自建ELK迁移阿里云日志服务
自建ELK迁移<em>阿里云</em>日志服务
场景描述 ELK Stack(Elastic/Logstash/Kibana) 通常 被用于日志实时分析, 在开源社区中有大量 的内容和使用案例。 本文介绍如何将自建的 ELK 系统迁移到阿里云 SLS 日志服务。 解决问题 1. 自建 ELK 如何迁移到阿里云日志服务。 2. 如何使用 Logtail 采集日志。 3. 如何使用阿里云日志服务对日志进行查 询、 分析。 产品列表  阿里云日志服务(SLS)  VPN 网关  IPSec VPN  云服务器
通常自建的ELK系统在弹性、功能、成本、优化、稳定性等方面客户会遇到较多问题,本文介绍 如何将自建的ELK系统迁移到阿里云SLS日志 。应用场景 1.自建ELK系统快速迁移阿里云日志服务SLS 解决问题 1.自建ELK如何迁移到阿里云日志服务SLS 2.ES存量日志如何一键导入日志服务SLS 3.新增日志如何通过Logtail采集到日志服务...
来自: 最佳实践 | 相关产品:云服务器ECS,日志服务(SLS)
FPGA加速图片和视频转码
FPGA加速图片和视频转码
场景描述 场景1:图片转码 移动互联网早已进入读图时代,目前的图片都是 JPEG格式,尺寸太大,导致传输占用更多的网络 带宽,花费更多的传输时间并占用更多的存储空 间。JPEG图片转码为WebP/HEIF需要消耗大量的 计算能力。使用阿里云FaaS加速图片转码解决 方案将使客户TCO降低约40%。 场景2:视频转码 到2022年,82%的IP流量都将来自于视频的录 制、上传和播放。HEVC/H.265无论从画质还是码 率,都比H.264有明显的优势,但是将视频将 H.264编码为H.265将消耗巨大的算力。使用阿 里云FaaS加速视频转码将显著降低视频大小, 节省网络流量,降低成本。 解决的问题 通过FPGA云服务器进行高效图片转 码 通过FPGA云服务器进行高效视频转 码 产品列表 VPC,ECS,FPGA,OSS
文档版本:20190904 云服务器 ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 FPGA加速图片和视频转码 文档版本:20150122(发布日期)II 使用 FPGA云服务器加速图片和视频转码 文档版本信息 文档版本信息 文本信息 属性 内容 文档名称 FPGA加速图片和视频转码 文档编号 090 文档版本 V1.3 版本日期 2021-08-25 ...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,对象存储 OSS,云速搭CADT
原生
阿里云拥有丰富的云原生产品家族,全面的云原生开源贡献,大规模的云原生应用实践,以及广泛的云原生客户群体,为企业数字创新提供全方位能力支撑。
《不一样的双11技术,阿里巴巴云原生实践》.该方案支持 K8s Service/Nacos/阿里云 DNS/云服务器 ECS 固定 IP 多种服务发现能力,并支持 HTTP-Dubbo 协议转换能力,提供限流降级,以及网关到后端服务全链路的灰度能力.多层网关架构,性能损耗大.网关和后端服务管理,相互割裂.网关侧的安全防护,无法做到统一管理.流量网关、...
来自: 云产品
消息队列 RocketMQ 版
云消息队列 RocketMQ 版是基于 Apache RocketMQ 构建的分布式消息中间件,广泛用于异步解耦、削峰填谷等场景。可支撑千万级并发、万亿级数据洪峰,更稳定,更安全。
阿里巴巴双十一官方指定消息产品,支撑阿里巴巴集团所有的消息服务,历经十余年双十一万级洪峰严苛考验,创造了业内的业务消息并发以及流转纪录,服务可用性 99.95%,数据可靠性 99.99999999%.十年磨砺,稳定可靠永远第一位.立足原生基础设施,充分调动上资源池,存储计算资源支持深度弹性付费,有效提高扩缩容效率、...
来自: 云产品
混合灾备之HDR VMware虚拟机容灾
混合<em>云</em>灾备之HDR VMware虚拟机容灾
场景描述 本文为您介绍使用混合云容灾服务来备份虚拟机的 镜像,可以为云上或云下的VMware环境提供有效 的数据保护,保证数据快速、安全、高效地备份到云 上,并在需要时快速恢复备份镜像。 解决问题 1.云上和云下的VMware虚拟机容灾保护。 2.云下的VMware虚拟机环境如何在云上快速恢 复。 产品列表 1.弹性裸金属服务器 2.HDR混合云容灾服
弹性裸金属服务器 2.HDR混合云容灾 文档版本:20191204 云服务器ECS(产品名称)文档模板(手册名称)/文档版本信息 阿里云 混合云灾备之 HDRVMware虚拟机容灾实践 文档版本:20191204 2 HDRVMware虚拟机容灾【公开|阿里巴巴集团保密信息|普通商秘|核心商秘】文档版本信息 文本信息 属性 内容 文档名称 混合云灾备之...
来自: 最佳实践 | 相关产品:弹性裸金属服务器(神龙)
DDoS防护
阿里云DDoS防护服务是以阿里云覆盖全球的大流量清洗中心为基础,结合阿里巴巴自研的DDoS攻击检测和智能防护体系,向您提供可管理的DDoS防护服务,自动快速的缓解网络攻击对业务造成的延迟增加,访问受限,业务中断等影响,从而减少业务损失,提升安全防护等级,降低未知DDoS攻击风险。
DDoS攻击的原理,危害及识别.3分钟了解DDoS攻击.DDoS防护产品使用指南.DDoS防护产品价格查询.查看更多商品.查看全部日志.通过DNS解析方式牵引流量到阿里云全球DDoS防护网络,清洗流量型和资源耗尽型DDoS攻击,隐藏被保护的源...云服务器ECS.弹性公网IP.相关产品推荐.全球DDoS防护.根据攻击来源就近调度阿里云全球DDoS防护节点.
来自: 云产品
应用诊断分析平台
应用诊断分析平台ATP它可以帮助您高效定位Java应用性能问题、Java异常行为、Java内存泄漏、Java GC异常、程序崩溃等问题。
应用实时监控服务 ARMS.ECS Workbench是连接云服务器ECS实例的工具。应用诊断分析平台联动ECS Workbench,支持ECS Workbench到ATP一键分析能力.ECS Workbench 云服务器登录终端.Alibaba Cloud Linux是基于龙蜥操作系统(Anolis OS)打造的操作系统发行版,全面兼容RHEL/CentOS生态.欢迎访问开发者社区,专家常驻,答疑解惑....
来自: 云产品
同地域跨可用区容灾
同地域跨可用区容灾
场景描述 面向阿里云公共云客户, 1.业务在同一个地域(Region) 2.应用已经无状态 3.在不大幅增加成本的情况下,希望获得支持业务的跨可用区(Zone)容灾能力 3.希望对整体的应用做容灾备份(简称容灾),而非单独的数据库或存储等 解决问题 提供云上高可用架构方案并提供可参考的跨可用区架构提供简单的容灾演练 产品列表 云服务器(ECS)、数据库(RDS)、专有络(VPC)、负载均衡(SLB)、消息队列(MQ)等
希望对整体的应用做容灾备份(简称容灾),而非单独的数据库或存储等 解决问题 提供云上高可用架构方案 并提供可参考的跨可用区架构 提供简单的容灾演练 遇到问题或使用建议和意见 请扫钉钉二维码,联系 owner 产品列表 云服务器ECS)、数据库(RDS)、专有络(VPC)、负载均衡(SLB)、消息队列(MQ)等 云服务器 ECS...
来自: 最佳实践 | 相关产品:块存储,云服务器ECS,云数据库RDS MySQL 版,数据传输,访问控制
金融智能数仓解决方案
金融智能数仓解决方案是阿里云自研高性能、海量可扩展数据仓库服务、兼容部分 Oracle/Teradata 语法生态,大量应用于阿里巴巴集团内部电商,物流,文娱,广告等业务部门,服务于阿里云的金融、政企、互联网等各行业用户,支持快速构建新一代云化数据仓库服务。
属金融行业混合云解决方案,阿里云自研高性能、海量可扩展数据仓库服务、兼容部分 Oracle/Teradata 语法生态,大量应用于阿里巴巴集团内部电商、物流、文娱、广告等业务部门,服务于阿里云的金融、政企、互联网等各行业用户,支持快速构建新一代云化数据仓库服务.阿里云混合云>.混合云体验营>.金融智能数仓解决方案.库存...
来自: 解决方案
消费者资产运营分析解决方案
阿里云消费者资产运营分析解决方案是以数据中台为底座的消费者资产运营分析解决方案,依靠AIPL和FAST等消费者资产运营方法论,与阿里巴巴各业务平台及数据银行打通联动,解决品牌商家以前营销活动与销售转化、广告投放到店内引流、用户购买追踪与再触达等环节难以形成闭环的痛点,支撑全域的消费者营销运营。
云服务器 ECS.广泛应用于各类应用场景的关系型数据库.云数据库RDS.一站式提供数据接入到数据消费全链路的智能数据.它能提供快速、完全托管的PB级数据仓库解决方案.下载零售智能变革白皮书.基于数据中台为底座的消费者资产运营分析解决方案,依靠AIPL和FAST等消费者资产运营方法论,与阿里巴巴各业务平台打通联动,解决品牌...
来自: 解决方案
数据库HBase
阿里云云数据库 HBase 版(ApsaraDB for HBase)是基于 Hadoop 且100%兼容HBase协议的高性能、可弹性伸缩、面向列的分布式数据库,轻松支持PB级大数据存储,满足千万级QPS高吞吐随机读写场景。
云服务器 ECS.推荐搭配使用.海量数据存储与分析场景.支持海量全量数据存储和分析.存储用户行为数据,构建用户画像,实时存储在HBase中,根据用户画像实时推荐业务.HBase采用稀疏存储模式,适合用户画像高压缩存储.单台QPS超过10万,线性可扩展,无需分库分表.内核级优化加可选SSD存储,平均读写延迟小于2ms。999的延迟...
来自: 云产品
API网关
API网关(API Gateway)是阿里云公司出品的高性能API托管服务,帮助用户对其API进行管理,快速构建以API为核心的技术架构,满足系统集成、开放平台、数据中台等场景。
云服务器ECS(Elastic Compute Service)是一种简单高效、处理能力可弹性伸缩的计算服务。帮助您构建更稳定、安全的应用,提升运维效率,降低IT成本,使您更专注于核心业务创新.云服务器ECS.<查看全部产品.API 网关(API Gateway)提供API托管服务,覆盖设计、开发、测试、发布、售卖、运维监测、安全管控、下线等API各个...
来自: 云产品
< 1 2 3 4 ... 11 >
共有11页 跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云服务器 ECS 阿里邮箱 轻量应用服务器 弹性公网IP 短信服务 人工智能平台 PAI

新品推荐

切换为移动版

新人特惠 爆款特惠 最新活动 免费试用