通过PAI-灵骏分布式训练和部署Llama 2模型
我们以 Meta 最新开源的大语言模型 Llama2 为例，通过PAI-灵骏完成了大语言模型的高效分布式训练、三阶段指令微调、模型离线推理验证以及在线服务部署等完整的开发链路。我们提供了两套训练流程，基于Huggingface&DeepSpeed和MegatronLM，可适用于开发Llama2全系列模型。在保证模型效果和Huggingface对齐的前提下，大幅提升大模型训练分布式效率。此外，灵骏还支持业界各类流行的开源大语言模型，包括Bloom系列、Falcon系列、GLM/ChatGLM系列，以及领域大模型galactica等的高效训练和部署。方案整体可用于企业样本标注、创意文本生成、智能对话助手、文本类创作辅助等场景。
加快模型训练速度，大幅缩减训练时间和成本应用场景企业智能客服您可以基于Llama2等通用大语言模型搭建企业级客服系统，实现中英文双语的智能问答、语义理解和自动回复等功能，高效解决客户问题提升客户的体验和满意度。在无需准备过多语料素材的情况下，经过一定开发，实现专属定制版企业适配大语言模型，为企业提供更加...
来自：
解决方案
数据库和应用迁移 ADAM
数据库和应用迁移 Advanced Database & Application Migration（以下简称 ADAM）是一款把数据库和应用迁移到阿里云（公共云或专有云）的产品，支持 Oracle、Teradata、Db2 的异构迁移上云。ADAM 全面评估上云可行性、成本和云存储选型，内置实施协助、数据迁移、应用迁移等工具，确保可靠、快速、低成本上云。
系统已经在阿里云上，但随着业务增长，现有的数据库不满足需求，需要更换或者新增数据库，ADAM 提供的目标存储选型及应用改造专家服务可以帮助用户完成系统扩展改造。例如，之前只使用 RDS MySQL 版数据库，现在还需要用 MaxCompute 存放历史数据，用 AnalyticDB MySQL 版存放分析型数据.云上 IT 系统迁移.运行环境信息采集...
来自：
云产品
金融分布式架构SOFAStack
阿里云金融分布式架构SOFAStack为金融用户提供全栈式的基础架构能力，是集项目管理、微服务开发、发布部署、监控运维、容灾高可用等全栈式解决方案，助力客户应用轻松转型分布式架构，保证风险安全的同时帮助业务需求敏捷迭代，支撑金融业务创新，开发人员学习成本最多可降低92%、应用开发效率可最多提升80%、运维人力成本最多可节省90%
蚂蚁金服自主研发的金融级分布式架构平台，专注为金融用户提供全栈式的基础架构能力 保证风险安全的同时帮助业务需求敏捷迭代，同时满足异地容灾、低成本快速扩容的需求 解决传统集中式架构转型的困难，打造大规模高可用分布式系统架构，支撑金融业务创新.保证在分布式架构下承受高并发交易，在系统扩展、容灾恢复、更新...
来自：
云产品
分布式身份服务
分布式身份服务 DIS 通过蚂蚁区块链，安全的存储个人和企业用户的身份信息，并在保护隐私的情况下为用户、用户信息提供方、用户信息使用方提供身份标识和信息交互，使得企业和机构可以更合规的使用和管理用户身份信息及数据授权，而身份信息的真实性得到了极大的保障。
数据在分布式系统上永久留存，由身份所有者管理，仅在被授权情况下使用而无法作其他用途.分布式身份系统.利用生物识别、移动终端等多种手段，实现一个便捷的联合可控的数字身份管理体系.领先的身份管理.身份标识脱敏，避免了敏感数据盗用；数据全链路加密，实现了数据可用不可见.强数据隐私保护.了解如何快速使用 DIS.了解...
来自：
云产品
企业级分布式数据库解决方案
企业级分布式数据库解决方案挂载管理多个云数据库 RDS for MySQL，可线性提升数据存储容量及并发吞吐。为企业级客户提供弹性、稳定、高效的企业级分布式关系型数据库解决方案。
云原生分布式数据库 PolarDB-X 1.0 通过分库分表管理多个 RDS for MySQL，可线性提升数据存储容量及并发吞吐，有效解决单机数据库的扩展性难题。云原生分布式数据库 PolarDB-X 1.0 提供多种只读实例，可抵御超高并发的访问压力、加速复杂查询的响应时间。通过物理资源隔离的方式，缓解 DRDS 主实例的压力负载，降低业务架构...
来自：
解决方案
区块链分布式身份服务解决方案
区块链分布式身份服务解决方案提供基于区块链技术的实体身份标识及可信数据交换服务，具有分布式、多中心等特性。该服务符合 W3C DID 以及 W3C VC 规范，实体可以对数字身份进行便捷的创建、验证、管理。此外，实体之间能够进行可验证声明的颁发，用以满足复杂的场景需求。
身份等信息在基于区块链的分布式系统上永久留存，由身份所有者管理和授权，身份使用方在被授权的情况下使用而无法作其他用途.分布式身份系统.利用生物识别、移动终端、区块链和密码学等多种手段，实现一个便捷的联合可控的数字身份管理体系.领先的身份管理.实现物流运单的数据增信，帮助业务平台构建行业信用体系，打通金融...
来自：
解决方案
Dubbo应用上云
场景描述 本最佳实践适用于企业自建 Dubbo 应用上云， 应 用采用 docker 方式部署， 降低部署成本。同时利 用 MSE 提供 Zookeeper 服务注册管理。 通过阿 里云的 ARMS 和 AHAS 服务提供应用监控和服务 限流管理，简化运维并提供服务的全生命周期管 理。 解决问题 1. 自建 dubbo 应用迁移上阿里云。 2. 应用部署在容器内降低成本。 3. 通过 MSE 提供 ZK 服务，提高稳定性。 4. 通过 ARMS/AHAS 提供监控和服务限流能力 产品列表 容器服务 Kubernetes 版（ACK） 微服务引擎（MSE） 关系数据库服务（RDS） 应用高可用服务（AHAS） 应用实时监控服务（ARMS）
Dubbo应用上云 最佳实践 部署架构 场景描述 本最佳实践适用于企业自建 Dubbo应用上云，应 用采用 docker方式部署，降低部署成本。同时利 用 MSE提供 Zookeeper服务注册管理。通过阿 里云的 ARMS和 AHAS服务提供应用监控和服务 限流管理，简化运维并提供服务的全生命周期管 理。解决问题 1.自建 dubbo应用迁移上阿里云。2....
Spring Cloud Netflix应用迁移EDAS
场景描述 Spring Cloud Netflix微服务应用迁移到EDAS 服务（SpringCloud Alibaba云版本）的方法， 迁移后充分利用阿里云监控、调用链、限流降级 等能力，优化应用生命周期管理。 解决问题 1.帮助自建SpringCloudNetflix微服务应用 通过简单修改迁移到阿里云企业级分布式 应用服务（EDAS）平台。 2.迁移到EDAS后，简化应用的运维，提升监 控、调用链探测、限流降级等管理能力，提 高对应用的全生命周期管理。 产品列表 企业级分布式应用服务（EDAS） 负载均衡（SLB） 专有网络（VPC） 云服务器（ECS）
创建本应用成功后，将剩下的微服务应用都创建成功，一共包括 5个微服务应用，分 别是 auth-service,account-service,statistics-service,notification-service,gateway。这 5个微服务部署的顺也按照上述顺序完成，部署成功后页面如下：文档版本：20200106 56 Spring Cloud Netflix应用迁移 EDAS 微服务应用部署 EDAS环境 ...
云速搭部署 NAS 文件系统
本实践通过云速搭构建一个 NAS，并将 NAS 文件系统挂载到 ECS 的目录上。
已开通以下服务：ￚ 专有网络 VPC ￚ 云速搭 CADT ￚ 云服务器 ECS ￚ 文件存储 NAS 文档版本：20211027 2 云速搭部署 NAS文件系统 产品介绍 产品介绍 云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也支 持自助拖拽方式定义...
SpringCloud应用托管到ACK服务
场景描述 本实践适用于将SpringCloud应用托管到 ACK服务的场景中，创建容器服务ACK后， 利用Helm一键部署SpringCloud应用，将 SpringCloud应用托管到容器服务ACK。 解决问题 1.将SpringCloud应用托管到容器服务 ACK 产品列表 容器服务ACK 云服务器ECS
SpringCloud应用托管到 ACK服务 最佳实践 部署架构图 场景描述 本实践适用于将 SpringCloud应用托管到 ACK 服务的场景中，创建容器服务 ACK后，利用 Helm 一键部署 SpringCloud应用，将 SpringCloud应 用托管到容器服务 ACK。解决问题 将 SpringCloud应用托管到容器服务 ACK 产品列表 容器服务 ACK 云服务器 ECS 云速搭 ...
微服务应用问题定位及故障演练
场景描述 用户微服务架构应用基于阿里云 ACK 部署， 通 过 ARMS 监控发现微服务应用的容错能力是否 健壮， 容器编排配置是否合理， 以及节点故障引 发的问题等， 方案通过 AHAS 故障注入模拟生 产环境产生的故障， 通过 ARMS 及时发现问题、 定位问题， 并结合 ARMS 的告警功能快速发现 并解决问题。 发现调用下游一个服务实例出现异常。 发现业务 Pod 故障， 验证业务的稳定性。 发现调用数据库延迟故障， 验证 Pod 的水 平扩容能力。 解决问题 1. 定位并解决微服务应用的容错能力。 2. 定位并解决微服务应用编排合理性。 3. 发现故障并验证系统故障的告警时效性。 产品列表 应用高可用服务 AHAS 性能测试 PTS 应用实时监控服务 ARMS 容器服务 kubernetes 版 负载均衡 SLB 专有网络 VPC 日志服务 SLS
任何问题或建议请钉钉扫码联系我们 文档版本：20220331 3 微服务应用问题定位及故障演练 Spring Cloud应用部署 ACK 1.Spring Cloud应用部署 ACK 1.1.Spring Cloud框架介绍 Spring Cloud是一系列有序框架的集合，简单易懂、易部署易维护的分布式系统开发 工具包。Spring Cloud依赖于 SpringBoot，利用 SpringBoot开放的便捷...
应用实时监控服务ARMS
作为云原生可观测平台，应用实时监控服务 ARMS 包含前端监控、应用监控、云拨测等模块。覆盖浏览器、小程序、APP、分布式应用、容器等不同可观测环境与场景。帮助企业实现全栈性能监控与端到端追踪诊断。提高监控效率，压降运维工作量。
应用监控-每月50GB免费额度，满足分布式应用监控与链路追踪需求.前端监控-每月50GB免费额度，满足网站、小程序、APP监控需求.可观测链路OTel版-每月50GB免费额度，满足多语言应用监控需求.可观测监控Prometheus版-每月50GB免费额度，满足容器/云服务监控需求.可观测可视化Grafana版-首月专家版（10U）免费.云拨测-每月3000...
来自：
云产品
企业应用（酒店PMS）混合云组网最佳实践
酒店上云是分阶段实施，线下和云上的混合云是长期 状态，需要保证线下多地域多分支、云上多地域之间 互相访问，且需要满足不同类型的企业节点的服务要 求，比如总部 IDC 要求带宽大，对安全可靠性要求 高等。
云速搭 CADT：是一款为上云应用提供自助式云架构管理的产品，显著地降低应 用云上管理的难度和时间成本。本产品提供丰富的预制应用架构模板，同时也支 持自助拖拽方式定义应用云上架构；支持较多阿里云服务的配置和管理。用户可 以方便的对云上架构方案的成本、部署、运维、回收进行全生命周期的管理。详 见：...
云上高并发系统改造
场景描述 随着业务的发展，系统并发压力越来越大，如何 进行系统改造以满足高并发场景的业务需求成 为了一个技术难题。本实践抽象于客户的实际场 景，提供高并发下系统改造的理论指导和部分实 操演示。主要适用于以下场景： 1.系统并发压力大，需要进行系统应用改造。 2.数据层并发压力大，需进行分库分表改造。 3.数据库数据量巨大，亟待分库分表解决查询 和写入瓶颈的场景。 方案优势/解决问题 1.在水平扩展阶段，我们除了通过SLB做负载 均衡外，我们可以通过SLB下挂nginx的方 式，增加负载均衡侧的可扩展性 2.在数据库拆分阶段，在做好数据规划后，我 们借助DTS进行数据迁移，通过DRDS将 RDS MySQL的数据拆分到多个分库和分 表中。 产品列表 专用网络VPC 负载均衡SLB 云服务器ECS 数据库RDSMySQL 数据传输服务DTS PrivateZone 分布式关系型数据库DRDS
尽可能避免跨库查询：关联查询的数据尽量分散到同一个分片中，跨库查询对系 统性能损耗很大。避免跨分表联表查询的方式有：a)剥离出高频访问的表，与核心表 1:1关系的，进行反范式设计，将核心表加 宽 b)如果与核心表是 N：1关系的，将高频访问字段冗余到核心表中 c)低频访问数据，业务功能设计上，避免一页展示大而全，...
- 产品推荐
- 这些文档可能帮助您