LLM实战-阿里云

LLM 大模型学习必知必会系列(十三)：基于SWIFT的VLLM推理加速与部署实战

LLM 大模型学习必知必会系列(十三)：基于SWIFT的VLLM推理加速与部署实战 1.环境准备 GPU设备: A10, 3090, V100, A100均可. #设置pip全局镜像 (加速下载) pip config set global.index-url https://mirrors.ali...

LLM 大模型学习必知必会系列(十一)：大模型自动评估理论和实战以及大模型评估框架详解

LLM 大模型学习必知必会系列(十一)：大模型自动评估理论和实战以及大模型评估框架详解 0.前言大语言模型（LLM）评测是LLM开发和应用中的关键环节。目前评测方法可以分为人工评测和自动评测，其中，自动评测技术相比人工评测来讲，具有效率高、一致性好、可复现、鲁棒性好等特点，逐渐成为业界研究的重点。...

LLM 大模型学习必知必会系列(十)：基于AgentFabric实现交互式智能体应用,Agent实战

LLM 大模型学习必知必会系列(十)：基于AgentFabric实现交互式智能体应用,Agent实战 0.前言 Modelscope 是一个交互式智能体应用基于ModelScope-Agent，用于方便地创建针对各种现实应用量身定制智能体，目前已经在生产级别落地。AgentFabric围绕可插拔和可...

【LLM落地应用实战】LLM + TextIn文档解析技术实测

赋予机器类人的多模态信息解析能力是实现通用人工智能的一大基石。一、现有大模型文档解析的挑战 1.1、文档解析技术流程随着信息化和数字化的飞速发展，我们每天都面临着包括财务报表、商业合同、技术报告等海量的文档数据。从研究价值的角度来看，这些文档不仅蕴含了各行业处理内外部事务的详尽细节和深厚的知识积...

LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关

LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关 prompt（提示词）是我们和 LLM 互动最常用的方式，我们提供给 LLM 的 Prompt 作为模型的输入，并希望 LLM 反馈我们期待的结果。虽然 LLM 的功能非常强大，但 LLM 对提示...

开箱黑盒LLM！谷歌大一统框架Patchscopes实战教程来了

最近，谷歌推出了一种名为Patchscopes的大一统框架，用于解决大型语言模型（LLM）的黑盒问题。这个框架旨在通过提供一个可解释的模型，使LLM更易于理解和调试。在本文中，我们将对Patchscopes进行深入研究，并提供一个实战教程，帮助你理解和应用这个强大的工具。 Patchs...

如何提升大模型Agent的能力 ——LLM Agent框架 Modelscope-Agent 实战

大型语言模型（LLM）的出现带火了Agent。利用LLM理解人类意图、生成复杂计划并且能够自主行动的能力。Agent具有无与伦比的能力，能够做出类似于人类复杂性的决策和完成一些复杂的工作。目前市面上已经出现非常多得Agent框架：XAgent, AutoGPT、BabyAGI、CAMEL、MetaG...

阿里云大语言模型（LLM）实战训练营，火热开营中！

📕大语言模型（LLM）实战训练营入口：立即参与一、课程介绍介绍当下热门的大语言模型技术原理、发展历程及模型特性，并基于阿里云机器学习平台PAI等产品进行AI开发和部署。资深专家手把手带您使用机器学习平台PAI，迅速完成 Llama2-13B、ChatGLM-6B部署及基于LangChain搭建问答...