模型服务网格
模型服务网格的核心思想是将模型部署为可伸缩的服务，并通过网格来管理和路由这些服务，简化模型服务的管理和运维。它通过将模型服务抽象为可编排的、可伸缩的单元，使模型的部署、扩展和版本控制变得更加容易。它还提供了一些核心功能，...
ST_Simplify
模型简化可以在保持显示效果的同时，大幅降低模型的空间占用，示例如下：简化比：100%占用空间：96 MB 模型效果：简化比：5%几何简化+25%图片简化 占用空间：2.9 MB 模型效果：示例 SELECT ST_Simplify(data,'{"threshold":0.1,"mothed":...
ST_Simplify
模型简化可以在保持显示效果的同时，大幅降低模型的空间占用，示例如下：简化比：100%占用空间：96 MB 模型效果：简化比：5%几何简化+25%图片简化 占用空间：2.9 MB 模型效果：示例 SELECT ST_Simplify(data,'{"threshold":0.1,"mothed":...
模型画布简介
模型中心提供在模型画布中对业务模型进行组装、编排。在模型画布中，您可通过鼠标的拖拽和简单的条件设定，即可快速实现数据和原子算法的快速组装，即便是没有基础的业务人员，也可方便的建立自己的模型、形成自己的标签、自主探索使用数据...
使用模型服务网格自定义模型运行时
或者需要优化模型推理效率、控制资源分配的问题时，可以使用模型服务网格自定义模型运行时，通过精细配置运行环境，确保每个模型都能在最适宜的条件下执行，提升服务质量、降低成本，并简化复杂模型的运维管理工作。本文介绍如何使用...
使用模型服务网格进行多模型推理服务
模型服务网格基于KServe ModelMesh实现，针对大容量、高密度和频繁变化的模型用例进行了优化，可以智能地将模型加载到内存中或从内存中卸载，以在响应性和计算之间取得平衡，简化多模型推理服务的部署和运维，提高推理效率和性能。...
背景
模型和案例丰富，专家在线支持 表格存储针对不同业务场景提供了相应的数据模型，简化业务的设计和开发，例如消息和Feed流提供Timeline模型，时序数据提供Timestream模型，科学大数据的多维网格数据提供Grid模型等。针对典型业务场景，提供...
功能简介
将业务数据沉淀为智能数据或智能算子，通过可视化的拖拉拽和简单的图形化条件设定进行模型编排，支持 离线 场景，实现简化建模复杂度、提高模型运行效能、结合智能化算法等帮助用户将数据与业务结合起来，不断积累和沉淀专家业务模型，服务...
功能发布记录
创建和管理中心应用 管理应用接口 生成代码 扫描上报和合并代码模型 轻应用组装平台 新工作台发布：功能菜单调整。平台入口调整：轻应用组装平台入口调整。轻应用菜单调整：应用菜单位置调整。支持REST API、MYSQL类型的数据源：支持依赖...
功能发布记录
全部 v1.18及以上 全部 模型服务网格概述 使用模型服务网格进行多模型推理服务 使用模型服务网格自定义模型运行时 将大语言模型转化为推理服务 支持以Serverless的形式独立部署ASM网关。提供基于虚拟节点和ECI的Serverless网关形态，以...
什么是云原生应用组装平台BizWorks
云原生应用组装平台BizWorks是基于组装式理念和阿里巴巴中台实践构建的一体化云原生应用开发和组装平台，提供了业务建模、微服务开发、轻应用组装、能力开放等平台功能，致力于帮助企业快速设计、构建、组装和运营可复用的业务能力组件和...
闲鱼
同时，建设业务领域层服务的元数据中心，这些简化的基础服务能力，再加上已有的业务领域层服务，使客户端开发人员可以快速组装业务。云端工程一体化。闲鱼在成功引入Flutter后，在端侧形成了以Flutter为主、H5为辅的跨端研发体系，使传统的...
闲鱼
同时，建设业务领域层服务的元数据中心，这些简化的基础服务能力，再加上已有的业务领域层服务，使客户端开发人员可以快速组装业务。云端工程一体化。闲鱼在成功引入Flutter后，在端侧形成了以Flutter为主、H5为辅的跨端研发体系，使传统的...
模型中心
模型中心提供业务模型的可视化组装、编排能力，提供拖拽式智能算子的面向业务场景的模型Flow DAG的编辑与配置。通过该模块可以将业务需求转换为业务模型进而通过底层引擎的运行产生业务效果，主要包含以下功能：模型管理、模型编排、模型发...
基本概念
流程编排是一种面向开发者的可视化开发工具，支持LLM、API、脚本等类型节点，旨在简化接入大型语言模型（LLM）流程，同时提供应用流程的全生命周期管理，包括流程的编排、试验、部署等，为开发者提供自定义AI应用开发一站式服务。...
流程编排
概述 流程编排是一种面向开发者的可视化开发工具，支持LLM、API、脚本等类型节点，旨在简化接入大型语言模型(LLM)步骤，同时提供应用流程的全生命周期管理，包括流程的编排、试验、部署等，为开发者提供自定义AI应用开发一站式服务。...
什么是流程编排
定义 流程编排是一种面向开发者的可视化开发工具，支持LLM、API、脚本等类型节点，旨在简化接入大型语言模型（LLM）流程，同时提供应用流程的全生命周期管理，包括流程的编排、试验、部署等，为开发者提供自定义AI应用开发一站式服务。...
如何定义Manifest
我们的Manifest也是用于描述插件的What、When和How的描述信息，但是这个信息并不是一个由用户定义的一个文件来描述的，而是将用户定义的API插件配置信息组装成Manifest传递给大模型进行调度决策（Planning）。Manifest的组成部分包括：插件...
新建离线模型
您可以在画布中通过鼠标的拖拽和条件设定，组装、编排业务需求的业务模型。本文介绍如何新建离线模型。前提条件 已存在离线模型所需数据，具体操作，请参见 通过选择已有表新建数据集、通过上传本地数据新建数据集。已新建离线模型所需的...
概述
使用物模型接入物联网平台，简化了接入流程和软硬件开发，同时可以更好地支持设备的扩展。背景信息 在物联网兴起的初始阶段，用户主要为硬件厂商，软硬一体开发商等，对物联网平台的需求比较简单，基本采用自定义协议上云，因此物联网平台...
EAS极简部署功能发布
提供一键式简化版的部署方式，快速拉起模型服务。优化内容 针对通用的部署场景提供真正简化版的部署方式，包括ModelScope模型部署、HuggingFace模型部署、Triton部署、TFserving部署、LLM、SDWebUI。在这些场景里，只需要提供模型的存储...
DB管理
为了简化授权操作，建议您开启简单权限模型（SPM）。Hologres为您提供的方便且完善的授权体系如下：专家模式：Hologres兼容PostgreSQL，使用与Postgres完全一致的授权体系（简称专家模式）。您可以按照标准的PostgreSQL授权语句为子账号...
设备接入概述
功能项 C Link SDK Extended C（v4.x）C（v3.x）Android Java Python Node.js iOS 设备管理 物模型 物模型开发 使用说明 物模型编程 物模型开发 物模型开发 物模型开发 物模型开发 不支持 设备标签 设备标签 设备标签 标签 设备标签 设备...
设备使用物模型通信
开发语言 Link SDK使用示例 C Link SDK Extended 物模型开发 C（v4.x）物模型使用 C（v3.x）物模型编程 Android 物模型开发 Java 物模型开发 Python 物模型通信 Node.js 物模型开发 iOS 不支持 物模型通信流程 重要 下述设备与物联网平台...
Prompt最佳实践
Prompt 工程简介 Prompt（提示词）是一个指令、问题或者语句，能被 用来引导或指示一个语言模型生成特定的文本输出。Prompt是用户与语言模型交互的起始点，它告诉模型用户的意图，并且期望模型能以有意义且相关的方式回应。通过精心设计的...
语义意图增删改查
相对于关键词检查、正则表达式检查等算子，意图模型仅需要通过人工添加意图所包含的语句，并“一键”完成模型训练后便可用于规则配置，极大简化规则配置难度。说明 此处意图可理解为是不同表达形式的同一类型的内容。如客户说：“你真棒啊...
Hologres权限模型概述
Schema级别的简单权限模型（Schema-level Permission Model，SLPM）精确到Schema级别的权限管控，使用于对权限粒度较为细致且又希望简化授权流程的场景。Schema级别的简单权限模型是已经封装好的权限模型，以Schema为维度，每个用户组都有...
什么是AutoML
AutoML HPO是AutoML提供的对模型参数、训练超参数（opt、lr）等进行自动搜索调优的服务，为您提供了易用、有效、准确的自动超参调优服务：简化调优工作：通过自动化工具大幅简化算法工程师调参工作，节省算法工程师的调参时间。训练更优...
模型调优
模型调优 模型调优是通过Fine-tuning训练模式提高模型效果的功能模块，作为重要的大模型效果优化方式，用户可以通过构建符合业务场景任务的训练集，调整参数训练模型，训练模型学习业务数据和业务逻辑，最终提高在业务场景中的模型效果。...
手动新建本地模型代码
本文介绍如何在本地某个目录下新建一个带有模型注解的类。操作步骤 打开IDEA，在一批模型的目录上单击右键，选择 New>BizWorks模型>领域对象-值对象（您可按需选择）。新建本地模型代码成功后，界面提示如下。
基本概念
DashScope灵积模型服务通过标准化的API提供“模型即服务”（Model-as-a-Service，MaaS）。不同于以往以任务为中心的AI API，DashScope构建在面向未来的、以模型为中心的理念下，因此也引入了一些新的概念和术语。开发者可以通过本文了解...
模型评测
完成模型部署后，如需测试模型的效果，可在模型评测中进行评测，模型评测需要首先构建评测的数据集，构建方法类似于训练集的构建，数据格式同样是问答Pair对，对于Prompt而言往往是需要验证的问题，对于Completion而言往往是评测参考的答案...
模型训练最佳实践
创建新模型训练任务需要选择模型类型，平台支持两种模型类型，如果第一次训练模型，一般选择预置模型，如果希望基于已训练的模型进行再次训练，则可选择自定义模型，定义如下：预置模型 预置模型为未经过任何训练的原始模型，您可以通过...
管理模型
通过模型管理功能，您可以变更当前应用关联的限界上下文版本。且在应用创建完成后，应用支持关联和解除限界上下文。本文介绍如何关联和解除限界上下文。说明 只有还未发布或者还未部署的应用才支持关联、解除关联和变更版本功能。关联限界...
快速开始
以下是四个常见的大模型应用场景：直接调用模型 模型训练 创建智能体API 创建RAG应用 直接调用模型 模型体验中心 您可以单击左侧边栏的 模型中心-模型服务-模型体验中心，选择1-3个模型进行测试，体验模型的问答效果。模型广场 您可以进入 ...
使用数据模型设计器
使用数据模型设计器，您可以直观地看到数据模型的主键、字段和模型之间的引用关系，也可以在图形化界面创建、编辑及删除数据模型。操作步骤 登录BizWorks，在 选择平台 下拉列表中选中 建模平台。单击页面右上角 图标或其文本框区域，在...
模型部署
模型部署 模型部署支持用户部署训练完成的模型或系统预置的模型，模型需要部署成功后方可正式提供模型服务，用于模型调用或评测，模型部署支持使用预付费资源和后付费资源两种方式，模型部署成功后将持续计费，支持随时扩缩容或上下线，...
配置数据模型通用配置
本文为您介绍如何为数据模型设置默认字段。背景信息 模型设置用于给开发者自定义数据模型默认的字段。例如，您的每个模型都需要创建ID、创建时间和创建人字段。您可以在模型设置中预先创建上述字段，避免创建每个模型时都要重复操作。保存...
获取平台模型最新状态
通过将平台最新的模型下拉到本地，防止插件里的模型缓存与平台模型存在不同步的情况导致问题。通常BizWorks Toolkit插件内部会在需要的时候（例如上报前）自动获取更新，但您仍可以在平台有改动后立即操作更新，以查看最新的平台模型信息和...
模型体验介绍
模型体验 支持选择多个模型同时体验，快速对比不同模型的效果，最多同时选择3个模型，支持差异化模型配置及重复模型选择。说明 体验模型将会消耗Tokens，费用以实际发生为主（独立部署模型除外）。各大模型收费标准请查看 模型广场介绍，...
- 产品推荐
- 这些文档可能帮助您