准实时推理场景
冷启动性能 在函数计算GPU平台上，常见模型的端到端冷启动性能如下。端到端冷启动耗时（包含冷启动+首次调用处理耗时）：10~30s 冷启动概率 函数计算的Serverless GPU中，冷启动耗时为秒级，而k8s平台通常为分钟级。函数计算的冷启动概率...
工程架构
架构图 冷启动链路的整体框架如下图所示：冷启动链路流程 App请求推荐服务，获取推荐内容列表 推荐服务调用 冷启动召回模块，获取匹配上的候选物品 推荐服务调用 冷启动算法打分EAS服务，传递参数：待打分候选物品列表，用户/物品特征，...
准实时推理场景
冷启动性能 在函数计算GPU平台上，常见模型的端到端冷启动性能如下。端到端冷启动耗时（包含冷启动+首次调用处理耗时）：10~30s 冷启动概率 函数计算的Serverless GPU中，冷启动耗时为秒级，而k8s平台通常为分钟级。函数计算的冷启动概率...
冷启动版功能详解
冷启动版简介 新用户冷启动版是AIRec智能推荐针对冷启动场景特殊优化的版本，依靠大流量用户访问、留存、LTV提升为目的，推荐给主要目标是希望提升新用户留存效率、效果的客户选择并使用。冷启动版会结合友盟+产品，利用友盟+数据洞察...
Sophix何时走即时生效热修复，何时走冷启动修复？
代码若变动小，一般会走即时生效热修复，而如果代码变动大，比如在已存在的类中新增方法，修改了so等情况，都会走冷启动。这是由打包工具自行检测代码变化来判断的，开发者无需考虑。如想测试即时生效，可以：1、补丁工具可以不勾选强制冷...
函数计算冷启动优化最佳实践
本文介绍如何通过设置 函数计算 的预留模式实例优化按量模式实例的冷启动和函数性能。什么是冷启动 函数计算 提供了按量模式和预留模式两种实例使用模式。按量模式是指函数实例的分配和释放完全由 函数计算 系统负责，您只需要根据实例执行...
函数计算冷启动优化最佳实践
本文介绍如何通过设置 函数计算 的预留模式实例优化按量模式实例的冷启动和函数性能。什么是冷启动 函数计算 提供了按量模式和预留模式两种实例使用模式。按量模式是指函数实例的分配和释放完全由 函数计算 系统负责，您只需要根据实例执行...
冷启动召回
当冷启动物品的数量很多时，比如短视频平台每天都有大量的新短视频上架；电商平台每天都有大量新商品上架，对所有冷启动物品都分配一些流量以便探索其潜力是低效的。因此，我们需要一些召回策略。随机召回 推荐召回具体公平但低效的特点，...
访问配置
2、根据字段值判定 根据上传行为数据时，bhv_value字段内，user_new_label是否=1判断是否为新用户，可参考数据规范：behavior value 2、冷启动服务应用场景设置 该功能用于指定冷启动场景，可以通过指定场景ID，或限定其他行为表中字段的...
Warm Up（冷启动）
对于长期处于低水位状态的系统，可以使用Warm Up（冷启动）功能来避免流量骤增导致水位瞬间升高系统不可用的情况。功能原理 Warm Up，即冷启动/预热的方式。当系统长期处于低水位的情况下，若流量突然增加，可能会把系统水位瞬间拉高把系统...
基本概念
冷启动 当启动应用时，后台没有该应用的进程，这时系统会重新创建一个新的进程分配给该应用，这个启动方式就是冷启动。冷启动修复 即结束应用进程，重启应用后补丁才能生效。基线包 当App发布了新的版本，此时是未做任何热修复的改动的。这...
快速启动AIRec冷启动版
本篇文档将带领您创建AIRec冷启动版实例 一、获取测试资格 目前，若要购买和使用AIRec智能推荐冷启动版实例，需要您参与测试活动，先行获取测试资格。测试资格通过官网活动页面，“试用流程”处填写表单即可获取，注意，表单最后选项需选择...
iOS配置参考
示例：重要 开启自定义冷启动功能后，若30秒内未调用记录冷启动结束接口，冷启动监控过程会强制结束。Objective-C/需在SDK启动之前设置[OpenRUM useCustomLaunch:YES];在需求时机位置调用[OpenRUM recordCustomLaunchEnd];Swift/需在SDK...
粗排配置
在粗排的配置中，需要考虑冷启动召回的item,如果用统一的粗排模型，冷启动的item由于缺少特征可能会被打低分，需要对冷启动召回的item进行单独的粗排配置。目前粗排分两种，主链路配置和冷启动召回的配置，当然，如果没有冷启动的召回，只...
概述
为什么需要冷启动 通常推荐系统通过协同过滤、矩阵分解或是深度学习模型来生成推荐候选集，这些召回算法一般都依赖于用户-物品行为矩阵。在真实的推荐系统中，会有源源不断的新用户、新物品加入，这些新加入系统的用户和物品由于缺乏足够...
配置链路追踪
ColdStart：函数系统层冷启动的时间，冷启动不是每次调用都出现，只在重新申请执行环境时出现。PrepareCode：函数下载代码或下载自定义镜像的时间，如果PrepareCode时间过长，您可以适当精简代码包来缩短准备代码的时间。...
效果评估
一、用户维度指标 说明 以下指标计算所用数据均基于已配置过归因逻辑的行为类型，未配置归因的行为类型不会参与到任何冷启动场景指标计算中。根据冷启动场景行为数据统计的用户维度指标，通过该报表可以清晰的观察到用户点击及转化率的提升...
SDK简介
热修复各个版本的差别：方案对比 Andfix开源版本 阿里Hotfix 1.X 阿里Hotfix最新版(Sophix)方法替换 支持，除部分情况[0]支持，除部分情况 全部支持 方法增加减少 不支持 不支持 以冷启动方式支持[1]方法反射调用 只支持静态方法 只支持...
请求级别指标日志
函数计算平台对冷启动做了很多优化，为避免冷启动，平台会提前创建实例，请求抵达函数计算平台后创建实例过程中，可能会等到一个已经创建好的实例，这种请求我们不称之为冷启动请求。false 是 instanceEvent 实例事件。目前只有ColdStart，...
请求级别指标日志
函数计算平台对冷启动做了很多优化，为避免冷启动，平台会提前创建实例，请求抵达函数计算平台后创建实例过程中，可能会等到一个已经创建好的实例，这种请求我们不称之为冷启动请求。false 是 instanceEvent 实例事件。目前只有ColdStart，...
函数创建方式选型
代码包中不包含运行时，所以冷启动最快。较快。Web函数使用公共镜像，没有镜像拉取时间，所以冷启动会较快。较慢。需要拉取镜像，所以冷启动较慢。代码包限制 500 MB未解压代码包 500 MB未解压代码包 10 GB未解压镜像 代码包格式 ZIP、JAR...
如何让实例一直存活不销毁，消除冷启动延时的影响？
如您想让实例一直存活，消除实例冷启动的影响，可以使用预留模式的实例。预留模式下，函数实例由您自行分配、释放和管理。更多信息，请参见 预留模式。
如何让实例一直存活不销毁，消除冷启动延时的影响？
如您想让实例一直存活，消除实例冷启动的影响，可以使用预留模式的实例。预留模式下，函数实例由您自行分配、释放和管理。更多信息，请参见 预留模式。
函数运行时选型
代码包中不包含运行时，所以冷启动最快。较快。自定义运行时使用公共镜像，没有镜像拉取时间，所以冷启动会较快。较慢。需要拉取镜像，所以冷启动较慢。代码包限制 500 MB未解压代码包 500 MB未解压代码包 10 GB未解压镜像 代码包格式 ZIP...
计算资源优化
基于云基础设施的操作系统优化 阿里云提供了Alibaba Cloud Linux操作系统镜像...通过预留模式实例，您能够根据函数的负载变化提前分配好计算资源，系统能够在扩容按量模式实例时仍然使用预留模式实例处理请求，从而彻底消除冷启动带来的延时。
选型介绍
商用类型 阿里云智能推荐AIRec主要支持三种商用版本，分别为行业运营版、算法配置版和冷启动版。这三种版本的区别如下：项目明细 行业运营版 算法配置版 配额 包月QPS（单位：次/秒）5 10-500 弹性QPS（单位：次/秒）0-30 0-包月QPS配额 ...
保留实例
如果想通过Knative降低成本而不引入冷启动，可以通过低成本的保留实例来平衡成本和冷启动时长。保留实例优势 社区的Knative默认在没有流量的时候可以把应用实例数缩容到零个，这样做的目的是降低常驻实例的运行成本。缩容到零的方式虽然...
快速开始
一、Contextual Bandit 算法的适用范围 Contextual Bandit 算法虽然可以用来解决冷启动问题，但如果在一些基础条件不满足时，算法可能不能很好地收敛。注意：探索流量是否足够。如果一个场景新品数量很大，每时每刻都有新品源源不断地加...
获取推荐结果（冷启动版）
本篇文档内容适用版本：冷启动版。参数说明 请求参数：参数 类型 描述 是否必填 userId string 用户唯一id 是 imei string 用户设备ID 是 sceneId string 物品被投放的场景id 否 items string 打分物品列表，多个之前以英文,分割，item_id...
术语解释
术语 说明 冷启动 指启动一个全新的移动应用进程。热启动 指进程仍在后台运行的移动应用，被重新唤醒。品牌 指设备的品牌。机型 指设备的型号。运营商 指设备所属的网络服务供应商。渠道 指在SDK中配置的应用上架渠道。UTDID 是一个App级别...
智能推荐的审计事件
ColdStartRank 查询指定冷启动实例的排序结果。Create 登录产品售卖页面进行的购买操作。CreateCustomAnalysisTask 创建自定义分析任务。CreateCustomSample 创建自定义样本。CreateDataDiagnoseTask 创建数据诊断任务。CreateDiversify ...
概念
基本概念总览 分类 名称 通用概念 FC函数、版本、别名、层、触发器、运行时、自定义域名 计费相关 按量付费、资源包 实例相关 弹性实例、GPU实例、冷启动、按量模式、预留模式 函数调用 同步调用、异步调用、调用分析 FC函数 函数计算 的...
概述
在 ACK Serverless集群 中创建一个Pod是有明显的冷启动时间，Knative的缩容到零机制可以很好的节省成本，但是第一批请求过来时有可能导致短暂的超时失败。ACK Serverless Knative在没有流量的时候不把应用实例数缩容到零个，而是保留实例。...
功能特性
高可用管理平台 HAS 定位于 IT 技术...故障演练平台支持触发 CPU 利用率升高、内存利用率升高、内存占用、网络丢包、容器宕机、物理机宕机等常见故障，并针对故障制定出详细的演练和恢复计划，保证用户能够有计划地测量和观测应用高可用能力。
自定义 Pipeline 流程
比如冷启动流程，它需要一条单独的 pipeline 来处理，因为冷启动的粗排、精排等流程与主链路是不同的。另一种情形是，在首页推荐流中，会有图文、视频等多种数据，图文，视频的处理链路是不同的，需要走不同的 pipeline,最终把数据混排在...
ADP底座介绍
常见故障场景自动诊断：内置长期经验沉淀的运维知识库，自动识别常见故障问题，并提供故障处置建议。自动化巡检和告警通知：内置基础告警策略并可灵活配置，可对接多种告警通知方式，定期巡检，及时感知问题。业务数据的存储备份及还原：...
链路追踪简介
ColdStart：函数系统层冷启动的时间，冷启动不是每次调用都出现，只在重新申请执行环境时会进行冷启动。PrepareCode：函数下载代码或下载自定义镜像的时间，如果PrepareCode时间过长，您可以适当精简代码包来缩短准备代码的时间。...
基本概念
基本概念总览 分类 名称 通用概念 服务、FC函数、请求处理程序、版本、别名、标签、层、触发器、运行时、自定义域名 计费相关 按量付费、资源包 实例相关 弹性实例、GPU实例、冷启动、按量模式、预留模式、单实例并发数 函数调用 同步调用...
基本原理
本文介绍冷启动Custom Runtime的基本原理和HTTP Server配置要求。基本原理 针对Custom Runtime，您的代码文件ZIP包是一个HTTP Server程序，您只需设置函数配置中的 启动命令 和 启动参数 完成HTTP Server的启动。函数计算 冷启动Custom ...
Custom Container简介
为了更好的冷启动体验，推荐您使用以下最佳实践：容器镜像地址推荐使用与 函数计算 同地域的VPC镜像地址，以减少镜像拉取延时，提高稳定性。镜像最小化，基于类似Alpine或Ubuntu这样的最小镜像或者是其他镜像中精简版本构建自定义镜像。仅...
- 产品推荐
- 这些文档可能帮助您