机器学习平台 PAI梯度-阿里云

机器学习面试笔试知识点-决策树、随机森林、梯度提升决策树(GBDT)、XGBoost、LightGBM、CatBoost

一、决策树(Desision Tree)1.一棵决策树的生成过程分为以下3个部分特征选择：指从训练数据中众多的特征中选择一个特征作为当前节点的分裂标准，如何选择特征有着很多不同量化评估标准，从而衍生出不同的决策树算法。决策树生成：根据选择的特征评估标准，从上至下递归地生成子节点，直到数据集不可分则停...

【机器学习实战】10分钟学会Python怎么用GBM梯度提升机进行预测（十四）

[toc]1.前言1.1 GBM的介绍梯度提升机（Gradient Boosting Machine，简称GBM）是一种强大的机器学习算法，它是集成学习的一种形式。GBM在解决分类和回归问题上表现优异，是数据科学领域中常用的算法之一。GBM通过组合多个弱学习器（通常是决策树）来构建一个强大的预测模型...

学习笔记：机器学习经典算法-主成分分析PCA与梯度上升法

算法特点非监督机器学习算法，主要用于数据降维；降维可以提高算法效率，同时帮助可视化，以便于人类理解更好的理解数据；去噪。 1、 PCA的基本原理样本在其特征空间的分布表现是其各特征轴上记录信息的综合呈现形式。 PCA 分析基于能够捕获原始样本最大信息量为目标在样本的原始特征空间寻找一个新的坐标系，...

【机器学习】搜索算法（梯度，随机梯度，次梯度，小批量，坐标下降）

机器学习中的搜索算法本节知识导图预先需要了解：凸函数优化：局部最优解一定是全局最优解凸函数：由上图来看，凸函数的几何意义在于，定义域中任意两点连线组成的线段都在这两点的函数曲线（面）上方。非凸函数优化：局部最优解不一定是全局最优解梯度下降算法算法思想从线性回归问题了解算法思想ÿ...

机器学习PAI中DeepRec 的 PS有针对梯度的延迟更新做一些功能吗？

请问一下，机器学习PAI中DeepRec 的 PS有针对梯度的延迟更新做一些功能吗？（比如某个 worker 太慢了，导致回传的梯度 out of date，PS是否会做一些过滤）。感觉应该是跟 StarServer 相关？但是看文档感觉不是很明确

【机器学习】集成学习（Boosting）——梯度提升树（GBDT）算法（理论+图解+公式推导）

2021人工智能领域新星创作者，带你从入门到精通，该博客每天更新，逐渐完善机器学习各个知识体系的文章，帮助大家更高效学习。一、引言之前我们使用Boosting模型讲解了AdaBoost算法模型的原理，采用加法模型和向前分步算法，它是采用了很多个基学习器按照一定权重进行线性组合。f M ( x ) =...

机器学习：在梯度下降法中为什么梯度的方向是变化最快的方向

机器学习：在梯度下降法中为什么梯度的方向是变化最快的方向基础概念一阶导数在一阶函数中，一阶导数表示函数值与自变量的变化关系，我们把函数从一个点到另一个点变化的函数值与变化的自变量的比值称为函数这两点之间自变量方向的变化率，可以用$\frac{\Delta y}{\Delta x}$表示，当自变量x的...

②机器学习分类算法之LightGBM（梯度提升框架）

代码实践参数详解一下参数可以提高准确率learning_rate:学习率.默认值：0.1调参策略：最开始可以设置得大一些，如0.1。调整完其他参数之后最后再将此参数调小。取值范围:0.01~0.3.max_depth:树模型深度默认值：-1调整策略:无取值范围：3-8（不超过10）num_leave...

①机器学习分类算法之LightGBM（梯度提升框架）

走进LightGBM什么是LightGBM？在上一篇的文章里，我介绍了XGBoost算法，它是是很多的比赛的大杀器，但是在使用过程中，其训练耗时很长，内存占用比较大。在2017年年1月微软在GitHub的上开源了LightGBM。该算法在不降低准确率的前提下，速度提升了10倍左右，占用...

深入机器学习的梯度优化

一、梯度我们先引出梯度的定义：梯度是一个矢量，其方向上的方向导数最大，其大小正好是此最大方向导数简单对于二维的情况，梯度也就是曲线上某点的切线斜率，数值就是该曲线函数的导数，如y=x^2^ ，求导dy/dx=2x扩展到3维（多维），各点方向导...

共有12条

< 1 2 >

跳转至： GO

更新时间 2023-11-02 07:58:37

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

社区圈子

阿里云机器学习平台PAI

阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。

2435+人已加入

加入