神经网络二值-阿里云

首个在ImageNet上精度超过80%的二值神经网络BNext问世，-1与+1的五年辛路历程

两年前，当 MeliusNet 问世时，机器之心曾发表过一篇技术文章《第一次胜过 MobileNet 的二值神经网络，-1 与 + 1 的三年艰苦跋涉》，回顾了 BNN 的发展历程。彼时，依靠早期 BNN 工作 XNOR-Net 起家的 XNOR.AI 被苹果公司收购，大家曾畅想过这种低功耗、高效能...

NeurIPS 2021 | 华为诺亚Oral论文：基于频域的二值神经网络训练方法

二值神经网络（BNN）将原始全精度权重和激活用符号函数表征成 1-bit。但是由于常规符号函数的梯度几乎处处为零，不能用于反向传播，因此一些研究已经提出尝试使用近似梯度来减轻优化难度。然而，这些近似破坏了实际梯度的主要方向。基于此，在一篇 NeurIPS 2021 论文中，来自华为诺亚方舟实验室等机...

神经网络概览及算法详解

36 课时 |

801 人已学 |

加入学习

低成本的二值神经网络介绍以及它能代替全精度网络吗?

每年都会开发出更深的模型来执行各种任务，例如对象检测，图像分割等，这些任务始终能够击败最新模型。但是，人们越来越关注使模型更轻便，更高效，以便它们可以在边缘设备和移动设备上运行。这对于弥合机器学习的研究和生产价值之间的差距非常重要。减少深度神经网络的内存和计算成本的一种方法是二值神经网络的概念。二值...

第一次胜过MobileNet的二值神经网络，-1与+1的三年艰苦跋涉

二值网络是非常极致的一种神经网络，它的权重、激活值只有+1 与-1 两种状态。那么这么极简的神经网络到底能干什么，它的优势与限制都有什么？这就是本文关注的，我们希望通过基本概念、性能里程碑看看二值神经网络这几年到底有什么发展。与此同时，本文也着重介绍了一种最前沿的二值网络 MeliusNet，它的诞...

共有4条

< 1 >

跳转至： GO

更新时间 2024-03-14 15:27:12

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

产品推荐

{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"title":"边缘网络加速","contentLink":"https://www.aliyun.com/product/cloudcomm/snsu?spm=5176.19720258.J_8058803260.574.e9392c4aVf8e8P","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","des":"边缘网络加速（Edge Network Acceleration）依托运营商合规资源结合阿里云服务优势，为用户提供稳定安全、高速、低时延的网络传输，解决客户不同站点的连接、组网、数据安全传输、业务质量保障问题。","btn1":"加速上云服务","link1":"https://jssy.console.aliyun.com/?spm=5176.15027759.J_1664847110.2.13b83911azmqGg","btn2":"产品文档","link2":"https://help.aliyun.com/product/86106.html","btn3":"","link3":"","infoGroup":[{"infoName":"产品入门","infoContent":{"firstContentLink":"https://help.aliyun.com/document_detail/175961.html?spm=5176.15027759.J_7985555940.4.13b83911azmqGg","firstContentName":"产品快速入门","lastContentName":"用户指南","lastContentLink":"https://help.aliyun.com/document_detail/175961.html?spm=a2c4g.11174283.6.548.2cf61d6dUl00jW"}},{"infoName":"产品动态","infoContent":{"firstContentName":"产品最新动态","firstContentLink":"https://help.aliyun.com/document_detail/187651.html?spm=a2c4g.11174283.6.542.2cf61d6dUl00jW"}}],"iconImg":"https://img.alicdn.com/tfs/TB1VuYN3VP7gK0jSZFjXXc5aXXa-200-200.png","ifIcon":"img"}],"card":[],"search":[],"infoCard":[{"bannerUrl":"https://img.alicdn.com/tfs/TB1Xf81a3gP7K4jSZFqXXamhVXa-5169-974.jpg","bannerTitle":"mPaaS 小程序","bannerContent":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。<br>不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","liveButtonName":"查看详情","liveButtonLink":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","contentTitle":"提供即开即用的端上体验","homePageLink":"https://common-buy.aliyun.com/?spm=5176.14673561.J_8751524360.2.56702709BussF3&commodityCode=mpaas_beta#/open","homePageName":"免费试用","linkGroup":[{"linkContent":"发布包大小极致优化，节省流量和存储。"},{"linkContent":"服务迭代不再受发版限制，快速发布，快速迭代。"},{"linkContent":"业务开发效率更加优秀，一次开发，多端运行。"}]}],"title":{"mainTitle":"mPaaS","subtitle":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","linkUrl":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","btnText":"查看详情"},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"","textColor":"dark"},"dataList":[{"summary":"啦啦啦","author":"wuwu","linksUrl":"#"}],"sceneCard":[],"txt":[]}

{"$env":{"JSON":{}},"$page":{"env":"production"},"$context":{"optioninfo":{"dynamic":"ture","static":"true"},"simplifiedDisplay":"newEdition","newCard":[{"title":"边缘网络加速","contentLink":"https://www.aliyun.com/product/cloudcomm/snsu?spm=5176.19720258.J_8058803260.574.e9392c4aVf8e8P","link":"https://img.alicdn.com/tfs/TB1XY8hGYr1gK0jSZFDXXb9yVXa-1740-328.png","des":"边缘网络加速（Edge Network Acceleration）依托运营商合规资源结合阿里云服务优势，为用户提供稳定安全、高速、低时延的网络传输，解决客户不同站点的连接、组网、数据安全传输、业务质量保障问题。","btn1":"加速上云服务","link1":"https://jssy.console.aliyun.com/?spm=5176.15027759.J_1664847110.2.13b83911azmqGg","btn2":"产品文档","link2":"https://help.aliyun.com/product/86106.html","btn3":"","link3":"","infoGroup":[{"infoName":"产品入门","infoContent":{"firstContentLink":"https://help.aliyun.com/document_detail/175961.html?spm=5176.15027759.J_7985555940.4.13b83911azmqGg","firstContentName":"产品快速入门","lastContentName":"用户指南","lastContentLink":"https://help.aliyun.com/document_detail/175961.html?spm=a2c4g.11174283.6.548.2cf61d6dUl00jW"}},{"infoName":"产品动态","infoContent":{"firstContentName":"产品最新动态","firstContentLink":"https://help.aliyun.com/document_detail/187651.html?spm=a2c4g.11174283.6.542.2cf61d6dUl00jW"}}],"iconImg":"https://img.alicdn.com/tfs/TB1VuYN3VP7gK0jSZFjXXc5aXXa-200-200.png","ifIcon":"img"}],"card":[],"search":[],"infoCard":[{"bannerUrl":"https://img.alicdn.com/tfs/TB1Xf81a3gP7K4jSZFqXXamhVXa-5169-974.jpg","bannerTitle":"mPaaS 小程序","bannerContent":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。<br>不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","liveButtonName":"查看详情","liveButtonLink":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","contentTitle":"提供即开即用的端上体验","homePageLink":"https://common-buy.aliyun.com/?spm=5176.14673561.J_8751524360.2.56702709BussF3&commodityCode=mpaas_beta#/open","homePageName":"免费试用","linkGroup":[{"linkContent":"发布包大小极致优化，节省流量和存储。"},{"linkContent":"服务迭代不再受发版限制，快速发布，快速迭代。"},{"linkContent":"业务开发效率更加优秀，一次开发，多端运行。"}]}],"title":{"mainTitle":"mPaaS","subtitle":"源自于支付宝小程序框架，亿级线上业务体量的锤炼，安全性媲美支付宝原生能力。不仅面向自有 App 投放小程序，更可快速构建打包，覆盖支付宝、淘宝、钉钉等应用。","linkUrl":"https://www.aliyun.com/product/mobilepaas/mpaas-miniprogram","btnText":"查看详情"},"visual":{"topbg":"https://img.alicdn.com/tfs/TB1bQuBIYH1gK0jSZFwXXc7aXXa-3840-740.gif","icon":"","textColor":"dark"},"dataList":[{"summary":"啦啦啦","author":"wuwu","linksUrl":"#"}],"sceneCard":[],"txt":[]}}