CVPR 2022 | 视频Transformer自监督预训练新范式，复旦、微软云AI实现视频识别新SOTA
机器之心编辑部复旦大学、微软 Cloud+AI 的研究者将视频表征学习解耦为空间信息表征学习和时间动态信息表征学习，提出了首个视频 Transformer 的 BERT 预训练方法 BEVT。该研究已被 CVPR 2022 接收。在自然语言处理领域，采用掩码预测方式的 BERT 预训练助力 Tran...
Transformer将在AI领域一统天下？现在下结论还为时过早
从自然语言处理任务起家，又在图像分类和生成领域大放异彩，所向披靡的 Transformer 会成为下一个神话吗？想象一下你走进一家本地的五金店，在货架上看到一种新型的锤子。你听说过这种锤子：它比其他锤子敲得更快、更准确，而且在过去的几年里，在大多数用途中，它已经淘汰了许多其他锤子。此外...
用Transformer定义所有ML模型，特斯拉AI总监Karpathy发推感叹AI融合趋势
特斯拉 AI 总监 Andrej Karpathy 连发多条推文表示，AI 不同领域（视觉、语音、自然语言等）正在打通，融合速度令人惊叹。今日，特斯拉 AI 总监、Autopilot Vision 团队领导人 Andrej Karpathy 在推特上发文，对 AI 领域正在进行中的融合（consol...
Hinton坐阵！斯坦福CS25 Transformer专题讲座更新：多位AI大佬齐聚
【新智元导读】斯坦福大牛Christopher Manning开设的Transformer联合讲座课程更新啦！这期请来的是Hinton大神。图灵奖得主、深度学习教父Geoffrey Hinton在斯坦福线上开课啦？ 本课程是斯坦福大学计算机科学家Christopher Manning教授开设的CS2...
一种架构来完成所有任务—Transformer架构正在以一己之力统一AI江湖
目录一种架构来完成所有任务—Transformer架构正在以一己之力统一AI江湖一种架构来完成所有任务—Transformer架构正在以一己之力统一AI江湖语言模型，图像、视频方面这一年都被Transformer架构同时刷新了模型规模和性能基准。这里还是要说到Transformer的各类变体在这一年...
Transformer原理解析——一种Open AI和DeepMind都在用的神经网络架构
Transformer模型是一种日益流行的神经网络结构。它最近被OpenAI用于他们的语言模型中。与此同时，近期也被DeepMind用于它们的程序“星际争霸”中击败了一名顶级职业星际玩家。 Transformer模型的开发是为了解决序列转换及神经机器翻译问题。这意味着可以解决任何sequence t...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
