BERT是如何理解语言的？谷歌发布交互式平台LIT，解决模型可视化难题
【新智元导读】随着 NLP 模型变得越来越强大，并被部署在真实的场景中，理解模型的预测结果变得越来越重要。近期，谷歌发布了一项新的语言可解释性工具（LIT），这是一种解释和分析NLP模型的新方法，让模型结果不再那么【黑盒】。对于任何新的模型，研究人员可能想知道在哪些情况下模型表现不佳&...
谷歌提出多语言BERT模型：可为109种语言生成与语言无关的跨语言句子嵌入
近日，谷歌AI研究人员提出了一种称为LaBSE的多语言BERT嵌入模型，该模型可为109种语言生成与语言无关的跨语言句子嵌入。这一论文题目为「Language-agnostic BERT Sentence Embedding」，目前已在arxiv上发表。 &n...
谷歌NLP新模型「大鸟」突破BERT限制，稀疏注意力机制更省内存
谷歌最近又推出了一个重磅的稀疏注意力模型：Big Bird。 之前各种刷榜的BERT和它的各种衍生版本RoBERTa等，都是构建在Transformer基础上。 这些模型的核心竞争力就是全注意力机制，但这种机制会产生序列长度的二次依赖，如果输入的token过长，会撑爆内存，而长文...
华人博士一作：自动生成摘要超越BERT！帝国理工&谷歌提出新模型Pegasus
文本摘要是机器学习算法正在改进的一项任务，微软最近发表的论文“Structured Neural Summarization”证明了这一点。这是个好消息，因为自动文本摘要系统有望减少企业员工阅读信息的时间(一项调查估计人们每天至少花2.6小时阅读信息。)不甘示弱，谷歌大脑和伦敦帝国理工学院的一个团队...
谷歌终于开源BERT代码：3 亿参数量，机器之心全面解读
今日，谷歌终于放出官方代码和预训练模型，包括 BERT 模型的 TensorFlow 实现、BERT-Base 和 BERT-Large 预训练模型和论文中重要实验的 TensorFlow 代码。在本文中，机器之心首先会介绍 BERT 的直观概念、业界大牛对它的看法以及官方预训练模型的特点，并在后面...
独家 | 谷歌发布NLP最先进预训练模型：开源BERT
作者：Jacob Devlin and Ming-Wei Chang, Research Scientists, Google AI Language 翻译：佟海宁 校对：吴金笛 文章来源：微信公众号 数据派THU 本文约2000字，建议阅读9分钟。 本文为你介绍谷歌最新发布的自然语言预训练模型BE...
谷歌更强 NLP 模型 XLNet 开源：20 项任务全面碾压 BERT！
雷锋网(公众号：雷锋网) AI 科技评论按：去年 11 月份，谷歌研究团队在 GitHub 上发布了万众期待的 BERT，它不仅在 11 项 NLP 测试中刷新了最高成绩，甚至还表现出全面超越人类的惊人结果。但 BERT 带来的震撼还未平息，今日又一个令众多 NLPer 兴奋的消息发布： CMU 与...
如期而至！谷歌开源 BERT 模型源代码
雷锋网 AI 科技评论按：自上个月谷歌公开 BERT 模型以来，BERT 模型以其双向、深层等特点，成功在 11 项 NLP 任务中取得 state of the art 的结果，赢得自然语言处理学界的一片赞誉之声。惊鸿一瞥后，人们都在期待谷歌何时会放出 BERT 模型源代码。 直至今日，谷歌终于一...
谷歌最强 NLP 模型 BERT 解读
雷锋网(公众号：雷锋网) AI 科技评论按：本文是追一科技潘晟锋基于谷歌论文为 AI 科技评论提供的解读稿件。 最近谷歌研究人员通过新的BERT模型在11项NLP任务中夺得STOA结果，这在自然语言处理学界以及工业界都引起了不小的热议。作者通过在33亿文本的语料上训练语言模型，再分别在不同的下游任务...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。