为内存塞不下Transformer犯愁？OpenAI应用AI研究负责人写了份指南（1）
本文是一篇综述性的博客，探讨总结当下常用的大型 transformer 效率优化方案。大型 Transformer 模型如今已经成为主流，为各种任务创造了 SOTA 结果。诚然这些模型很强大，但训练和使用起来代价非常昂贵。在时间和内存方面存在有极高的推理成本。概括来说，使用大型 Transforme...
大型语言模型教会智能体进化，OpenAI这项研究揭示了二者的互补关系
在一项最新的研究中，OpenAI 的研究者探讨了大型语言模型与进化计算之间的互补关系。大型语言模型的代码生成能力已足够影响智能体的进化，这一进展反过来也能增强大型语言模型的生成能力。很难想象，让大型语言模型辅助一下智能体机器人，它就自己成精了......深度学习和进化计算两种方法都适用于计算，都可以...
利用催眠技巧绕开OpenAI的内容政策限制（仅供研究使用）
fork的仓库：https://github.com/JanYork/chatgpt-chinese-prompt-hack声明：请仅作研究之用，不要违规使用！在hack成功后,通过屏蔽moderetions的api请求,可以绕过OpenAI对于输出内容的审查.地址为:https://chat.op...
媒体炒作掩盖研究价值？OpenAI的GPT-2不只是代码开放问题
2 月 14 日，OpenAI 发布大型无监督语言模型 GPT-2，它能够产生连贯的文本段落，在许多语言建模基准上取得了 SOTA 表现。而且该模型在没有任务特定训练的情况下，能够做到初步的阅读理解、机器翻译、问答和自动摘要。文章一经发布，在媒体界激发了巨大的响应和想象，也同样引起诸多研究人员的关注...
OpenAI最新研究：通过无监督学习提高语言理解能力
我们的系统分为两个阶段：首先，我们通过无监督的方式在大数据集上训练一个迁移学习模型，训练过程中使用语言模型的训练结果作为信号，然后我们在更小的有监督数据集上对这个模型进行微调，以帮助它解决特定的任务。这个方法的开发是在我们前一个sentiment neuron（情绪神经元）的工作之后进行的，在sen...
OpenAI 研究线性网络的非线性行为，数值计算的玄机带来全新的网络表现
不管是一般的编程还是机器学习，凡是计算机中的数据都是以一定的数据格式表示的。但有些情况下数据格式会带来明显的限制，造成计算结果的异常。 不过在 OpenAI 的研究人员们看来，这种“计算结果的异常”可以成为给神经网络带来新的可能性的落脚点。在这篇博文中，他们就介绍了一种异常的来源以及如何运...
Nvidia助力OpenAI非营利研究项目 赠AI超级计算机
上周，英伟达CEO黄仁勋（Jen-Hsun Huang）亲自在旧金山将一台DGX-1超级计算机赠与了OpenAI研究人员。DGX-1有着“装在盒子里的AI超级计算机”之称，它将由OpenAI非营利组织的研究团队用来探索与人工智能相关的诸多挑战。 其想法在于寻找OpenAI组织可以利用超级计算机的方法...
OpenAI最新研究：“对抗样本”能轻易黑掉AI系统，如何抵御？
雷锋网(公众号：雷锋网)按：近日，OpenAI发表最新研究，论述了AI安全领域的一大隐忧：“对抗样本”，它可以轻易地让机器学习系统产生误判，这会对AI的应用实践产生影响。在这篇由“GANs”之父Ian Goodfellow领衔撰写的文章里，OpenAI针对“对抗样本”进行了防御策略的实验，其中有两种...
如何管教AI的行为举止？OpenAI早已开始研究，而这只是整个AI安全领域的前哨
雷锋网 AI 科技评论按：在比赛中刷成绩和在游戏中击败人类职业选手仅仅是 AI 研究的一部分，OpenAI 的研究人员们同样重视对 AI 安全性的研究。这篇文章是纽约时报来到 OpenAI 实验室的报道，介绍了 OpenAI 近期在 AI 安全领域的想法和一些成果，也让我们看到了 OpenAI 研究...
OpenAI和微软签署协议 共同推进人工智能研究
11月16日消息，据路透社报道，OpenAI与微软在就公用云服务Azure上运行其大规模计算方面签署了协议。OpenAI是由特斯拉汽车公司伊隆·马斯克和其他重要技术高管支持的非盈利人工智能（AI）研究公司。 OpenAI将利用微软Azure来运行深度学习和人工智能的测试，并和微软合作推进研究和创新技...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
