4)第一百二十八章 伯特的诞生_学霸从谈恋爱开始
字体:      护眼 关灯
上一章 目录 下一章
  ”

  不得不说,这想法非常简单,苏飞甚至有一种白白浪费了一张灵感激发卡的感觉。

  明明想到遮盖机制的时候已经离正确答桉只有一墙之隔了……

  罢了罢了,终究是事后诸葛亮,就像数学考试总有一道题目就感觉差临门一脚,看了答桉才直呼自己笨,但终究还是差了那么点。

  苏飞在消化了这股庞大的信息流后,他的意识逐渐回到了自己身体上。

  看着桌子前的台灯和纸笔,苏飞突然感觉有点陌生,之前心念一动就有无数公式浮上心头,意识中都已经把模型结构图和公式证明全部完成了,现实中还得手写……

  苏飞在小本本空白的位置上,一字一顿地写上新论文的标题名【BidirecoderRepresentationsfromTransformers】。

  意为来源于变形金刚的双向编码器向量表示。

  这个论文的标题和ELMo的标题书写方式是一样的,只不过ELMo是致敬了TagLM,但这篇新论文纯属是自己致敬自己了。

  现在变形金刚爆火,自己蹭自己的热度嘛,不丢人,何况,未来到底哪篇蹭哪篇还真不一定。

  毕竟预训练模型的效果一般都是高于单一模型的。

  当然,苏飞还有一个小小的恶趣味,这篇新论文的每个英文单词的第一个拼在一起就是这个预训练模型的名字——Bert。

  Bert也是美国少儿向电视剧芝麻街的主人公之一,那长土豆一样的黄色可爱脸蛋,吸引了世界上不少孩童的目光,也是现在的不少人们心目中的童年回忆。

  之前的ELMo完全就是无心之失,苏飞自己也没想到一不小心就凑上了埃蒙这个芝麻街小可爱的名字,但这次的伯特,苏飞可以很骄傲地说,俺就是凑的,而且凑的还相当不错,这个标题甚至还把这篇论文的主要内容一笔点出。

  值得苏飞有些担忧的是,芝麻街中还有一个叫恩尼的小可爱,不少人怀疑它和伯特是同性恋,到时候不会真有人也硬凑了个恩尼的模型名字吧……

  苏飞写写改改,把Bert的大致思路和内容都记载在了这个小本本上,只要在回校之后做个模型,跑个实验,这篇新论文就搞定了。

  老实说,这篇论文其实主要还是借鉴了变形金刚的工作,所以对于苏飞来说,这篇论文的构思比之前的两篇都要简单很多。

  但苏飞毫不怀疑它的效果,正如埃蒙比长短期记忆神经网络模型的效果好上一两成一样,伯特也必然会比变形金刚的效果好上一两成。

  在创造了伯特后,苏飞打了个哈欠,他看了眼时间,已经接近十一点,两天没睡觉再加上一张灵感激发卡消耗了不少精神力的他,终于有些困倦,躺到床上倒头就睡。

  …

  …

  等到第二日日上三竿的时候,苏飞才悠悠然起床,手机上收到了好几个VX未接电话还有王正和姜大校花两人的留言。

  虽说学术会议不会强制参会者们参加每一天每一场的海报交流和学术交流,但ACL这种顶会,基本没几个人愿意错过任何一场学术报告,所以导师们一般都会监督自家的学生们认真参与学术会议。

  当然,苏飞也算是个例外,这学生着实有些太勐……王正和鲁超倒不是监督他参加学术交流的,而是单纯因为联系不上他而有些担忧他的安全,毕竟这可是美国。

  苏飞给几人一一回信后,叼了块面包,拿了瓶酸奶就悠哉地前往ACL会场。

  请收藏:https://m.youshu88.com

(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)

上一章 目录 下一章