您现在阅读的是
哇叽文学www.wajiwx.cc提供的《学霸的模拟器系统》第266章 比基尼与凸优化（求订阅求月票）(第2/3页)
很旧。
而且,在她偶尔调整坐姿时,脚踝处隐约露出一抹青黑色的痕迹,像是一条蛇的尾巴,被黑色的职业丝袜极力遮掩着。
这是一种把自己塞进模具里的不适感。
“cire。”
林允宁突然打断了她关于“代码规范性”的长篇大论。
他身体前倾,双手交叉放在桌上,眼神变得锐利:
“咱们能不能别装了?”
克莱尔的声音戛然而止。
她推了推眼镜,职业假笑僵在脸上:"excer,杰夫?迪恩肯定给出了一个让人无法拒绝的薪资待遇。如果你想要安稳,去山景城晒太阳写代码是最好的选择。”
林允宁指了指窗外灰蒙蒙的天空,“但你既然从新泽西飞到这个鬼天气的地方,还特意穿成这样来见我,说明你根本不想当一颗螺丝钉。”
克莱尔那张一直保持着职业假笑的脸了一下,眼神里闪过一丝被看穿的错愕。
下意识地,她缩了缩左脚,试图把脚踝藏进椅子下面,手指也停止了转动那个手环。
"res。
林允宁没有给她喘息的机会,直接抛出了技术话题,“上个月我们在cvpr上公布了源码。李飞飞教授说,你在我们发布之前就在研究类似的结构。
“我想听听你的看法。不是那种写在论文里的漂亮话,我要听实话,听缺点。
克莱尔沉默了两秒。
然后,她抬起手,摘下了那副碍事的平光眼镜,随手放在桌上。
那种职业性的伪装虽然还在,但眼神变了。
变得锐利,甚至带着一点初生牛犊的攻击性。
“实话?”
克莱尔看着林允宁,语气变得犀利,“实话就是,您确实是个天才,res是个工程学的奇迹,但在数学美感上,它并不完美。
“h=f+x。这确实解决了梯度消失,把网络堆到了101层。这对于计算机视觉来说是核武器,因为图像是局部相关的。
“但是,林先生,ai并不只是用眼睛看,更要与人沟通,res如对于自然语言处理来说,它太‘笨重''了。”
她站起身,也不管这是面试现场,直接走到白板前,抓起马克笔画了一个长长的序列图。
“语言不是像素点。语言是流动的,是有长距离依赖的。''iloveyou''和''youlove'',字是一样的,意思完全不同。
“目前的rnn太慢,无法并行。而res虽然深,但它依然是基于局部卷积的逻辑。如果我们想让机器读懂莎士比亚,或者是理解一篇复杂的论文,靠堆层数是堆不出来的。”
她转过身,看着林允宁,眼神灼灼:
“我在想,未来的方向不应该是更深,而应该是更宽,或者是......更关注。
“我们需要一种机制,能让模型在看到‘苹果’这个词的时候,瞬间联想到句尾的‘好吃’,而忽略中间那十个无关紧要的形容词。无论它们距离多远。
“就像......我们在看一张复杂的派对照片时,目光会自动聚焦在那个最辣的女孩身上,而忽略背景里的墙纸。”
说着,她下意识挺了挺饱满的胸口,却又意识到自己的话有些不合时宜,轻咳了一声,掩饰尴尬。
方雪若眉毛一挑,看向林允宁,显然对克莱尔这种突然反客为主的画风有些不适应。
但林允宁却笑了。
他看着克莱尔,满意地点了点头。
这姑娘果然是个天才,而且有着极强的直觉。
她已经摸到了那扇门的把手,只是还不知道怎么推开。
“很有趣的想法。”
林允宁站起身,走到白板前,拿起另一支笔。
“你想要‘关注”。但在数学上,怎么定义这种关注?”
他在白板上写下了一个矩阵乘法的雏形。
“如果我们将每个词都映射为一个向量。我们要寻找词与词之间的关系……………”
林允宁一边说,一边写下了三个字母:q、k、v。
“ery,key,vae。”
林允宁的声音在安静的会议室里回荡,带着一种引导性的魔力,“如果把每个词看作是在数据库里的一次查询。
“我想找和‘苹果”相关的词。那么‘苹果’就是ery。
“句子里的其他所有词,都举起手中的key。
“我们计算q和k的点积,这就代表了它们之间的匹配度??也就是关注度。
随着他的书写,一行简洁而优美的公式出现在白板上:
attention=soft)v
克莱尔盯着那个公式。
她的瞳孔猛地收缩,像是看到了什么不可思议的东西。
“点积......归一化......加权求和......”
她喃喃自语,随即猛地转头看向林允宁,眼神里满是震惊,“抛弃循环?直接计算所有词之间的相互作用?全连接的拓扑结构?”
“没错。
林允宁看着她,“就像量子纠缠。只要关联度够高,信息瞬间送达,无视距离。最重要的是??”
林允宁指了指隔壁机房的方向:“因为没有了时序依赖,我们可以利用gpu进行大规模并行计算。训练速度将提升成百上千倍。”
克莱尔深吸了一口气。
她知道林允宁在注意力机制和神经网络领域造诣极高,但没想到他居然三言两语就帮她推开了一扇新的大门!
这种数学上的通透感,让她浑身的鸡皮疙瘩都起来了。
比她在半月湾冲过最大的那个浪还要爽。
“这太......性感了。”
她忍不住感叹了一句,完全忘了这是在面试,也忘了自己应该保持矜持。
“所以,cire。”
林允宁放下笔,靠在会议桌上,看着这个终于露出了真面目的女孩,“你的导师李飞飞,是我的好友,她跟我说了你的情况。
“我知道你在担心什么。
“你觉得芝加哥很冷,很无聊,没有加州的阳光和海滩。如果都是要枯燥地写代码,为什么不去一个自己喜欢的地方定居呢?
“但是,我想告诉你,在谷歌,你只是几万名工程师里的一个,负责给搜索广告优化0.1的点击率。
“而在这里......”
林允宁指了指白板上的公式,又指了指机房的方向:
“这几千张显卡归你指挥。我们要做的,不是优化旧世界,而是创造一个新的物种。一个能读懂语言、甚至能生成艺术的硅基大脑。
“以太动力用不着听话的工程师,我们缺的是能让台下欢呼的音乐节dj。
“我知道你是网络红人,也知道你想让全世界都看到你的名字。”
林允宁抛出了最后一个重磅炸弹,“我能给你的,不仅仅是在facebook上的知名度,而是通过改变世界的算法,让你真正成为ai界的红人。”
克莱尔看着比自己还要年轻的创业者。
又看了看白板上那个还没擦掉的公式。
林允宁所说的愿景,就是她梦寐以求的理想。
她深吸了一
-->>（本章未完，请点击下一页继续阅读）【请收藏哇叽文学 wajiwx.cc】