第100章 还缺失一点东西!(5k) (第2/2页)
积网络设计初稿,他们今天特意来找皮特罗,就是为了商讨借用ImageNet的数据集的事。
看着打完电话後出神的皮特罗,辛顿疑惑道:「皮特罗?怎麽了?是李那边不同意授权吗?没关系,如果她有顾虑,我可以亲自去跟她解释,这个实验对神经网络的未来至关重要————」
「不,辛顿,李没有不同意,而是————你们好像不用再做这个实验了。」
亚历克斯愣了一下,着急地说道:「教授,我们的代码已经基本调通了,只要能拿到ImageNet的数据,我们有信心将分类错误率降低到23%甚至更低!这会是神经网络史无前例的突破!」
"23%?"
「亚历克斯,把你的草稿收起来吧,刚刚从巴塞隆纳IcCV现场传来的消息,ImageNet
挑战赛的结果已经出来了。」
辛顿眉头一皱,心中升起一股不祥的预感:「今年是谁拿了第一?还是XRCE吗?他们的错误率是多少?」
「第一名是QInet的模型,他的开发者来自於华国,叫漆昊。」
「QInet也是一个卷积神经网络,它的错误率是在15%,超过第二名11%。」
亚历克斯瞪大了眼睛,甚至怀疑自己的耳朵出了问题:「15%?!我们现在的理论模型极限预测也才20%左右,他们怎麽可能做到15%?!」
而坐在一旁的辛顿,脑子突然一片空白。
这位在深层神经网络的泥潭里苦苦挣紮了数十年,被主流学术界冷落,嘲讽甚至一度拉不到研究经费的教授,此时迷茫了起来。
他原以为,自己和亚历克斯正在进行的这项基於GPU加速的CNN研究,将会是他们实验室可以在明年惊艳全世界的耀眼成果。
可他万万没有想到,他们的成果还没出来,就已经有人拿出了比他们更好的模型出来!
「QInet,漆昊————」辛顿乾瘪的嘴反覆念叨着这两个名字。
「成功了,竟然真的成功了!哈哈哈哈!」辛顿突然毫无预兆地大笑起来,他站起身来,像个小孩子一样在办公室里兴奋踱步。
又疯了一个?
「辛顿,你没事吧?」皮特罗有些担忧地看着他,「你的研究被人抢先了,而且差距拉得这麽大————」
「不,你不懂,皮特罗!」
辛顿回答:「我高兴不是因为别的,而是因为这个华国青年用无可辩驳的事实,向全世界证明了,我是对的!神经网络不是垃圾!它才是通往真正人工智慧的唯一道路!」
「我们都被困住太久了!」
「自上世纪八十年代反向传播算法被冷落以来,学术界就陷入了对传统统计学习和支持向量机的迷信中。」
「他们嘲笑神经网络无用,认为它绝无可能解决复杂的认知问题,而QInet的出现,将会打破这些偏见,这不单单是漆昊团队的成功,更是联结主义学派在沉寂了数十年後的复兴。」
「看着吧,皮特罗,计算资源的瓶颈终将被打破,算法的范式已经改变,从今往後,那些曾经唱衰神经网络的人,都不得不重新审视神经网络这个领域。」
他快步走到亚历克斯身边,一把按住学生的肩膀,说道:「亚历克斯!快!立刻就去查这个漆昊的联系方式,哪怕是发邮件,打电话,我们也必须立刻联系上他!」
「我们要去质疑他的数据吗,导师?」亚历克斯有些兴奋。
「不!我们要去向他请教!」
亚历克斯:?
辛顿的眼神里没有丝毫的嫉妒,只有对先进技术的渴望:「他既然能跑出15%的成绩,说明他在底层算子的设计、网络深度的控制,甚至是GPU矩阵乘法优化上,绝对掌握了我们还未曾发现的秘密!」
「时代已经变了,亚历克斯,如果我们不立刻跟上他的步伐,我们就会被这个新时代抛弃!」
此时此刻,辛顿那份原本准备用来震惊世界的草稿,在QInet面前,显得是那样的微不足道。
巴塞隆纳,国际会议中心。
「先生们,女士们!今晚注定是一个将被写入计算机科学教科书的伟大时刻!」
「现在,让我们用最热烈的掌声,有请本次ImageNet挑战赛的无可争议的冠军,来自华国的漆昊团队,上台领奖!」
在聚光灯的追踪下,漆昊走到了舞台中央,摄像机镜头对准了他。
「恭喜你,漆昊,你是当之无愧的第一名。」李教授将奖金支票递到他手中,「这是ICCV为你准备的两万美元奖金,以及我们合作夥伴英伟达赞助的最新一代顶级旗舰GPU。
「6
漆昊接过道了谢。
没想到,他这次出门,没怎麽花钱不说,还倒赚了两万美金回去。
「漆昊,今晚过後,计算机视觉,和深度学习领域的格局都会被你改变,不仅是我们这些搞学术的要受到你这套QInet模型的影响,我想,连那些矽谷的晶片巨头们,也该重新审视他们的战略了。」
「如果你後续的研究还需要更多的硬体算力,我可以亲自帮你去联系英伟达的那位黄总,我会告诉他,这对於他们来说,也是一次重要的机会,我相信他们会愿意免费向你提供GPU的。」
免费啊。
那不要白不要了。
更何况,如果由李教授这位ImageNet的创始人去推动英伟达的黄总,这位精明的商人绝对能在提前意识到QInet对於GPU市场意味着什麽,到时候,自己不仅能获得源源不断的免费硬体支持,深度学习领域也能快速发展起来。
接着漆昊与李教授握手合影。
合影留念结束後,主持人开始引导台下的观众起立鼓掌,准备进入下一个环节。
漆昊与李教授顺着台阶退到舞台一侧的休息区,由於晚宴和自由交流时间还没正式开始,这一角暂时成了难得的清静之地。
「漆昊,再次祝贺你。」李教授端起一杯苏打水,递给漆昊一杯,微笑着说道,「今晚过後,全行业的目光都会盯在QInet上。」
「作为这个奇蹟的创造者,你接下来有什麽具体的打算?是准备把这套架构开源,还是已经有了下一步的研究计划?比如探索更具挑战性的视频生成,或者是多模态的融合?」
「谢谢李教授,其实,我可能要让您失望了。」
「回国之後,我打算暂时把深度学习和图像识别的工作放一放,想重新回归数学。」
「回归数学?」李教授眼中流露出诧异。
「漆昊,这可太可惜了!你可能还没意识到你现在站在一个多麽关键的历史节点上。」
「QInet拉开了深度学习新时代的大门,无论是学术界还是工业界,现在都渴望你接下来的动作,如果你顺着这条路走下去,你完全可以建立一个属於你自己的研究帝国,而纯数学那可能是很多年都看不到任何应用成果的路。」
「我明白您的意思,李教授。」
「但我总觉得,现在的深度学习,还缺失一点东西。
李教授微微挑了挑眉,顺着他的话问道:「缺失什麽?」
「损失函数的优化路径,其实是在寻找一个流形上的一个极小状态,这个过程,非常类似於某种共形变换下的面积极小化过程,也就是通过参数的调整,让数据流动的路径面积达到最小,同时保持特徵的某种几何不变量————」
漆昊自顾自地解释着,然而,当他亲口说出共形变换群,极小化状态以及严格证明的下界这几个词汇时,他脑中冒出了一些东西。
这些东西,他不知道最终导向什麽地方,但就是这麽突然冒出了出来。
关键这玩意没前没後的,就跟证明题跳了步骤一样。
唉,学霸的灵感真是挡也挡不住。
漆昊看向了一旁的白板,继承了老苏数学家的优良传统,他写下了一行极简的式子————