天才一秒记住【久久文学】地址:https://www.jjwxx.com
他猛地站起身,立刻拨通了杰夫·迪恩的电话。
杰夫·迪恩是谁?
在谷歌,甚至在整个硅谷,这个名字就是一个神话。
他是谷歌大脑的创始人,是mapreduce、bigtable、spanner等分布式系统的设计者,是tensorflow的缔造者。
在程式设计师圈子里流传著无数关於他的“查克·诺里斯式”
笑话:
“当杰夫·迪恩提交代码时,编译器会向他道歉。”
“杰夫·迪恩不需要编译器,他直接写二进位机器码。”
“光速在真空中是常数,是因为杰夫·迪恩还没优化它。”
他是真正的“代码之神”
,是谷歌技术帝国的基石。
……
电话接通,那头传来杰夫·迪恩冷静而富有磁性的声音。
“大卫,现在是凌晨一点。
如果不是alphago有了自我意识,或者地球即將毁灭,你最好给我一个合理的解释。”
“杰夫,別睡了!
快看我发给你的邮件!
我们可能错过了一个亿!”
大卫的声音都在颤抖,“不,是错过了一个时代!”
十分钟后。
杰夫·迪恩坐在家里的书房,盯著屏幕上的论文和demo数据。
他的眼神,从最初的睏倦,逐渐变得锐利,最后变成了震惊。
作为系统架构的大师,他看到的不仅仅是算法的精妙,更是其背后对计算范式的顛覆。
“这个中国人……他绕过了矩阵。”
杰夫·迪恩喃喃自语。
“现在的ai,本质上是建立在矩阵乘法之上的。
无论是gpu还是我们引以为傲的tpu,其底层逻辑都是为了加速矩阵运算。”
“但是这个slrm……”
杰夫·迪恩的手指在桌面上轻轻敲击。
“它的核心是几何求交和非线性变换。
这些操作在现有的tpu上跑,效率极低。
tpu那庞大的脉动阵列会因为无法填满数据而空转。”
“这意味著,如果我们想大规模部署这个模型,我们现有的硬体架构……全是废铁。”
这对於谷歌来说,是一个灾难性的结论。
要知道,谷歌为了tpu项目,已经投入了数千名工程师和数百亿美元。
tpuv4刚刚部署到数据中心,tpuv5正在流片。
现在,突然有人告诉他:你们的路走窄了。
“马上召开战略会议。”
本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!