读《深度学习革命》,就像看 AI科技英雄传,对几个人影响深刻:
杰弗里·辛顿
杰弗里·辛顿是发明了布尔代数(现代电子计算机基础)的英国数学家乔治·布尔的玄孙。
2018年图灵奖得主,被誉为“深度学习之父”,他学生全是现在AI领域的大神,比如伊利亚·萨特斯基弗(Ilya Sutskever)、杨立昆(Yann LeCun) 等。
辛顿父亲(医生/作家)经常对他这么说:“只要工作得足够努力,也许当你的年纪是我现在年龄的两倍时,你就能实现我一半的成就了。”
后来辛顿和自己的学生发表了AlexNet论文,成了计算机科学史上最有影响力的论文之一,被其他科学家引用超过6万次。
辛顿常常说,这篇论文被引用的次数至少比他父亲写过的任何一篇论文都多5.9万次,“但是谁会数呢?”
伊利亚·萨特斯基弗(Ilya Sutskever)
辛顿给了伊利亚一份论文(25年前揭示了深层神经网络的潜力),告诉他读完之后再回来。
几天后,伊利亚回来了。
“我不明白。”他说。
“这只是基本的微积分。” 辛顿说,他既惊讶又失望。
“哦,不是的。我不明白的是,你为什么不求导并采用一个合理的函数优化器。”
“我花了5年时间才想到这一点。”辛顿对自己说。
于是他递给这名21岁的学生第二篇论文。一周后,萨特斯基弗又回来了。
“我不明白。”他说。
“为什么呢?”
“你训练一个神经网络来解决一个问题,然后,如果你想解决一个不同的问题,你又要用另一个神经网络重新开始,继续训练它来解决一个不同的问题。其实,你应该训练一个神经网络来解决所有的问题。”
杰夫·迪恩
巴斯蒂安·特隆说:“迪恩的专长是用数百万台计算机构建一个系统,并使其运行得像一台计算机一样。在计算机历史上,从来没有人做到过这样。”
杰夫·迪恩是谷歌的技术大神,神到网上大量关于他技术有多牛逼的段子:
- “杰夫·迪恩曾经在一次图灵测试中失败,因为他在不到一秒的时间里正确识别了第203个斐波那契数。”
- “杰夫·迪恩在提交代码之前对其进行了编译和运行,只是为了检查编译器和CPU的错误。”
- “杰夫·迪恩的个人识别码是圆周率的最后4位。”
- “2000年后段,杰夫·迪恩码代码的速度突然激增了 40 倍,原因是他把自己的键盘升级到了 USB2.0”
- “杰夫·迪恩的键盘多达两个键:1 和 0”
更多段子见:https://t.co/5DwHBgvgLT