AI教父辛顿电话采访实录：获诺奖惊呆了！担心更聪明的AI掌控一切
IT之家 10 月 4 日消息，法国汽车制造商雷诺发布了一款名为 Embleme 的氢能源概念车，旨在展示氢燃料电池技术在未来出行中的巨大潜力，这款概念车将亮相即将到来的巴黎车展。Embleme 搭载氢燃料电池增程器动力系统，拥有 30kW 燃料电池与镍锰钴（NMC）电池。在城市内，车辆主要依靠电池驱动，而长途行驶时，氢燃料电池则提...
2024 年诺贝尔物理学奖揭晓，科学家约翰·J·霍普菲尔德（John J. Hopfield）与杰弗里·E·辛顿（Geoffrey E. Hinton）共同荣获该奖项，以表彰他们为利用人工神经网络实现机器学习而作出的基础性发现和发明。
随后，诺贝尔奖*员会特别连线了辛顿教授，他分享了自己的获奖感受，并对人工智能未来的发展趋势进行了富有洞察力的预测。
以下为电话连线内容实录：
诺奖*员会：早上好，辛顿教授，请接受我们向您致以最热烈的祝贺，恭喜您荣获诺贝尔物理学奖。
辛顿： 感谢！
诺奖*员会：此刻您有何感想？
辛顿：我简直惊呆了！我完全没想到会发生这种事。我 惊讶。
诺奖*员会：我完全能够理解您此刻的心情。现在，我正置身于瑞典皇家科学院这个美丽的会议厅中。而在这个新闻发布会的现场，汇聚了众多来自瑞典以及世界各地的媒体记者，您是否愿意回答他们的一些提问？
辛顿：当然，请！
提问 1：谢谢！对于您取得的卓越成就以及今年荣获诺贝尔物理学奖，我再次表示最热烈的祝贺。我是来自瑞典电视台的苏珊·利特森（Susan Ritson）。我知道，我们的许多观众，以及普通民众，都对您此次获奖的研究成果充满了好奇。我想知道，您是在何时意识到自己取得了今天的突破性成就的？如果可以的话，也请您简要地为我们回顾一下这段历程，并分享一下这些发现背后的原因或灵感来源。
辛顿：我清晰地记得有两次这样的瞬间，而且都是与我的导师共同经历的。因此，我由衷地感谢大卫·格拉梅尔哈特（David Grommelhart）和特里·索诺夫斯基（Terry Sonovsky）两位导师。我与格拉梅尔哈特一同发现了反向传播算法，那是在1982年初的时候。后来，我又与索诺夫斯基携手为霍普菲尔德神经网络（Hopfield Nets）找到了一种适用于具有隐藏单元的学习算法。
我至今还清楚地记得，我曾前往罗切斯特参加一个会议，会上约翰·霍普菲尔德发表了演讲。正是那次演讲，让我首次了解到霍普菲尔德能量函数在神经网络中的应用。自那以后，我和索诺夫斯基便全身心投入到这项研究中，致力于将具有隐藏单元的神经网络进行推广。终于，在1982年初，我们成功提出了一种适用于具有隐藏单元的霍普菲尔德网络的学习算法。所以，对我而言，最激动人心的时刻莫过于与格拉梅尔哈 同研究反向传播算法，以及与索诺夫斯基一同进行的后续研究。
提问 2：你好，我是来自波兰电视台的博格纳尔·拉德斯基（Bognor Radesky）。首先，祝贺您获奖。我的问题更多聚焦于未来，因为目前我们对神经网络和机器学习所展现的潜力感到无比兴奋，而我们对它们在未来可能开创的前景更是充满期待。您如何看待这项技术将对我们的文明产生的深远影响？
辛顿：我认为这项技术将产生巨大影响，甚至可以与工业革命相媲美。但不同之处在于，工业革命主要是在体力上超越了人类，而这次技术革命则将在智力上超越人类。我们从未经历过有比我们自身更加智慧的存在，这无疑将在诸多方面带来美妙的变革，比如在医疗保健领域，它将助力我们获得更好的医疗服务。在几乎所有我们关注的领域，它都将大幅提升效率。有了人工智能的辅助，人们将能够在更短的时间内完成更多的工作，这意味着生产力的飞跃式提升。然而，我们也必须正视一系列潜在的负面后果，尤其是这些技术可能失控的风险。
提问3：您好，我是西蒙·坎帕内拉（Simon Cam nella）。首先，祝贺您荣获诺贝尔物理学奖。我记得去年您在《纽约时报》的一次访谈中提到，您对自己在人工智能领域的一部分工作感到后悔，因为您认为人工智能存在风险。那么，时至今日，您对此有何感想？
辛顿：关于后悔，其实有两种。一种是做了明知不对的事，而后心生愧疚；另一种是，你做了在同样情境下可能会再次选择做的事，但结果可能并不尽如人意。我属于后者。如果时光倒流，在同样的情况下，我还会再次这样做，但我担心，比我们更聪明的系统最终会掌控一切。
提问 4：恭喜您荣获此奖项。我是来自第四电视台的艾米丽·伊格纳德（Emily Ignored）。我想了解一下，您所研究并应用的是哪种类型的人工智能技术？它是像GPT那样已经广泛应用的模型，还是专注于特定任务，比如通过X光识别乳腺癌，或是像DALL-E那样能够生成有趣图片的模型？您的研究具体是基于哪种人工智能技术呢？
辛顿：我曾参与研究过两种不同的学习算法。一种是针对带有隐藏单元的霍普菲尔德网络（Hopfield nets）的学习算法，我们称之为巴尔的摩机（Baltimore Machine）。尽管我们最终确实找到了它的一个实用版本，但并非当前取得主要进展的那个方向。真正取得突破性进展的是反向传播算法，这是一种能够让神经网络学习几乎任何事物的通用方法。正是反向传播算法推动了人工智能应用的爆炸式增长，包括图像识别、语音识别和自然语言处理能力的提升。因此，取得显著进展的是反向传播算法，而非巴尔的摩机。
提问 5：我是比尔，来自瑞典报纸《Technique》。请问您有没有特别喜欢或经常使用的人工智能工具？
辛顿：我实际上经常使用GPT-4。每当我需要了解任何事情的 时，我都会向GPT-4提问。尽管我并不完全依赖它，因为它有时会提供不准确或误导性的信息，但在大多数情况下，它都能作为多面手，提供 有用的信息。
提问 6：恭喜您获奖，我是来自《Al Jazeera》的保罗·里斯（Paul Reece）。能否请您分享一下，当您接到获奖通知的电话时，您身在何处？这个消息对您产生了怎样的影响？这是否是您在日记中曾设想过的场景，还是完全出乎您的意料？
辛顿：这个电话完全出乎我的意料。当时我正住在加州的一家经济型旅馆里，那里既没有网络连接，电话信号也不太好。我本来计划今天去做核磁共振检查的，但现在看来，我得取消这个安排了。
诺奖*员会：好的，这似乎是您从媒体那里得到的最后一个问题了，辛顿教授。再次向您表示最热烈的祝贺。我们期待在12月的诺贝尔奖颁奖典礼上与您在斯德哥尔摩相见。
辛顿：谢谢！（腾讯科技特约编译金鹿）
