AI教父Geoffrey Hinton：GPT-4的知识比任何人类多数百倍

被称为“人工智能教父”电脑科学家欣顿（Geoffrey Hinton）周一宣布已辞去Google的职位。毕生致力于开发人工智能系统的他，声称“后悔自己的毕生志业”，并警惕AI发展的潜在危险。在最近另一篇专访中，欣顿进一步谈及为何他对AI研发感到害怕。

75岁的欣顿离开Google消息传出的数天后接受MIT Technology Review资深编辑Will Douglas Heaven的专访。欣顿指出，新一代的人工智能语言模型，尤其是3月面世的GPT-4令他意识到，这些机器已朝著比他想像的要聪明得多的方向发展，令他感到害怕这些的后续发展。

最出名的是他在1980年代（与两名同事）提出的一种称为反向传播（backpropagation）的技术。简而言之，就是让机器进行学习的演算法，支撑著当今几乎所有的人工“神经网络”（neural networks），从计算机视觉系统到大型语言模型都包括在内。

直至2010年代，欣顿与其两名刚毕业的门生研发的“神经网络”才展现其威力，比起任何电脑辩别影像中的物件的能力都要强，而且还训练到“神经网络”来预测句子的下个字母，成为当今大型语言模式的先驱。其中一名门生正是后来OpenAI的创办人Ilya Sutskever，并在他领导下开发了ChatGPT。“我们首先想到这东西可能很棒。”“但需要很长时间才能认识到，需要大规模开展才能达到好的效果。”

在1980年代，有关“神经网络”的讨论被认为是笑话。但欣顿不以为然，致力进行这方面的研发，软件模仿抽象的人类大脑，并以代码作为神经元与之间的连接。40年来，欣顿一直将人工神经网络视为模仿生物神经网络的笨拙尝试。现在他认为情况发生了变化：他认为，在试图模仿生物大脑的行为时，竟出现更优越的效果。“当你亲眼看到时，感觉很可怕。”他说：“这是一个突如其来的转变。”

那么ChatGPT为何令欣顿也感吃惊？他解释，人类大脑拥有约100万亿个连接，“大型语言模型最多有5000亿，最多一万亿。然而，GPT-4的知识比任何人类都多数百倍。所以也许它实际上拥有比我们更好的学习算法。”

他又指出，除了学习能力，传播（communicating）能力亦是另一个种点。“你或我学习一个新事物，再想教授给另一个人，我们不能单靠传一个副本（send them a copy）。”但人工神经网络却做得到。

就好像这里有10000个人，当一个人学懂一个新事物，另外的人全都同时学懂了。

欣顿现在认为，世上有两种智能（intelligence）：动物大脑和人工神经网络。“这是一种完全不同的智能。”“一种崭新、更佳的智能”。欣顿认为超级智能是好是坏在很大程度上取决于你是乐观主义者还是悲观主义者，而自言“有点悲郁”（mildly depressed）的他说：“这就是我害怕的原因”。

“这些东西是否会比我们更聪明，我突然改变了看法。我认为它们现在非常接近我们了，未来它们将比我们聪明得多”他说。“那我们如何生存？”他尤其忧虑人们会利用他研发的工具去改变人类的生活轨迹，包括选举与战争。

他表示，希望离任后继续谈论有关AI安全的问题，花更多时间在“更具哲学性的工作”上，“只要我仍受雇于Google，我都难以畅所欲言”。不过，这不代表欣顿与Google的10年合作是不快，表示：“我有很多关于Google的好说话可以讲，若果我不在Google，说这些话会更加令人信服。”