诺贝尔奖得主“AI教父”警告：人工智能未来30年或灭绝人类

英国媒体报道，被誉为“人工智能教父”，2024年诺贝尔物理学奖得主欣顿（Geoffrey Hinton）警告，随着这项科技的快速发展，人工智能在未来30年灭绝人类社会的可能性为10%-20%。

英国《卫报》12月27日报道，由于人工智能的发展速度比预期要快得多，欣顿提高了这项科技在未来30年灭绝人类的可能性。过往他对这个可能性的预测为10%。

当被问到为何会上调这个概率，欣顿指人类过往从未应对过比我们更聪明的事物。

欣顿补充道：“试想一下，你有见过较聪明物种让较愚钝物种控制的情况吗？例子非常少。我唯一能够想到的例子就是，婴儿“控制”他的母亲；人类成长的过程需要花费大量精力，因此婴儿才能够控制其母亲。

拥有多伦多大学荣誉教授头衔的欣顿表示，与强大的人工智能系统相比，人类就像婴儿一样。他指出：“我喜欢这样想，想像一下你和一个三岁的孩子。我们（在AI面前）就像那位三岁的孩子一样。”

人工智能可以广泛被定义为，能够执行一般需要人类智慧的工作的电脑系统。

据报道，欣顿去年辞去其在谷歌（Google）的职务，以便能够更公开地谈论开发人工智能所带来的潜在风险。

欣顿十分担心“坏人”会利用这项科技去伤害他人。人工智能安全专家普遍担心的一个主要问题是，当成功开发人工通用智慧或比人类更聪明的系统，可能会导致该科技逃避人类的控制，对人类的生存产生威胁。

他补充道：“我们现在所处的情况是，该领域的大多数专家都认为，在未来的20年内，我们将会开发出比人类更聪明的人工智能。这是一个非常可怕的想法。”

欣顿警告，人工智能发展速度非常快，比他预想的要快得多，并呼吁政府对这项技术进行监管。

他指出：“我担心那只无形之手（invisible hand）无法保护我们的安全。因此，仅仅依靠不断追逐利润的大企业去开发这项科技并不安全，唯一能迫使这些大企业对安全进行更多研究的就是政府监管。”

报道指，欣顿是三位因其研发工作而获得图灵奖（ACM AM Turing award，相当于电脑科学领域的诺贝尔奖）的“人工智能教父”之一。