AI教父Geoffrey Hinton离职　谈AI危险性“对毕生志业感后悔”

“AI教父”欣顿（Geoffrey Hinton）5月1日公布他已辞去在Google的职务，并在接受传媒访问时讲述对自己的毕生志业感后悔，又谈到AI（人工智能）的危险之处，如“目前它们不比我们聪明，但我认为很快就会”、“很难看到如何防止坏人利用它做坏事”。

欣顿自2013年初起在Google工作，担任工程研究员（engineering fellow），至今逾10年，他研究深度学习（deep learning）、神经网络（neural networks）等方面，同时也在多伦多大学担任教授。

在离开Google后，他向传媒谈到自己已经75岁，是时候退休，又指如今可以自由地谈论人工智能的风险，以及他对自己毕生的工作感到后悔，“我会用借口安慰自己：若然不是我做，也会有别人做”。

他认为AI聊天机器人的一些风险相当可怕，“目前它们不比我们聪明，但我认为很快就会”，他又指GPT-4（OpenAI公司研发的一种人工智能技术）之类的技术拥有大量知识，已可使人类黯然失色，在推理方面，AI没有那么好，但已做到简单推理，他认为“随着这发展速度，我们能预计会进展得很快，我们需要担心这一点。”。

他称“很难看到如何防止坏人利用它做坏事”。