为AI发展奠基石　诺贝尔奖两新得主夺奖后表担忧：怕人工智能失控

科学家霍普菲尔德（John Hopfield）与欣顿（Geoffrey Hinton）在10月8日获得2024年度诺贝尔物理学奖，奖项旨在表彰他们通过人工神经网络（artificial neural networks）实现机器学习（machine learning）的基础发现与发明。近年人工智能（AI）的高速发展离不开这些理论，不过这两大诺贝尔奖新得主都在得奖后发出预警，担忧AI失控的问题。

美媒8日报道，欣顿在得知自己获奖后表示，AI为医疗保健等领域的生产力带来巨大提升，但“我们也必须担心一些可能的不良后果，特别是有关这些事情失控的威胁。”他警告指“我担心这样的整体后果可能是，比我们更聪明的系统最终会取得控制权。”

被称为“AI教父”的欣顿2023年5月也曾在接受传媒访问时讲述对自己的毕生志业感后悔，并谈到AI（人工智能）的危险之处，如“目前它们不比我们聪明，但我认为很快就会”、“很难看到如何防止坏人利用它做坏事”。

霍普菲尔德也在得奖后表达类似的担忧，他呼吁要对现代人工智慧系统有更深入了解，以防止它们失控，并称该科技最新进展“非常令人不安”（very unnerving）。

机器学习为AI发展和应用提供动力，霍普菲尔德与欣顿的工作让AI走进大众，譬如面部识别和翻译。诺贝尔物理学奖委员会成员Mark Pearce认为，二人的工作为人们能使用AI奠定基础。

深度学习（Deep Learning）是机器学习的一项分支，欣顿积极推动这项研究，被誉为深度学习之父。他2013年加入Google，负责深度学习与神经网络，2023年5月1日宣布离任。