Sam Altman被炒原因曝　董事会收警告信：新AI或成人类威胁

OpenAI的奥尔特曼（Sam Altman）11月22日确认会回归公司担任行政总裁，解雇风波终告一段落。不过路透社报道，这事件的起因或许与奥尔特曼最新研究的通用人工智能（AGI）有关——董事会收到了警告信，新AI可能成为人类的威胁。

路透社23日引述消息人士报道，OpenAI最近在一项名为Q*（发音为Q-star）的模型开发上取得进展，这会成为OpenAI在AGI领域的一大突破。然而，有数名内部研究人员在17日去信董事会，警告这强大的人工智慧可能会人类产生威胁。

消息人士称，这封信件成为了董事会辞退奥尔特曼的一个理由，路透社无法确认信中内容，OpenAI亦拒绝就事件置评。

AGI（Artificial General Intelligence）称为通用人工智慧，或强人工智慧（Strong AI），是指具备与人类同等智慧、或超越人类的AI。与只能解决有限运算的AI不同，AGI拥有概括、学习和理解的能力。OpenAI在开发ChatGPT的同时取得了Q*的进展。

路透社引述消息人士指出，虽然目前Q*的水平还停留在小学生的程度，仅能解决一些数学运算，但它在多项测验中取得了优异的成绩，让研究人员对Q*未来的成功十分乐观。

美国《纽约时报》18日曾透露，OpenAI的董事会成员中，最少有两人与有效利他主义（Effective Altruism）运动有关联，这是一个伦理运动，运动的成员推动了对AI的安全研究，他们认为失控的强大的AI终有一天会导致人类毁灭。

长期以来，科学家们一直在讨论AI带来的风险。若路透社所指的信件属实，这将进一步引证OpenAI背后正研究的AGI已引起部份人的担忧。