Sam Altman正制造Skynet？发展AGI对人类构成威胁吗｜新闻背后

路透社11月23日报道，OpenAI辞退行政总裁奥尔特曼（Sam Altman）的原因，是因其开发中的通用人工智慧（AGI）“Q*”恐怕会对人类构成威胁。截至现时OpenAI未有就路透社的报道作出回应，因此无法证实事件及“Q*”的存在，但什么是AGI？为何AGI发展可能对人类构成威胁？

AGI全称Artificial General Intelligence，与今天的一般AI不同，AGI是一款可以“在任何领域”都能完成任务的人工智慧。今天一般的AI在工作上有很大限制，如深蓝（Deep Blue）下棋非常厉害可以击败世界棋王，但它不会读书、不会写论文、不会断证医病、也无法解答除西洋棋以外的所有问题。

与之相比，AGI则如人类一样，可以做出“任何事情”。而且AGI还有能力学习及分析让自己进步，因此可以“比人类做得更好”。

AGI的发展依然很初步，目前并未有已知可称为AGI的人工智能出现。ChatGPT可说是今天最接近AGI的东西，具备一定的学习及分析能力，但ChatGPT只集中在生成功能，且给予答案尚有瑕疵，还有机会因“过度学习”出现混乱。

OpenAI暂未为路透社报道置评，因此也无法一窥“Q*”是什么。但从各国关注AI的发展，及今次OpenAI辞退奥尔特曼的事件，AI发展对人类未来构成影响已是无可争辩的事实，AGI的出现必然对今天我们认知的世界带来翻天覆地的改变。

未来战士的Skynet？

正如电影《未来战士》（Terminator）的剧情一样，一些人会担忧AI一天会发展出自我意识并决定摧毁人类。尽管剧情内容缺乏逻辑，电影确实展示着一种未来的观点，当AI与人类为敌时的最可怕结局。但历史已多次说明，技术带来的伤害往往是由于人类故意或意外误用所造成。人类可以决定AI的发展方向及使用方法，AGI的出现不等于人类要步向灭亡的结局。

值得注意的是，ChatGPT对许多人来说似乎是突然冒出来的东西，但事实并非如此。在2019年和2020年GPT 2和GPT 3已经存在，但因为操作困难及技术限制，知名度远低于ChatGPT。ChatGPT的发展与流行是一个标志事件，代表这个趋势已经存在。AGI的发展也将会一样。

奥尔特曼，可能会让“Q*”胎死腹中，但无法改变AI被使用和正在发展的趋势，潘朵拉的盒子已经打开，再也没法回去，AGI只会以另一种形式出现。人类现在能够做的，是保持知情，认识AI并了解它将如何影响今天的生活，同时设立机制负责任地引导AI研究发展，为AGI的诞生作准备。