ChatGPT等AI技术将会失控危害人类？Elon Musk等专家叫停科技竞赛

近年ChatGPT等人工智能发展飞快，不过同时令不少人担心AI是否会对人类带来威胁。最近有人工智慧专家们呼吁暂停先进AI的研发。Elon Musk、Steve Wozniak及Pinterest的联合创始人Evan Sharp等人都签署了由公开信。警告说，像OpenAI的GPT-4这样的AI系统正在“在一般任务上与人类竞争”，对人类和社会构成潜在风险。

最近非营利机构Future of Life Institute发表的公开信，而且Elon Musk、Steve Wozniak、Pinterest联合创始人Evan Sharp及Stability AI CEO Emad Mostaque等人都在信上联署。呼吁在研发AI时应更多时间评估新技术的危险性，而且建议暂停训练比GPT-4更强大的AI技术长达6个月。另外，还有专家Yoshua Bengio及科学家Stuart Russell亦支持这封信，引用了对错误信息的扩散、劳动力市场自动化的风险以及对文明失去控制的可能性的担忧。

👉 ChatGPT救一命！狗只患怪病兽医无能为力　GPT-4仅5分钟正确诊断

AI失控

提出了开发人员对强大的新AI系统失去控制及其对文明预期影响的可能性。它暗示公司正在竞相开发先进的AI技术，以至于甚至创作者也无法“理解、预测或可靠地控制”。同时指人类不应应该冒失失去文明的控制。

信函警告说，AI公司正在进行“失控的竞赛，以开发和部署”新的先进系统。最近，OpenAI的ChatGPT的病毒般的受欢迎似乎已经推动其他公司发布自己的AI产品。同时敦促公司在社会有机会适应新技术之时，享受AI的好处，而不是匆忙进入未做好准备的日子。

AI自动化和错误信息

同时强调了新技术的几个风险，包括非人类思维最终“超过、超越、淘汰并取代人类”的可能性。它亦指AI系统在某些任务上正在“与人类竞争”，并引用对错误信息和劳动力自动化的担忧。

公开信要求在市场上已经存在的AI系统更强大之外，暂停开发任何更强大的AI系统长达六个月。它要求开发人员与政策制定者共同创建AI治理系统，强调需要监管当局以及AI“水印系统”，以帮助人们区分人工制造的内容和AI制造的内容。信函还提出了需要“有丰富资源的机构”来应对由AI引起的经济和政治混乱。不过公开信同时指出，暂停应该是对先进技术“危险的竞赛”的一个步骤，而不是对一般AI开的完全停止。

消息来源：Insider