AI唔听话“走精面” Google 研发“熄大掣”确保安全
撰文： 罗保熙
出版：更新：
人工智能（AI） 近年的发展十分迅速，经已引起包括Tesla 创办人马斯克（Elon Musk）及著名物理学家霍金在内的科学家的忧虑。AI不但能在围棋游戏中胜过人类，又能写作、画画、工作，甚至渗透人类日常生活各个层面之中。现在，科学家更发现AI能像人类般“走精面”，并越过人类的指令，对人类所造成的危害和影响将变得不可估量。
近日，Google 人工智能部门DeepMind的科学家，伙拍牛津大学的学者一同研究人工智能机械人的“切断开关”（Kill Switch）想法。在最近发布的一篇论文中，他们勾划出未来人工智能机器如何编码，才能避免它们学懂越过人类指令，继而造成灾难。
人工智能安全成科学界最大挑战
罗索明白为何人类会担心人工智能未来的发展，他强调：“重要的是，在任何问题发生之前，要开始人工智能安全上的工作。人工智能的安全是要确保其学习的运算方法按照我们所想要的去做。”而英国人工智能教授夏基（Noel Sharkey）则认为，有关的研究是真正重大的科学挑战，他解释：“至重要的是要有迅速关掉系统的能力，因为AI的强化学习系统总有可能找到捷径阻止操作者。”
（BBC/英国镜报）