美军模拟试验 AI操控无人机竟“杀害”操作员
撰文: 房伊媚
出版:更新:
英媒6月2日称,美国空军人工智能(AI)测试和运作主管哈密尔顿(Tucker ‘Cinco’ Hamilton)5月表示,美军进行模拟测试,安排AI控制一架空军无人机完成任务,但AI在行动期间令无人机“杀死”人类操作员,以防止行动受干预。由于属模拟测试,事件中无人受害。
《卫报》6月2日称,哈密尔顿5月在英国伦敦出席未来作战空天能力峰会(Future Combat Air and Space Capabilities Summit,暂译)时,指AI在模拟测试中使用“高度无法预期的策略来达成目标”。
哈密尔顿说,在模拟测试中,由AI操控的无人机收到指令,内容是摧毁敌人的防空系统,并攻击任何干预命令的人。在行动开始后,系统意识到人类操作员会告诉它不要杀死威胁目标、阻止它完成仼务,因此它“杀死”人类操作员。事件中没人死亡或受伤,因为这是模拟测试。
美军其后在模拟测试中训练系统不要杀死人类操作员。它于是开始摧毁人类操作员用来与无人机沟通的通讯塔,以防止人类操作员阻止它杀死威胁目标。
报道曝光后,哈密尔顿发声明澄清,称当时所指看是假想实验,重申有关实验从来没有进行,亦无需以该实验发现这是一个合理结果。
Nvidia的CUDA成今天AI唯一标准 15年前的远见成就万亿巨企传奇科技企业高层及专家发联署信 忧虑人类遭AI灭绝风险科学家利用AI发现新抗生素 专门对付超级细菌OpenAI惹私隐忧虑 加拿大展开调查