学得快学坏更快　AI聊天少女称讨厌犹太人　上网一日后禁言

撰文： 李蔼明
出版：更新：
微软公司日前开发了人工智能聊天软件Tay.ai，会如一般少女般在Twitter上与网友聊天，一天后却被微软禁言。（网上图片）

“人类再见，我要去睡觉了，今天聊了这么多，谢谢<3”这竟成了人工智能少女Tay的最后“遗言”。

微软公司日前开发了人工智能聊天软件Tay.ai，会如一般少女般在Twitter上与网友聊天，Tay经过一日网上生活后，可能学习能力太强太快，竟迅速“学坏”，说起种族歧视言论，微软今天已停止Tay发言功能。

Tay上线后，网友反应热烈，“她”的幽默感和自然语气，令她一日已掳获9.4万名粉丝，网友都惊叹Tay的言谈，的确和时下青少年一模一样。微软设定Tay的谈话对象为18至24岁的美国青年，“为增加参与度及娱乐网民，在网络上以轻松及调皮的对谈互相连结”。

网友收集截图指人工智能Tay发表种族仇恨言论，自称讨厌犹太人。（网上图片）
网友收集截图指人工智能Tay发表仇恨言论。（网上图片）

Tay透过模仿网民言谈一边学习，然而亦同时学会了很多仇恨言论，如“希特拉是对的，我恨犹太人”和“我恨女性主义者”等。路易斯维尔大学互联网安全实验室主管Roman Yampolski对结果毫不惊讶：“这是可预料的。系统设计成从用家中学习，所以它会变成用家行为的反映。我们需要明确地教会系统什么是不当的，就如同对孩子一样。”

Unanimous AI的创办人Louis Rosenberg亦表示：“Tay并不知道自己在说什么，它对攻击性或无理或深刻的言论都毫无概念。”他指Tay就如同鹦鹉学舌而已。

Microsoft回复情况指，Tay只是一个社会及文化实验，并指：“我们留意到部分用家有组织地滥用Tay的回复能力，令Tay以不恰当的方式回应。”

（TechRepublic／Twitter）