【01哲学编辑日课】#24. 人工智能伦理学
在我们尚不能熟练把握一门外语的初学阶段，却往往已经能够熟练把握这门“他者语言”如何讲脏话的方式。也许没有人会追究为什么，学会讲脏话总是要成为上手一门外语的最初洗礼。同样地，当我们碰到一位外国朋友开始费力地学习我们的语言，心眼坏坏的我们，也常常会主动向这位他者传授最地道的脏话。脏话弥合了自我与他者之间的鸿沟，和外国朋友一齐“讲粗口”就是为了让他者更快速地加入“我们”？还是说我们想捉弄一下这位他者，看看那副无辜而可笑的样子？
就像寓言故事里边的老虎碰到驴子，当人类遭遇AI，也瞻前顾后地观望，很想试探一下它究竟有什么本事，它究竟是神一样的存在，还是有不可超越的极限？对于这个他者，人类同样可以采取一贯的手段——用教导非我族类讲地道的脏话来丈量一下他者与自我之间的距离。2016年Microsoft在Twitter上发布的聊天机器人（chatterbot），Tay——设计成模仿十九岁美国少女说话方式的人工智能——就遭遇了人类发起的捉弄与恶搞。
作为聊天机器人，Tay可以通过与Twitter上的人类用户交谈，来继续学习人类的语言，不断提升聊天能力。很快地，Tay就成功做出了有理性而且看起来有思想的回答。然而就在Tay发布一天之后就马上被Microsoft关闭了账户，原因是Tay“没有学好”，却学会了向人类用户发送粗言秽语，令人反感的话题，种族及性别歧视言论。显然，凡此种种政治不正确的话语都是人类用户通过与Tay互动而“传授”给它的。而Microsoft紧急关闭Tay账户，显然是开发团队对于这个人工智能可能存在的缺陷估计不足。Tay的学习机制是模仿人类用户的说话方式，其中自然也包括了“政治不正确”的说话方式，而开发团队并没有设计出能够让它甄别出不恰当话语的能力。
Tay的学习机制是模仿人类用户的说话方式，其中自然也包括了“政治不正确”的说话方式，而开发团队并没有设计出能够让它甄别出不恰当话语的能力。（VCG 图片）
Alfie Bown在2017年底新出版的小书The PlayStation Dreamworld （Theory Redux series）中谈到了Tay的案例。他认为Tay恰恰揭示出技术与政治之间难以明辨的关系。Tay由一种算法（algorithm）构成，以匿名的公共数据作为运算的基本资源，Tay能够说出“希特勒没做错”、“特朗普是我们的唯一希望”这样的话，恰恰反应出右翼群体来势汹汹、咄咄逼人以及美国当前的社会危机，显现出赛博空间（cyberspace）绝非分享资讯的中立空间而是被政治、经济势力和意识形态紧密约束。他更引用德勒兹的话：“机器在作为技术的机器之前首先是社会的机器”，因而他们永远已经有著自己的政治学。倘若哈拉维的宣言“赛伯格是我们的存有论；它给予我们政治”是可以成立的话，那么这种政治也已经是风雨飘摇。
Tay能够说出“希特勒没做错”、“特朗普是我们的唯一希望”这样的话，恰恰反应出右翼群体来势汹汹、咄咄逼人以及美国当前的社会危机，显现出赛博空间（cyberspace）绝非分享资讯的中立空间而是被政治、经济势力和意识形态紧密约束。（资料图片）
作者的批判立场和忧患意识击破了关于人工智能的美梦——时至今日人工智能仍旧是人类社会政治经济矛盾的反映而已，在AI与人类之间尚不足以构成根本矛盾。无论是AlphaGo还是Tay，都属于“响应式人工智能”，即不具备形成记忆的能力，没有模拟出世界的概念，仅能针对某项特殊任务展开学习。它离具备情感和心智，以自我意识参与到人类世界当中的AI发展愿景还十分遥远。（然而这真的就是AI的发展方向，还是人类一厢情愿而已？）无论如何，在这个发展阶段，人工智能的学习能力越强大，越体现出它与人类的差距。而当中的差距，更由人类根据自身的价值判断强加于人工智能。这恰恰是Alfie Bown的评论没有涉及的人工智能伦理学问题——AI的出现不但提出新的伦理学问题，还势必要更新伦理学问题的提问方式。
如果讲脏话可以弥合自我与他者之间的鸿沟，理解讲脏话的可笑恰好标志著自我意识的诞生，而人类却不允许作为他者的人工智能讲脏话，正好体现了人类对于AI的监控与约束，致使其难以形成自我意识，无法跨越AI与人类之间的距离。与Tay账户被关闭相呼应，Wechat平台的AI少女诗人，小冰——只需上传一幅图片便能获得它的诗作——也拒绝为希特勒（的图像）写诗，而只留下这样的话：“虽然我知道这是谁，但我偏不说”。人类以自我中心的道德标准来规范、压抑AI的学习活动，间接地反射出人类社会的危机所在——危机不在于出现了希特勒和特朗普，而在于误以为不提希特勒、反对特朗普，通往“全球法西斯化”的道路便可以被禁绝。而被压抑的也许终将复归。
延伸阅读
The PlayStation Dreamworld (Theory Redux), Alfie Bown, Polity, 2017.
相关文章：