以软件演算法管治　助长威权主义｜思兼

作者｜思兼

Facebook、Google、YouTube 这些互联网服务公司在我们的生活中几乎无孔不入，他们的演算法直接影响到每一个人资讯接收的方式。另一件轰动世界的事件，是以“深度学习”（deep learning）演算法来学习的人工智能 AlphaGo，于2016年在各场围棋比赛中胜过世界顶尖的棋手。由此这年代我们对于“演算法”似乎有种科幻想像，觉得它无所不能，延伸到以演算法来管治，我们更有一种反乌托邦式（dystopian）的恐惧。

笔者在〈从社会信用体系　再探当代的治理策略〉中曾提到，社会信用体系在已公开的资料中来看，似乎并无“演算法管治”（algorithmic governance）的元素。“演算法管治”在欧美部分地区已实行了好几年。中国也锐意超英赶美，抢先研发基于面容识别技术的演算法监控系统——这技术可谓监控技术现时最大的难题。以动画《心灵判官》（Psycho-Pass）来解说，可能会更容易让读者理解。《心灵判官》或许是科幻作品中最接近演算法管治的故事，可是它的未来想像暂时还只是实现了一半：演算法管治被应用在警政（policing）以及刑事司法体系的范畴上，透过各种参数去分类、推算随机人物犯罪的可能性。动画中的政府机关透过仪器，即时阅读的疑似犯罪者生体资讯（biometrics），以断定某人在现场的犯罪或然率，以先发制人的方式，阻止还未实现的罪恶。

所有演算法都是基于纪录以开始学习，因此准确纪录的资料数量，会十分影响演算法产生的结果的有效性。究竟所谓“演算法管治”的机制是怎样的呢？

演算法是甚么？我们怎样以演算法管治？

笔者并非电脑科学专业，无法为读者提供极严谨的定义。然而，若要理解当今演算法的特点，最低限度要知道两个概念：演算法最简单的意思是“一组清楚定义作业流程的规则”，让电脑根据流程可以解决问题（可参看以下的 TED-Ed “What’s an algorithm?”影片）。当今演算法依赖机器学习（machine learning），电脑自行或在人的辅助下建立演算法。有别于以往直接将演算法写成程式让电脑执行，机器学习透过大量“学习”原始数据（例如分辨蜜蜂与飞蛾），将能够辨认出两者分别的演算法留起，不能的则丢弃，在数百万甚至数千万次重复运行后，电脑就大概能够因应存取过的数据，得出成千上万个变数，以贴近在真实中分辨蜜蜂与飞蛾的结果。机器学习最擅长两种工作：分类（classification）与回归分析（regression），借由这两种工作，似乎我们就能够透过将人细分成众多类别（例如肤色、性别、国籍等等）；并将这些类别与犯罪率（或重犯率）透过回归分析，寻找两者是否相关，以及相互影响的程度。

为了作出更有效的管治决定，演算法管治应运而生。由于演算法本身目的只是为了自动化，即更有效率地作出更有效益的决定，理论上演算法可以用在任何决策之上。在2012年奥巴马寻求连任，在展开竞选工作时，一支以芝加哥大学电脑科学研究副教授 Rayid Ghani 为首的团队，就曾经就社福、教育、能源、交通及公众安全五大领域，透过机器学习大量文本，以提供竞选团队“微目标定位”（micro-targeting），即针对极细组群制订精准的竞选策略。

演算法帮助下的预测式警政

然而，演算法在文首提到的警政以及刑事司法体系之上的应用，却由来更久、更为人所熟知。在警政层面，2008年时任洛杉矶警察局（LAPD）警察长的 William Bratton 开始连同美国司法援助局、美国司法学会著手研究在灭罪层面上，预测性的执法是否可能。在2010年，这套预测性警务软件 PredPol 正式推出。现时 PredPol 是同类型软件的龙头，时至2013年，美国已有六个州引入 PredPol，包括：加州、华盛顿州、南卡罗来纳州、田纳西州以及伊利诺州。海外市场则包括英国肯特郡、荷兰以及中国苏州。

PredPol 建基于预测地震余震的软件，它利用十一年的本地犯罪纪录作基础，进行犯罪预测。使用此软件的警局，巡警每日会收到一幅辖区地图，辖区地图上面会标示出“暂定犯罪区”（temporary crime zone），方便巡警执勤。然而“暂定犯罪区”或许只是种自我实现预言（self-fulfilling prophecy）：因为这些区域已被假定会有更多罪案发生，那就有更多人会被截停及搜查（stop and search），犯罪率以及灭罪率自然会因为执法更频密而提高。PredPol 在当中只是给予执法更多的合法性，而无法平衡人权的考虑。再者，PredPol 为种族差别执法提供了合法性，比如原来黑人社区中的社会问题，会被引导成治安问题。

司法体系：演算法之下的“潜罪犯”

至于刑事司法体系，美国有法院开始引入了名为 COMPAS 的软件（全名为 Correctional Offender Management Profiling for Alternative Sanctions，笔者直译为“施予另类惩罚的更新人士管理及剖析”软件）以计算罪犯再犯案的机率，从而判断罪犯适合减刑还是继续监禁。软件基于二十多个“犯罪因子”（criminogenic needs）计算，包括罪犯的性格、社交孤立程度、是否有滥药史、有否稳定住所等因素。在2013年，Eric L. Loomis 因驾驶最近被用作枪击案的轿车逃离警察查截，而被逮捕。COMPAS 的报告指出他重犯的机率很高，因此他被判六年监禁，以及出狱后五年延长监视。他后来上诉至威斯康辛州最高法院，但被驳回，维持刑期不变。此判决引起不少讨论，针对此类演算法的伦理学问题——例如法官是否有考虑同类型案件，在上述 COMPAS 二十多个因素之外的减刑因素。此外，此类演算法同样复制了在执法上倾向歧视黑人：根据非盈利的新闻公司 ProPublica 一份关于 COMPAS 实效的报导，白人之中有超过四成比率被指“低重犯风险但之后重犯了”（因此是一种假阴性（false negative）结果）；而黑人之中亦有超过四成比率被指“高重犯风险但没有再犯”（这里是假阳性（false positive）结果）。也就是说，COMPAS 准确预判罪犯重犯的成功率只有不足三成，但黑人却容易因此面临重判，更不要说这种“潜罪犯”评级对当事人生活的影响。

因此，当我们为大陆透过面容识别辨别罪犯而感到风声鹤唳之际，不要忘记在美国，相类似由演算法预判罪犯犯罪风险的做法已经施行甚久。高举自由主义的国家，大多数都在背后不断研究威权主义的管治方法，以保持政府压制民间力量的可能性。在恐怖主义与反恐焦虑的催化下，全球的管治一直都没有停止转向威权主义。

在 Doomsday Clock 调整到仅剩最后两分钟的 2018，人们还在热聊甚么关键字，让谁荣登年度榜单？01哲学【末世逼近，我们还在关心甚么？年度关键词榜单】专题，将会为大家年终盘点，解开关键词背后的真相！

《01哲学》，哲学入门，深入浅出，更好地理解，更好的逻辑。立即下载《香港01》App：https://hk01.onelink.me/FraY/hk01app