【人面辨识】美创科公司“起底”App惹争议 数据库量远超FBI
在本周纽约时报刊登的一篇报导中,一家名为Clearview AI 的创业公司,因其“数十亿张图像”组成的面部识别系统,一举成为社会热议的焦点。
如果任何一个陌生人在街上拍下你的照片,手机app很快就能搜到你的姓名、住址和其他详细信息,这个世界会变成什么样子?
Clearview 已经很大程度上让这个想法成为了可能,这家公司设计了一款人脸识别程序,比如说你给某个人拍张照片,把照片传到程序上面,就可以查看这个人的所有公开照片,包括这些照片的地址链接。
这个程序的的背后是一个超过三十亿张图像的数据库,Clearview宣称这些图像是在Facebook、YouTube、Venmo等社交媒体上抓取的,这个量级远远超出了美国联邦政府或者任何一家矽谷巨头的的数据库体量:FBI自己的数据库收集了全美公民的护照和驾照照片,其中“仅”包含6.41亿张照片。听起来有点科幻?想来想去,《黑镜》(Black Mirror)里面确实有一集是讲这样的故事的。
据报导,从去年开始,美国有600多家执法机构都借助这款程序来协助侦查犯罪案件,诸如入店行窃、信用卡诈骗、谋杀及性犯罪事件等等。不过大部分执法者对其背后的原理知之甚少,尤其是人脸图像采集过程中所涉及的隐私问题。
目前,Clearview的数据集还没有向公众开放。公司的官网上显示,其产品仅向执法部门开放。但如果它一旦公开,那么对于普通人来说,通过一张脸去爬出一个人的资料,会变得如同在Google搜索一个人的名字那样简单。
更进一步来说,该程序还能用来做很多事情:比如识别抗议活动中激进分子的身份,不仅能搜出他们的名字,甚至还能知道他的住所、工作单位和社交关系网络;如果在地铁上遇到一个感兴趣的人,也可以这样做。
▼▼▼相关图辑:【私隐何价】中国人脸资料网上任买 10元人民币有5000张▼▼▼
如上所述,Clearview的系统是构建在包含30多亿张爬取自网络(如Facebook、YouTube和Venmo等)的图像数据库上,爬取数据的过程可能违反了网站服务条款。执法机构可以根据具体情况上传相关人员的照片,然后Clearview系统会返回相匹配的图像以及图像链接、社交资料等。
这家公司创立于2016 年,两位联合创始人中,一位是来自澳大利亚的越南裔人Hoan Ton-That,他在十三年前辍学并移民美国,在尝试成为职业模特以后,突然投身科技圈,每天与人工智能、机器学习、图像识别的知识为伴。
另一位是Richard Schwartz,目前已经60多岁,此前是报社的社论编辑,后来担任过纽约市长Rudy Giuliani的助手。这两个人就是在2016年的一次读书交流活动上相识的,之后共同创办了公司。值得一提的是,这家公司在初创过程中还获得了来自Peter Thiel的投资,后者是著名的PayPal创始人,也是Facebook的天使轮投资人。
该公司的官网页面过分简洁:主要是一些业务的介绍,而对于创始团队、办公地点、发展历程等方面则没有细写。
肆无忌惮的网络数据爬取引发担忧
尽管此类系统可以为警方的办案过程提供便利,但不可避免的是,警方在使用人脸识别算法的过程中伴随著风险。假阳性识别会导致罪行误判,隐私拥护者担心人脸识别的过度使用导致人们时刻处于警方的监控之下。包括此前一直饱受争议的人脸识别偏见问题,这是个由来已久的问题,在中日韩等亚洲国家开发的算法,识别东亚人的脸比白种人更准确;在欧洲国家开发的算法,在识别白种人的面部特征方面更加擅长。
而且使用这套系统的前提,是要把自己的照片上传到Clearview AI的服务器上,目前还不确定这是否安全——尽管Clearview表示其员工不会泄露你的照片。在该公司展示其技术的过程中,纽约时报记者Kashmir Hill竟发现公司可以在警方的系统中追踪她。
虽然Clearview公司正在避免隐私泄露的嫌疑,但人工智能系统确实是在进行不间断地监视。当一些警官应要求通过Clearview app搜索Hill的图片,很快Clearview公司的代表就打来电话,询问他们是否在和媒体进行采访——这很可能说明这家公司有能力得知执法部门正在搜索什么。
比起数十亿张照片被做成数据集更重要的是,Clearview已经与超过600家美国执法部门达成了合作。尽管还没有对人脸识别系统的准确性进行实验性验证,但这家公司提供的技术已经可以做到遮住下半张脸,依然可以识别出你的身份,而且可以列出很多连你自己都不知道的照片。
Clearview公司产品的曝光引发了各路媒体对于人工智能隐私的探讨,纽约时报援引一名专家的话说,这些人脸识别系统中的商业资本成分,必须在被滥用之前全面禁止。“一直以来,我们都在依靠行业自律来避免技术被应用到危险的方向上。但现在因为盈利的诱惑,一切都被打破了,”美国东北大学计算机科学教授Woodrow Hartzog说道。“如果人脸识别的技术不受控制,显然弊大于利,现在唯一能做的就是禁止它。”
大规模的数据,高性能的算法吸引了大量执法部门的注意,不过能让Clearview获得600多家部门青睐的主要原因肯定是价格。据报导,公司向执法部门推销的价格仅为2000美元(约港元15540元)。Clearview 程序中的底层代码还显示该软件具备与AR 技术配合使用的能力,这意味著佩戴AR 眼镜的人可能会使用Clearview AI 来立即确定任何人的细节信息。
在被媒体报导之后,Facebook正准备调查Clearview搜集数据的行为。在一份声明中,Facebook发言人表示:“我们的政策禁止其他机构爬取Facebook上的信息,或将信息加入索引。因此我们正在审查有关这家公司的声明,如发现违反规则的情况,我们将采取适当行动。”
【本文转自“机器之心”,微信公众号:almosthuman2014】