BOOK NOTES

Your Face Belongs to Us

Kashmir Hill

2019 年 11 月,《纽约时报》记者卡什米尔·希尔(Kashmir Hill)在瑞士的酒店房间里收到一条消息:一家名叫 Clearview AI 的公司声称,只需一张人脸照片就能识别几乎任何人。消息附带一份标注"Privileged & Confidential"的法律备忘录,由前美国联邦政府总律师保罗·克莱门特(Paul Clement)撰写。备忘录称,该公司从公开网络上抓取了数十亿张照片,包括 Facebook、Instagram 和 LinkedIn 上的头像,两百多家执法机构正在使用这套系统。希尔当时怀孕六个月,她决定把这篇报道当作自己产假前必须完成的项目。

这本书同时讲两条线。一条线是 Clearview AI 这家公司本身:三个背景各异的创始人——胡安·通·泰(Hoan Ton-That)、理查德·施瓦茨(Richard Schwartz)和查尔斯·约翰逊(Charles Johnson)——如何在 2016 年特朗普竞选期间相遇,如何把政治咨询改造成人脸识别生意,又如何在警察部门之间扩张。另一条线是人脸识别这项技术的历史:亚里士多德的相貌学、高尔顿的优生学、1960 年代中央情报局的早期项目、2010 年代神经网络带来的突破,以及围绕它形成的监管争论。

希尔本人是这本书叙述的一部分。报道线索、与公司的谈判、对警察的采访、误捕事件当事人的接触,都经由她的第一人称视角呈现。她在书的"资料来源说明"里交代:这本书基于三年研究、对一百五十多人的访谈,以及她 2020 年 1 月发表的那篇头版文章《那个可能终结我们所知隐私的秘密公司》。Clearview 与通·泰对本书的写作大体配合,但公司拒绝回答"Smartcheckr 一期"时期的问题,这一时期的材料主要来自被踢出公司的约翰逊。

序章:一条线索

希尔循着线索核实这家公司时,遇到一连串反常的细节。公司在 LinkedIn 上只有一名员工,叫约翰·古德(John Good),简历只有一行字,只连接了两个人。公司登记的地址是西 41 街 145 号,那座楼并不存在,隔壁是 WeWork。商业文件显示公司 2018 年在特拉华州注册,地址在上西区的一套公寓里,门卫说那里是住宅,没有公司。PitchBook 上登记的两位投资人里,有一位是彼得·蒂尔(Peter Thiel)。

希尔找到用过这套工具的警察。佛罗里达州盖恩斯维尔的侦探尼古拉斯·费拉拉(Nicholas Ferrara)说,Clearview 比州政府提供的人脸识别系统强得多,戴帽子、戴眼镜、只露出部分脸的嫌疑人照片也能出结果,还能找到与佛罗里达州毫无关系的外国人。得克萨斯州伍德兰兹的丹尼尔·津特克(Daniel Zientek)警长说,他从不在只凭照片的情况下抓人,"你还是得把案子做出来"。但他用希尔照片做的两次演示,结果都是零匹配。希尔后来才知道原因:Clearview 在其系统里屏蔽了她的照片。一位得州调查员帮她跑照片后几分钟,就接到自称"Clearview 技术支持马可"的电话,质问他为什么上传《纽约时报》记者的照片,随后注销了他的账号。公司能看到警察在搜什么,也能决定谁可以被找到。

第一部分 人脸竞赛:历史与人物

创始人

通·泰是越南裔澳大利亚人,十四岁自学编程,十九岁移居旧金山。他做过 Facebook 问答应用,也做过 iPhone 小游戏。2009 年,他发布的 YouTube 模仿应用 ViddyHo 借用用户的 Google 聊天凭据向对方的好友群发消息,被媒体称为"蠕虫病毒",Gawker 旗下的 Valleywag 曝光了他的身份,配了一张他舔棒棒糖的照片。这段经历毁掉了他当时的网络名声,也让他对 Gawker 怀恨在心。2016 年,他公开支持特朗普,戴 MAGA 帽子,转发极右翼言论。他的朋友认为他是在网上找到了同类,把他形容成"一个在寻找身份的人"。通·泰后来公开后悔这段时期的观点,说自己被互联网带偏了。

约翰逊是互联网上臭名昭著的右翼"喷子"。他运营网站 GotNews,发布过弗格森事件中迈克尔·布朗的照片,出价征集匿名强奸案受害者的身份,发表过质疑大屠杀规模的言论,还自称是联邦调查局的线人。2016 年共和党全国代表大会上,约翰逊与通·泰结伴参加,把通·泰介绍给蒂尔。两人在克利夫兰的 Airbnb 里聊到用工具判断陌生人是否值得认识,约翰逊回忆,自己问通·泰想不想做点大事,通·泰答应了。

施瓦茨比通·泰大三十岁,曾在鲁迪·朱利安尼任市长期间的纽约市政府工作,参与过市政服务私有化和福利改革,后来创办咨询公司,卷入过合同腐败丑闻。约翰逊安排通·泰与施瓦茨见面,施瓦茨觉得通·泰是"一个失去灵魂的人",两人一拍即合。三个人的分工是:约翰逊出人脉,施瓦茨出资本和商业经验,通·泰写代码。

人脸科学的前史

这本书用人脸识别的历史来解释 Clearview 所处的位置。亚里士多德在《动物志》里宣称大额头的人懒惰、泪腺肥厚的人是骗子,这套"从外表判断内心"的学问后来叫相貌学。19 世纪,弗朗西斯·高尔顿把达尔文的进化思想用到人类身上,提出"天才与性格"可以遗传,创造了"优生学"这个词,主张隔离惯犯、禁止他们生育。他给罪犯照片做合成肖像,试图找出不同罪行对应的面部特征。德国纳粹后来采纳了他的理论。

法国警察档案员阿尔方斯·贝蒂荣(Alphonse Bertillon)走的是另一条路:测量罪犯身体,用十一项数据来区分个体,并在巴黎推广了正面加侧面的标准入案照。切萨雷·隆布罗索(Cesare Lombroso)在 1876 年出版《犯罪人》,把罪犯描述成带有"原始人"特征的退化物种,被当时的执法者当成权威咨询。高尔顿、贝蒂荣和隆布罗索的方法有一个共同点:把罪行当作写在脸上的生物属性来测量和分类。哈佛人类学家胡顿(Earnest Hooton)在 1939 年用打孔卡统计一万三千多名罪犯的测量数据,结论仍然是为优生学辩护。铁路系统曾用"打孔照片"识别乘客:车票边缘印着"男—女、瘦—中—胖"等描述词,售票员按乘客特征打孔。曾任人口普查局的赫尔曼·霍勒里斯(Herman Hollerith)受此启发,发明了可被电磁机器读取的打孔卡,用于 1890 年人口普查,这家公司后来成为 IBM。

计算机视觉的早期探索(1956—1991)

1956 年达特茅斯会议确立了"人工智能"这个研究方向的名称,也埋下了分歧:一派主张给机器显式规则(符号 AI),另一派主张让机器像神经系统一样自己学习(神经网络)。麻省理工的马文·明斯基(Marvin Minsky)支持前者,与人合写《感知器》抨击神经网络,一度切断了该方向的政府资助。1960 年代,数学家伍迪·布莱索(Woody Bledsoe)为中央情报局开发"人机人脸识别系统":他的儿子和朋友在照片上标出关键点,再测量距离,由算法生成固定标识。这项工作只匹配过八个男人,规模太小,没有实际用途。

1970 年代,日本研究员金出武雄(Takeo Kanade)用大阪世博会上 NEC 展位收集的八百张人像完成博士论文,做出第一个全自动人脸识别程序,但在二十例里只正确匹配十五例。1980 年代,国防承包商马丁·玛丽埃塔的工程师马修·特克(Matthew Turk)在麻省理工媒体实验室用"特征脸"(eigenfaces)方法做实时人脸识别:把一张脸表示成若干"平均脸"的加权组合,而不是用尺子测量五官距离。1991 年他的论文在夏威夷的会议上获最佳论文奖,此后被引用两万多次。特克的方法在演示中把一条黑色拉布拉多犬识别成了实验里唯一的那位女性——因为系统用"偏离平均脸多少"来识别人,而女性与狗都落在"大幅偏离"区间。他后来承认,当时没有考虑隐私和偏见问题。

"技术甜味"(technical sweetness)是这本书反复出现的概念,来自科学哲学家希瑟·道格拉斯(Heather Douglas):工程师在推动技术前进时感受到的愉悦,可能压过对后果的担忧。奥本海默在原子弹试验后引用《薄伽梵歌》"我成了死神,世界的毁灭者",道格拉斯称之为"技术甜味的苦涩余味"。特克承认自己三十年前没有把隐私和偏见放在心上,因为当时的技术粗糙到看不出它会对日常生活有什么影响。

谷歌不肯跨越的界线(2009—2011)

2009 年谷歌发布 Google Goggles,最初只能识别地标和书本。负责此项目的哈特穆特·内文(Hartmut Neven)在 2011 年告诉 CNN 记者,Goggles 即将支持"搜脸":给一张脸,返回网上所有同一张脸的照片。文章标题是《谷歌正在开发能识别面孔的应用》。谷歌发言人随后否认,内文因为越过了公关红线而受到冷遇。那年夏天,董事长埃里克·施密特在 All Things Digital 大会上被问到这件事,说:"我们造出了那项技术,然后扣下了它。据我所知,这是谷歌唯一一项造出来之后决定停用的技术。"

谷歌有能力做这件事。2011 年 7 月,它收购了匹兹堡的人脸识别公司 PittPatt。同年,卡内基梅隆大学的亚历山德罗·阿奎斯蒂(Alessandro Acquisti)团队用 PittPatt 的算法,把 27,000 名学生的 26 万张 Facebook 照片与现场拍摄的 93 名志愿者逐一比对,三成志愿者被识别出来。阿奎斯蒂研究过"隐私悖论":人们声称在意隐私,却不了解要如何保护它——九成学生公开了头像照片,只有四成公开了电话号码。他把实验结果保密到 2011 年 Black Hat 安全会议才公布,而那时 PittPatt 已经被谷歌私有化,实验无法复现。阿奎斯蒂预测,到 2021 年,仅凭一张脸就能轻松识别美国街头的陌生人。他估错了时间,Clearview 让这一切提前发生。

PittPatt 的创始人亨利·施奈德曼(Henry Schneiderman)后来在谷歌参与开发 Android 的人脸解锁,但谷歌内部警告员工不要使用这个功能,因为它不够安全。谷歌的专利文件描绘过更多用途:监控谁坐在电视机前、追踪智能家居里谁在做饭谁在打扫。

监管者的最初反应(2011—2012)

2011 年 12 月,联邦贸易委员会(FTC)召开"Face Facts"研讨会。会议以《少数派报告》片段开场,委员会专员朱莉·布里尔(Julie Brill)引用披头士的歌《我刚看见一张脸》,问歌里那个无名女孩如果被街上的陌生人瞬间识别出来会怎样。英特尔在会上演示了数字广告牌用的性别年龄识别软件,系统把台上那位红发女性错认为男性,演示者只好承认"准确率大约 94%"。

与会者罕见地达成一致:公司不应该发布能仅凭人脸识别陌生人的软件,除非得到对方许可。FTC 在会后发布三十页报告,建议公司"透明、给消费者选择、在产品开发各阶段内置隐私"。但 FTC 只能向国会呼吁立法,无法自己立法。书里借这段历史指出,美国始终没有一部覆盖人脸识别的联邦法律。

第二部分 技术甜味:公司的崛起

公司雏形与改名

三个人最初的构想是输入邮箱、社交账号或照片,返回一份关于该人的档案。通·泰在给同伴的邮件里讨论过用照片预测体重指数的"胖脸"研究、面相与智商的相关性、用死亡囚犯的入案照训练"犯罪脸"识别,还提出把 Ashley Madison 泄库数据与 Facebook 照片结合,"看看出轨的脸长什么样"。这些邮件后来让通·泰公开道歉,说它们不代表他现在的观点。

技术层面的突破来自开源生态。通·泰自学了开放人脸识别库 OpenFace(发布者注明"请负责任地使用""我们不支持侵犯隐私与安全的应用"——这句话无法执行),又认识了俄亥俄州托莱多大学的物理博士生特伦斯·刘(Terence Z. Liu)。刘帮他把算法调到能准确匹配的程度。两人用微软发布的数百万张"名人"照片数据训练系统,做出一个"你像哪个名人"的网站。随后通·泰把目标从名人转向普通人:他从 Venmo 的公开交易流抓人脸,因为 Venmo 的新闻流是机器可读的,包含全名和头像链接。他自称一次请求能拿到一百条交易,"像老虎机一样,每次拉杆都中奖"。2017 年 6 月他给同伴发邮件,说"从 venmo+tinder 抓了 210 万张脸"。

蒂尔在 2017 年夏投入 20 万美元,成为公司第一个财务支持者。为了接受这笔钱,通·泰和施瓦茨在特拉华州注册了新的公司实体 Smartcheckr Corp,Inc.,股东只有他们两人,约翰逊被排除在外。约翰逊后来才知道这件事,威胁要"像爱德华多·萨维林那样"闹事(萨维林是 Facebook 早期被扎克伯格排挤的联合创始人)。最终约翰逊接受了保密与不诋毁协议,拿到 Clearview 10% 的股份,分成三份信托,分别归他本人、前妻和女儿。

在转型之前,公司还做过一段短命的政治咨询生意。施瓦茨找上想竞选国会议员的民主党人霍利·林奇(Holly Lynch),承诺提供"超常规的对手研究"。林奇被 Gawker 关于通·泰的旧报道吓到,朋友甚至提醒她检查公寓里有没有窃听器,她终止了竞选。同一份咨询产品也卖给过自称"亲白人"的威斯康星州候选人保罗·内伦(Paul Nehlen)。公司还向匈牙利欧尔班政府的顾问推销过"边境安全"方案,声称在 DeploraBall 上筛选过 550 多名宾客,把反法西斯活动人士拉西·麦考利(Lacy MacAuley)标记为"高风险",并提到要与 Oculus 创始人帕尔默·拉基(Palmer Luckey)合作开发无人机——这些说法远超当时公司的实际能力。

2017 年 12 月,公司注册了 Clearview.ai 域名;2018 年 6 月,特拉华州的公司文件更名为 Clearview AI。到 2018 年底,数据库里已有十亿张脸。谷歌、Facebook 拥有更大的照片库,但没有发布类似工具。书里的解释是:大公司不敢,通·泰敢。

第一家警察客户

2018 年 10 月,施瓦茨和通·泰在给房地产公司 Rudin Management 做演示时,前纽约市警局金融犯罪小组警官格雷格·贝森(Greg Besson)建议他们去找自己的老同事。通·泰最初拒绝透露是哪个警察局,后来确认是纽约市警察局(NYPD)。NYPD 金融犯罪小组用银行柜台的监控照片测试,系统频繁出结果。小组指挥克里斯·弗拉纳根(Chris Flanagan)要求增加两项功能:警方搜索时 Clearview 不能看到照片,以及每次搜索记录案件编号与操作人。六个月的"试用"里跑了超过一万一千次搜索,命中率约 50%。但 NYPD 最终因为"外界观感"而没有与 Clearview 签约。2019 年 2 月,一位 NYPD 中尉把通·泰和施瓦茨介绍给印第安纳州警察局的查克·科恩(Chuck Cohen),一个月内,印第安纳州警察局签下一年 49,500 美元的合同,成为第一家正式警察客户。

2019 年 5 月,国土安全部的乔什·芬德利(Josh Findley)处理一桩儿童性虐待图片案,把嫌疑人截图发给同行,一位有 Clearview 权限的探员在拉斯维加斯健美博览会的照片背景里找到了那张脸——嫌疑人在 Instagram 照片的边缘,只有指甲盖大小。嫌疑人安德烈斯·维奥拉(Andres Rafael Viola)在 2019 年 6 月被捕,被判三十五年监禁。国土安全部此后为 Clearview 花费了近 200 万美元。公司还通过 CrimeDex(面向金融犯罪调查员的邮件列表,约一万五千人)做广告,销售联系人叫马尔科·尤基奇(Marko Jukic),就是后来打电话质问得州调查员的那个人。尤基奇曾在匿名博客上发表过种族隔离、威权主义、对记者施暴等极端言论,后来解释说是"夸张的戏剧化练习和喜剧讽刺"。

ACLU 在 2018 年对亚马逊 Rekognition 做过一个测试:用 25,000 张入案照搜索全部 535 名国会议员,结果有 28 人被误判为可能的罪犯,其中许多人是有色人种。测试成本 12.33 美元。旧金山、奥克兰、萨默维尔三座城市在 2019 年夏天通过了禁止警方使用人脸识别的法令。

曝光:一份公共记录请求

2019 年 11 月,芝加哥活动人士弗雷迪·马丁内斯(Freddy Martinez)与 MuckRock 的贝丽尔·利普顿(Beryl Lipton)向各地警察局提交公共记录请求,问他们用了哪家人脸识别产品。亚特兰大警察局回复了一份标记"律师工作成果、保密"的备忘录,日期 2019 年 8 月 14 日,由保罗·克莱门特撰写,标题是《Clearview 技术的法律意义》。备忘录称 Clearview 的数据库包含"数十亿张公开图片",两百多家执法机构在使用。随附的采购单显示,亚特兰大警方为三个年度的许可只付了 6,000 美元。马丁内斯随即把材料转给希尔。

这份备忘录印证了希尔此前的线索。她联系了公司的公关顾问丽莎·林登(Lisa Linden),对方明确告诉她:文章挡不住了,只能帮忙渡过难关。2020 年 1 月,通·泰在切尔西的 WeWork 接受希尔采访,否认公司针对记者设置警报,说那"一定是个 bug"。他演示了 App:输入希尔的脸,返回了她十年前在旧金山晚宴上的照片,她之前不知道这张照片在网上。通·泰还承认,让警察"搜索记者"违反公司政策。

2020 年 1 月,文章《那个可能终结我们所知隐私的秘密公司》登上《纽约时报》头版。文中披露:六百家联邦与地方执法机构使用该工具;源代码显示 App 可以运行在 RealWear 和 Vuzix 的增强现实眼镜上。文章发表后,参议员爱德华·马基(Edward Markey)和罗恩·怀登(Ron Wyden)发函质询;新泽西州总检察长古尔比尔·格雷瓦尔(Gurbir Grewal)禁止州内警察使用;苹果撤销了 Clearview 的企业开发者账户;Facebook、Venmo、Twitter、LinkedIn、Google 发出停止函。BuzzFeed News 获得内部文件,列出 2,200 多个使用机构、合计约五十万次搜索。

第一起已知的误捕

2020 年 1 月 9 日,也就是采访通·泰的前一天,底特律的罗伯特·威廉姆斯(Robert Julian-Borchak Williams)在家门口被两名警察逮捕,罪名是"一级零售欺诈"。2018 年 10 月,一名戴红帽、身材壮硕的男子在 Shinola 商店偷了五块价值 3,800 美元的手表。密歇根州警察局的人脸图像检查员詹妮弗·库尔森(Jennifer Coulson)用州系统搜索,返回 243 个候选,威廉姆斯排第九,她认为这是最佳匹配。报告页眉印着:"本文件不是确定性身份认定,只是调查线索,不能作为逮捕的合理依据。"

逮捕过程被警察的随身摄像头记录。审讯中,威廉姆斯三次否认监控截图里的是自己:"我们唯一的共同点就是又胖又黑。"他后来通过 Instagram 证明案发时自己在开车回家的路上。检方以证据不足为由撤销起诉,但用的是"不排除再诉"的方式。密歇根州 ACLU 帮威廉姆斯夫妇找律师,希尔在 2020 年 6 月发表《被算法错误指控》。底特律警察局长承认办案"草率",但认为人脸识别仍是有价值的工具。威廉姆斯在 2020 年底中风,2021 年初起诉底特律市,案件在书出版时仍未了结。书中还列举了同类的误捕:底特律的迈克尔·奥利弗、新泽西的一位男子、马里兰的一位男子,以及佐治亚州的兰达尔·里德——里德一案用的是 Clearview,他被抓时正在五百英里外的公司上班。这些误捕案的当事人都是黑人。

书里对这一案件的定位很明确:算法错误只是其中一环,一连串人的决策错误共同造成了这次误捕——检查员依赖受限的数据、警方没有独立取证、线人辨认时面对的是不同种族的照片。NIST 的测试显示,高精度算法在受控条件下的表现接近 100%,但部署在存在结构性不平等的环境里,仍会产生种族化结果。

第三部分 未来冲击:全球图景与法律战

疫情改变叙事

新冠疫情在 2020 年 1 月与 Clearview 的曝光几乎同时出现。口罩遮住了脸,也遮住了关于人脸追踪的争论。3 月,《华尔街日报》报道 Clearview 与若干州机构"讨论"用其技术追踪新冠患者,公司否认了这条未经证实的说法,最终也没有出现相关的公共合同。加州议员艾德·周(Ed Chau)提出允许用脸识别追踪疫情的州法案,没有获得支持。Clearview 和许多同行转而用戴口罩的图像重新训练算法,让它仍然能识别戴口罩的人。

公司趁执法机构关注度上升继续扩张。施瓦茨私下向投资人展示的幻灯片称,2019 年公司收入 100 万美元,文章发表后每日新增用户翻倍,每日搜索量从 1,384 次涨到 2,408 次。麦迪逊广场花园(MSG)在 2018 年就采用了另一家供应商的人脸识别,最初用于阻挡"惯犯",2022 年却用来拦截起诉过它旗下场馆的律师事务所的律师——几千名律师被列入"面部黑名单",其中很多人根本没参与相关案件。书里把这种做法称为一种新的歧视形式:商家可以依据从脸上搜到的网上信息拒绝顾客。

伦敦:流动的人脸识别车

2022 年 1 月 28 日,英国结束大部分防疫措施后的第二天,伦敦警察厅(Met)把一辆装着两台高清摄像头和两台游戏笔记本电脑的面包车停在牛津街角,用日本 NEC 的算法扫描路人,与一份九千多人的"观察名单"比对。过去六年里这是第十四次部署。当天扫描超过一万两千张脸,警报响了十一次,其中一次确认误报——一名黑人少年被按指纹后才确认不是要找的人。警察宣布逮捕四人,其中一人是交通违章的逮捕令,而不是重案。

Silkie Carlo 领导的小型隐私组织"老大哥观察"专门派人到现场抗议。社会学家皮特·富西(Pete Fussey)获准随队观察六次部署后得出结论:扫描数千人的脸不值得抓到那一个人,"我认为实时人脸识别让我们更不安全"。英国还有私营部门在使用:豪华赌场 Les Ambassadeurs 用以色列公司 Oosto 的系统识别贵宾并拦截近一千四百人的观察名单;连锁便利店使用 Facewatch 系统在商户间共享"窃贼"的脸,声称能减少 35% 的盗窃。

莫斯科与中国:被授权的监视

俄罗斯的经历展示了公共版人脸搜索的后果。2016 年,NtechLab 的 FindFace 允许任何人用照片在 VK 社交网络上找人:摄影师用它给地铁乘客配对,Dvach 论坛用户用它"人肉"色情演员和性工作者,亲政府组织用它识别抗议者。2018 年秋,NtechLab 关停 FindFace,只向政府和公司出售算法。莫斯科随后在全市约二十万台摄像头上部署人脸识别,为此付给 NtechLab 320 万美元。20 岁的安娜·库兹涅佐娃(Anna Kuznetsova)在暗网上花 16,000 卢布买了一份关于自己的报告:一个月内三百多次"被看见"的记录,包括她戴口罩戴墨镜时,系统还准确推断出她的住址和工作地点。俄罗斯官方对此没有整体整改,只处理了泄密警员。

中国把监视做成了国家项目。记者保罗·莫祖尔(Paul Mozur)看到的是:天坛公厕用脸识别限量发厕纸,厦门用摄像头驱赶无证导游,苏州在社交网络上公布穿睡衣出门者的照片和姓名,宁波给闯红灯的人发短信罚款并把脸投上广告屏。在新疆,摄像头与强制拘留营构成监视网络,用于识别和"再教育"被怀疑的维吾尔人。供应商 SenseTime、Hikvision、华为、旷视等因规模效应成为全球最大、最先进的人脸识别公司。莫祖尔描述这种体制时提到边沁的"全景监狱":被监视者不知道看守是否在看,这种不确定性本身就会让人服从。2021 年,中央情报局警告全球特工:因人脸识别等技术的普及,线人被识别、抓捕和杀害的频率在上升。

法律战:ACLU 对 Clearview

2020 年 1 月 22 日,文章发表四天后,第一起针对 Clearview 的集体诉讼在伊利诺伊州联邦法院立案,指控其违反伊利诺伊州《生物识别信息隐私法》(BIPA)。这部法律诞生于 2008 年:ACLU 律师詹姆斯·弗格-卡迪马(James Ferg-Cadima)在杂货店结账时被推销"指纹支付"服务,随后发现公司 Pay By Touch 濒临破产,伊利诺伊人的指纹可能成为破产资产被卖掉。他起草的 BIPA 要求公司在收集生物识别信息前获得书面许可,并允许个人以每次最高 5,000 美元起诉——这个"私人诉权"让法律有了实际执行力。2020 年 5 月,ACLU 也起诉了 Clearview,原告包括家庭暴力受害者、性工作者和无证移民。

Clearview 请来了第一修正案律师弗洛伊德·艾布拉姆斯(Floyd Abrams)。他的论证是:抓取公开照片、分析它们属于受宪法保护的表达,因此 BIPA 这样的法律违宪。ACLU 的维拉·艾德尔曼(Vera Eidelman)反驳:ACLU 不反对抓取公开照片,反对的是未经同意从照片中提取"人脸模板"这一生物识别数据。法官在 2021 年 8 月裁定:照片是公开的,但"从照片制作人脸模板的行为可以受到监管",并讽刺 Clearview"在未顾及各州合法性的情况下盲目制造了数十亿个人脸模板"。2022 年 5 月,双方和解:Clearview 除了承担 ACLU 的律师费,无需支付其他款项,但同意不再向美国境内的个人和私营公司出售人脸数据库,并在五年内不向伊利诺伊州警察出售产品。Clearview 宣布这是胜利,因为它本来就在只卖给政府。

欧洲的结论更直接。德国汉堡数据保护机构在德国博士生马蒂亚斯·马克思(Matthias Marx)的投诉下裁定 Clearview 违法。国际监管机构的调查结束后,Clearview 在至少六个国家被认定违法,累计罚款约 7,000 万美元,超过它从投资人那里融到的钱和全部收入。加拿大隐私专员丹尼尔·泰里安(Daniel Therrien)说:"Clearview 做的事情是大规模监视,这是非法的。"各国要求它停止收集本国公民的人脸模板并删除已有数据。通·泰的回应是把 Clearview 比作谷歌:"两者都是把公开信息变得更易检索的搜索引擎",只是检索词变成了脸的数学模型。

抵制者与防御性技术

数字权利活动人士伊万·格里尔(Evan Greer)主张把脸识别当核武器或生物武器对待:"任何潜在收益都不及必然的伤害。"Fight for the Future 发起"禁止人脸识别"运动,成员戴着自家用人脸识别应用扫描国会山的过客,识别出十三万人中的一位国会议员,以此说明"我们做的事应该被定为非法"。IBM、亚马逊、微软宣布在政府出台使用规则前不再向美国执法机构出售人脸识别算法。微软总裁布拉德·史密斯说,Clearview 让人看到"需要设定什么限制"这个问题有多尖锐。

也有技术层面的抵抗。亚当·哈维(Adam Harvey)在 2010 年发明 CV Dazzle——用棋盘格化妆和不对称发型干扰人脸检测算法,但他承认这套方法很快会被更强的算法击穿。他后来做了 Exposing.ai,公开人脸识别训练数据库的名单,许多数据库随后被下线。芝加哥大学的赵奔(Ben Zhao)团队发布 Fawkes,对照片做像素级改动,让人脸识别系统无法把照片与你本人对应。密歇根的斯科特·厄本(Scott Urban)卖反光眼镜框架 Reflectacles,在摄像头下模糊脸部。这些方法都有共同弱点:只对当前的算法有效,且需要覆盖你照片的一半以上。

Facebook 在 2021 年底宣布关闭人脸识别系统,删除超过十亿人的人脸模板。这本书指出这更多是象征性的:Facebook 只是关掉了功能,没有销毁算法,"就像把武器放进军械库,随时可以再打开门"。另一方面,Clearview 在 2021 年底首次参加 NIST 测试,入案照匹配正确率 99.76%,签证照匹配 99.7%,在参与测试的美国公司中名列前茅。通·泰宣布"没有可检测的种族偏差",但 NIST 的详细报告显示明显的群体差异:算法更容易混淆尼日利亚和肯尼亚出生的人,且对女性的识别不如男性。NIST 此前的测试还发现一个反直觉的结果:在入案照测试里,六种算法中有五种对黑人的识别比对白人更好——因为供应商知道测试对象是入案照,而美国黑人入狱比例更高。

公司与它的未来

2021 年 7 月,在协助识别 1 月 6 日国会山骚乱参与者之后,Clearview 获得 3,000 万美元投资,估值 1.3 亿美元。通·泰把这段时间描述为自己"从特朗普支持者变成无政治立场"的转变。2021 年 10 月,希尔在林登的公寓里试戴了 Clearview 的增强现实眼镜原型:看向一个人,镜片上会出现名字和照片来源。通·泰说数据库以每天 7,500 万张的速度增长,搜索一次平均返回约 26 张照片,"我们发明了时光机"。公司随后与美国空军签约研究眼镜原型,目标是在五十英尺外识别陌生人。

约翰逊与公司的冲突以另一种方式收场。2021 年初,施瓦茨修改公司章程:任何违反保密义务的股东,其股份可被按市值的 20% 回购。公司声称约翰逊对《纽约时报》杂志的公开采访违反了保密条款,以 286,579.69 美元买回了他价值约 150 万美元的股份。约翰逊说不会兑现这张支票,2023 年 3 月起诉了公司。通·泰拒绝谈论这段历史,公司律师说双方签过保密协议。

材料的边界与作者的位置

这本书的"资料来源说明"明确交代了证据等级。对话是否来自录音、文字记录还是当事人回忆,在书末注释里分别标注。对内心活动的描写基于作者与当事人的访谈。早期人脸识别技术先驱大多在世,作者直接采访了他们;唯一的例外是 1965 年与中情局合作的伍迪·布莱索,作者依赖他发表的论文、档案材料和其他记者的研究。

几条需要单独说明的限制:通·泰与公司拒绝回答"Smartcheckr 一期"(DeploraBall 与匈牙利推销)的问题,这段历史主要由被踢出公司的约翰逊提供,他本人对叙述有诉讼利益;通·泰后来公开后悔 2016 年的极端言论,说自己当时在"寻找身份";作者本人是报道者也是书中人物,她在瑞士收到线索、在纽约与公司周旋、在迈阿密和伦敦实地观察,观察者的位置影响了她能接触到什么。这些限制不改变全书核心事实的相互印证:克莱门特备忘录、亚特兰大采购单、警察局公共记录、法庭文件、公司演示,都是多方来源交叉验证的。

可迁移的知识

第一,技术能力与技术意愿是两回事。谷歌、Facebook 在十年前就拥有构建人脸搜索的技术,但它们判断这条线不能跨;Clearview 的创始人们判断可以,并把这种"伦理套利"当作竞争优势。Scalzo 把法律灰色地带视为商业先发优势,投资者说这是"技术去风险化"。这里的机制是:先行者承担法律与声誉风险,如果成功,风险变成壁垒;如果失败,为后来者铺路。

第二,监管的窗口在技术成熟之前。2001 年 Snooper Bowl 后的公众愤怒几乎让行业破产,但 9/11 转移了注意力,人脸识别反而进入机场。2011 年 FTC 研讨会上各方同意"不该发布识别陌生人的应用",但 FTC 只能提建议。伊利诺伊 BIPA 因为"私人诉权"成为唯一有执行力的州法,它直到 2015 年才被集体诉讼律师激活。反例同样清楚:国会没有通过任何联邦人脸识别法律;谷歌自己设的限制、Facebook 的关停都是公司自愿行为,可以随时撤销。

第三,误用的边界不在算法精度。罗伯特·威廉姆斯一案中,报告页眉明确写着"只是调查线索",但没人跟进独立取证。确认偏差、跨种族辨认的困难、不透明的观察名单(伦敦)和可买卖的访问权限(莫斯科)都会放大系统的伤害。作者根据 NIST 的受控测试指出,训练数据的构成会影响算法在不同群体上的表现;技术精度提高并不会消除部署环节的结构性问题。

第四,部署与拆除的代价不对称。斯诺登曝光后,美国国会的注意力转向政府监控问题,企业数据收集反而缺乏立法约束;新冠疫情把"追踪接触者"变成正当理由;1 月 6 日骚乱给了 Clearview 正当性光环。书中写的反例——奥本海默的"技术甜味"、谷歌在德国模糊住宅后使这些住宅遭人循址投掷鸡蛋、人脸识别普及后难以拆除——都呈现同一个结果:安装容易,拆除难。