BOOK NOTES
监视资本主义时代
Shoshana Zuboff
Shoshana Zuboff 是哈佛商学院教授,1981 年加入 HBS,是最早获得终身教职的女性之一。她 1988 年的《智能机器时代》研究了数字技术对工作与权力结构的改变。这本 2019 年出版的书延续了那个问题,建立了一套完整框架,将 Google、Facebook 等平台的商业逻辑定性为一种新型资本主义形态,并追踪其后果直到个人自主权、民主政治和社会秩序的层面。全书 691 页,分三部分:第一部分追溯监视资本主义的起源与早期机制;第二部分跟踪其从线上向物理世界扩张的过程;第三部分分析由此产生的"工具主义权力"及社会含义。
监视资本主义是什么,从哪里来
Zuboff 在书前给出八条定义,最基础的一条:监视资本主义将人类经验单方面宣称为免费原材料,对其进行提取、预测和销售。它的真实客户不是使用搜索和社交网络的用户,而是购买行为预测产品的广告主和其他企业。用户既不是顾客,也不是产品,而是"原材料的来源"——提炼预测产品的人类行为矿场。
这个逻辑的起点可追溯到 Google 2001 年前后的一个具体决策。Google 成立之初(1998 年),用户搜索产生的附带数据(搜索词模式、点击轨迹、停留时间、拼写等)仅被用于改善搜索质量,Zuboff 称之为"行为价值再投资循环"——用户的数据回流给用户自己,用来让搜索更准确,公司与用户之间形成一种平衡。用户不付钱,公司也没有收入,但有真实服务交换。
2000 年的互联网泡沫破裂打破了这个平衡。Google 的风投 Sequoia 和 Kleiner Perkins 开始施压,Page 和 Brin 宣布了一种 Zuboff 称为"例外状态"的危机叙事,用这个框架悬置了公司原有的行为准则。工程师们把积累的搜索行为数据用于一个新目标:预测哪个用户在哪个时刻最可能点击哪个广告,并据此向广告主收费。核心创新是把广告定价从"每千次展示"换成"预测点击率乘以竞价"——广告主为准确预测付费,而预测准确度来自对用户行为的独家分析。
这个转变的关键词是行为盈余(behavioral surplus)。维持搜索服务所需的数据是一部分,超出这个量的附带行为数据是另一部分,后者构成盈余。Google 发现,它对用户拥有独家访问权,可以把行为盈余加工成预测产品,在 Zuboff 称为"行为期货市场"的新型交易场所出售。2001 年 Google 净收入同比增长 400%,2002 年达到 3.47 亿美元,2004 年上市时已达 35 亿美元。这个四年内 3590% 的增长率,在 Zuboff 看来,是行为盈余逻辑的历史性确立。
Zuboff 援引 Google 首席经济学家 Hal Varian 在学术文章中的归纳:计算机中介交易带来四项新能力——数据提取与分析、新合同形式(基于监控)、个性化定制、持续实验。这四项合在一起就是监视资本主义机制的核心描述。Varian 的文章措辞淡然,但 Zuboff 将其逐条翻译为实际操作:"数据提取"意味着单方面声称占有用户行为,"新合同形式"意味着用自动化系统取代人与人之间的承诺和谈判。
Facebook 于 Google 上市同年(2004 年)创立。Zuckerberg 早期拒绝向用户收费,也尝试用 Facebook Beacon(2007 年)直接向朋友广播用户的购物记录,引发强烈反对后撤回。2008 年,Facebook 聘用前 Google 广告销售副总裁 Sheryl Sandberg 担任 COO。Sandberg 在 Google 主导了 AdWords 的商业扩张,Zuboff 将她比作"伤寒玛丽":本身不患病,但把病原从 Google 带到 Facebook。此后 Facebook 开始系统性地捕获行为盈余,2017 年广告收入占其总收入 98%。微软在 Satya Nadella 2014 年接任 CEO 后明确转向,收购 LinkedIn、推出 Cortana、捆绑 Windows 10 的全面数据收集,都是这条路线的具体步骤。Verizon 通过部署隐藏用户追踪 ID、收购 AOL 和 Yahoo!,也进入了同一竞争场域。
三条经济律令
监视资本主义的内在逻辑有三条递进的经济律令,每一条都要求比前一条更深的入侵。
提取命令(extraction imperative):行为盈余必须持续扩大规模,没有领域可以豁免。Google 把 Android 系统免费授权给手机厂商,目的是把 Android 变成遍布全球的行为盈余采集管道,而不是靠硬件盈利。Google Street View 的汽车遍布全球拍摄街道,根本目的是把物理世界数字化为可检索的行为数据基础设施,而不是帮用户导航。
2010 年,德国联邦数据保护委员会发现 Street View 的拍摄车辆在行驶时秘密收集附近未加密 WiFi 的传输内容,包括邮件、密码、医疗记录、信用信息。Google 最初否认,后来承认,将其归咎于"一名工程师的意外错误"。但 FCC 2012 年的调查记录显示,该工程师事先向项目负责人发送了包含数据收集说明的文档,负责人随后分发给整个 Street View 团队;Street View 的硬盘数据被定期传输到 Google 的俄勒冈数据中心。Google 全程拖延配合,拒绝提供文件,让涉事工程师援引第五修正案拒绝接受调查。FCC 最终仅以 25000 美元罚款结案,起因是"阻碍调查"而非数据盗取本身。38 个州检察长联合调查,2013 年以 700 万美元罚款和解。
预测命令(prediction imperative):预测产品的质量决定竞争力,越接近确定性越有价值。竞争迫使公司把数据采集从规模(量)扩展到范围(多样性)和深度(个性特征)。Cambridge Psychometrics Centre 的研究者 Michal Kosinski 等人在 2013 年证明:仅凭 70 个 Facebook "点赞",计算机预测五大人格维度的准确率就超过同事;150 个点赞超过父母;300 个超过配偶。IBM 的 Watson 个性洞察服务把社交媒体文本转化为性格和消费偏好预测,并已与数据经纪商 Acxiom 合作将结果用于商业定向。这些研究成果并非纯学术——它们进入了广告定向和政治微定向的商业流程,Cambridge Analytica 在 2016 年美国大选和英国脱欧公投中对 8700 万 Facebook 用户的数据进行心理画像即为案例。
行动经济学(economies of action):最可靠的预测产品来自干预行为本身。观察和分析还不够;要主动塑造行为,以保证客户的商业结果。Facebook 在 2012 年的"情绪传染"实验中,未告知 70 万用户,操纵他们的 News Feed 内容(增加或减少积极/消极情感内容),验证了可以在人群规模上系统性地改变情绪状态。Niantic Labs(Google 孵化)开发的 Pokémon Go,其商业模式是让麦当劳等商家付费成为"赞助地点",游戏机制将玩家自动引导到这些地点。这将线下消费行为纳入了行为期货市场的保证结果模式。
三条律令加在一起,Zuboff 的结论是:生产手段已经被从属于行为修正手段——先是自动化关于你的信息流,最终目标是自动化你本人。
掠夺周期与堡垒
监视资本主义公司通过一套稳定的四阶段策略管理社会阻力:
入侵(incursion):单方面闯入未受保护的领域,先行动再谈判。Google 对搜索数据的商业化没有事先征得用户同意;Street View 拍摄世界各地的街道和居民住宅前没有经过任何许可程序;Gmail 在 2004 年推出时扫描用户私人邮件内容,被一篇博客贴出来后立刻引发公众愤慨。
习惯化(habituation):等待时间消磨愤慨和法律程序的精力。FCC 对 Street View WiFi 数据采集的调查从 2010 年拖到 2012 年,Google 全程拖延;此期间街景服务照常扩张,争议本身逐渐淡出公众视野。Disconnect(一款屏蔽不可见追踪的应用)2011 年上线后,被 Google 从 Play Store 下架;联合创始人尝试与 Google 直接谈判无果,最终诉诸欧盟反垄断投诉。
适应(adaptation):在监管压力下做出表面修正。在 Street View 争议中,Google 在德国允许居民申请模糊门牌,雇用 200 名临时程序员处理 25 万份申请;德国数据保护委员会对其处以 14.5 万欧元罚款,Google 表示将"删除"违规收集的数据。
重定向(redirection):以新名义或新渠道恢复被阻止的供应路线。Google Glass 因公众反感("玻璃头"的社会污名、永远开机的隐秘摄录)在 2015 年从消费市场撤出,两年后以"企业版"重新进入工厂和医院,将对工人的监控包装成生产效率工具。Verizon 被迫对追踪 ID 的消费者版本提供退出选项后,将行动重心转移到与 AOL 结合的广告网络,而 FCC 和解条款不覆盖 AOL 业务。
这个周期的关键机制是速度不对称:公司按照自己的内部节奏移动,而法律和民主机构的速度由宪法设计决定。Google 和 Facebook 能够先占据领土,让习惯化在法律跟上之前完成。Zuboff 援引 Eric Schmidt 在 2011 年的公开表述:"技术比任何政府都移动得快,我们不想让政府阻碍事情。"
政治堡垒
Zuboff 记录了 Google 建立政治保护的四个具体操作:
2008 年大选中,Schmidt 向 Obama 竞选团队提供数据科学支持,主持选举夜的投票预测系统,与白宫形成结构性关系。由此建立的连接渠道使 Google 在政策制定中取得先发位置。Google 透明度项目记录:2009—2016 年间,197 人从政府系统进入 Google 生态系统,61 人从 Google 进入白宫或联邦咨询委员会。
游说支出方面,2014 年 Google 超过所有其他美国公司(1700 万美元),2018 年超过 1800 万美元,重点阻止可能限制行为盈余流动的隐私立法。在学术影响方面,Google 向接受其资助的乔治梅森大学法律中心资助了三场反垄断研讨会,隐瞒幕后参与,而 FTC 当时正在审查 Google 的反垄断案件。New America Foundation 的研究员 Barry Lynn 因发文赞扬欧盟对 Google 的 27 亿欧元罚款,被基金会(Google 累计资助 2100 万美元)院长解雇,Lynn 公开描述为"Google 对反对声音的清洗"。
六条宣言与掠夺的合法化
Zuboff 借用语言哲学家 John Searle 的"宣言"概念(declaration)分析监视资本主义的权力运作:宣言通过"描述世界如同已经改变"来制造新事实。Columbus 登陆加勒比海时宣读的 Requirimiento 告知原住民接受西班牙国王的统治,是这个机制的历史先例。
Google 建立监视资本主义的六条基础宣言:
- 我们宣称人类经验作为免费原材料供我们提取。
- 因此我们有权将个人体验转化为行为数据。
- 对这些数据,我们拥有所有权。
- 我们有权知道这些数据所披露的一切。
- 我们有权决定如何使用我们掌握的知识。
- 我们有权维持上述权利所需的一切条件(包括法外空间)。
这六条宣言相互依存,任一被推翻则全部崩塌。监视资本主义的成功在于让这些宣言成为既成事实,并把它们伪装成技术进步的必然结果。Google 从未明确宣称"我们拥有你的行为数据",而是通过 terms-of-service 的"同意幻觉"、技术的不可读性、速度、规模和政治保护,让这些宣言在没有征得社会同意的情况下成立。
学习分工的劫持
Zuboff 的核心命题:信息文明的首要社会秩序原则是学习分工(division of learning in society),对应工业文明里的劳动分工。她借用 Durkheim 对劳动分工的分析逻辑,论证学习分工在 21 世纪社会秩序中的同等地位——谁控制了"谁知道、谁决定、谁来决定谁来决定",谁就控制了社会秩序的轴心。
监视资本主义对学习分工的控制通过"两种文本"的结构实现:公开文本(用户可读可写:搜索结果、News Feed、社交内容)和影子文本(只有公司可读:行为盈余分析)。公开文本为影子文本提供原材料;影子文本关于每个用户的描述比用户自己所知的更详细,却无法被用户访问或质疑。Google 和 Facebook 的算法依据影子文本排序公开文本中出现的内容,以此把商业目标注入用户所看到的"世界的样子"。
数据集中度的量化:普林斯顿研究人员 2016 年分析 100 万个网站,发现 81000 个第三方追踪机构,但其中只有 123 个出现在 1% 以上的网站,Google、Facebook 和 Twitter 是唯一出现在 10% 以上网站的实体;Google 的追踪基础设施存在于全球排名前 100 网站中的 92 个。Google 是唯一一家在规模、数据积累深度和机器学习能力三者上同时领先的"全栈 AI 公司",即使在 2016 年的情况下,每天处理超过 35 亿次搜索,其 TPU 芯片专为深度学习推断设计,使计算成本大幅低于通用处理器。
这种集中度的社会后果:Zuboff 引用 Simitis 1985 年的论断("个人信息日益被用于强制规范行为")和 Paul Schwartz 1989 年的预警("计算机掌握的关于一个人的信息越多,就越容易控制他"),认为这些预言在监视资本主义的形态下已经超出隐私法的治理范围,构成了对民主自治前提的系统性侵蚀。
工具主义权力与大他者
Zuboff 在第三部分引入两个概念,描述监视资本主义对社会秩序的再造意图。
工具主义(instrumentarianism):通过仪器化和工具化行为来修正、预测、货币化和控制的权力机制。Zuboff 将其与极权主义明确区分:极权主义依赖国家暴力,要改造人的灵魂;工具主义依赖市场逻辑,对灵魂没有兴趣,只需要可预测的行为。B.F. Skinner 的行为主义是其理论先祖——1948 年的小说《瓦尔登湖第二》描述了一个通过"强化时间表"实现行为优化的乌托邦社区,Skinner 因此在其时代遭到广泛批判。工具主义在有了数字技术之后,把 Skinner 的梦想交给市场来实现,而没有遭遇当年同等程度的抵制,Zuboff 将这种对比视为心理麻木程度的证明。
大他者(Big Other):遍布感知、联网、计算的物质基础设施,监视资本主义通过它在物理世界中实施行为修正。大他者靠便利、个性化、激励和微调运作,这些过程对用户完全不透明。智能音箱、智能电视、联网汽车、智能门锁、智能家居设备,都是大他者的组成节点。Samsung 的智能电视隐私政策告知用户电视会录制和传输附近人的对话;德国当局 2017 年命令家长销毁 My Friend Cayla 玩具,因为其语音数据被传送给国防承包商 Nuance Communications。
MIT 媒体实验室教授 Alex Pentland 提供了工具主义社会的完整知识方案。他的"社会物理学"理论把社会关系约简为信息流动的数学规律,主张用计算真理取代政治协商:"一旦我们有了关于人类行为的数学、预测性科学,政府官员、行业管理者和公民思考和行动的方式将会发生根本性改变。"他将 Skinner 的行为工程问题更新为:"我们现在拥有持续流动的行为数据……意味着我们可以开始调谐社会系统。"
Pentland 创立的 Sociometric Solutions(后更名 Humanyze)向企业销售"社会度量徽章",连续监测员工的声音模式、位置、社交互动频率和沟通行为,为管理者生成 40 个行为维度的绩效仪表板。该公司记录的案例之一:在 Bank of America 呼叫中心为 10000 名员工统一安排咖啡休息时间,一年节省了 1500 万美元,原因是员工之间的非正式信息交流质量提升了。Nadella 在 Microsoft Ignite 2016 的演讲中,将智慧工厂里机器间的"汇流"(confluence)——每台机器从整个网络的失败中学习、所有机器朝同一结果运动——描述为未来社会关系的模板:"人与人的关系现在成为云端的一等公民。"
微软的一项专利(2013 年申请,2016 年更新)描述了一个嵌入操作系统的应用,持续监测用户行为(通话、社交媒体、搜索、动作),构建预测模型侦测"心理状态偏差",当用户行为偏离"正常或可接受的行为"时,向家庭成员、医生、保险公司或执法人员发出预警。
Zuboff 用 Pentland 的论述归纳工具主义社会的五个原则(每一条都能在 Skinner 的原著中找到对应):为"共同利益"服务的行为("共同利益"由拥有机器的人定义);计划取代政治(计算真理替代民主协商);个人自由服从集体知识;大他者作为权威信息来源;社会影响和机器过程替代个人道德判断。
未来时态的权利与反契约
第十一章围绕"未来时态的权利"(right to the future tense)展开哲学论证。Zuboff 援引 Hannah Arendt 的论断:意志是"对未来的心理器官",正如记忆是对过去的心理器官。承诺是人类对不确定性的具体回应——"承诺是可预测性的岛屿,是不确定海洋中的可靠路标"——意志自由的本质是在不确定中主动选择并兑现承诺。
监视资本主义的行动经济学通过干预行为本身来消除不确定性,以保证其客户的商业结果。Varian 在学术文章中举例:如果用户停止支付汽车月供,"当今很容易让车辆遥测系统不让车启动,并发送可以被取走的位置信号。"Zuboff 将此称为"反契约"(uncontract)——它把人与人之间的承诺、谈判、共同问题解决替换为私人公司执行的自动化计划,以"确定结果"为目标。
2016 年伊利诺伊州 Belleville 发生的案例被 Zuboff 援引为对比:收债员 Jim Ford 被信用社委托收回一辆 Buick,当他见到这对依靠 Social Security 在食物和药物之间取舍的老夫妇时,放弃了收债费,打电话给信用社请求灵活处理,最终在网络众筹帮助下让这对夫妇保住了车。Zuboff 问:如果这辆车装了 Spireon 的遥测系统,Ford 只需要在屏幕上点一下,那场人与人之间的茶叙、信任积累、创意解决方案,还有机会发生吗?
在这个框架里,自主决策、承诺、社会信任不是监视资本主义的障碍,而是其摧毁对象——因为不确定性和人类的不可预测性是它追求"保证结果"的主要摩擦来源。
第十七章论述庇护所的权利(right to sanctuary)。Zuboff 指出,人类社会长期以来将私人空间作为发展内在生活、自主思考和亲密关系的必要条件。当感测器和麦克风进入家居设备(Amazon Alexa、Google Home、智能电视、联网玩具),庇护所失去了物理边界。Zuboff 援引法国"Bottin Gourmand"美食指南 App 的案例:该 App 通过商场扬声器发送超声波信号追踪用户手机位置,在用户的知觉阈值以下操作。
民主与反制策略
Zuboff 区分两种抵制方式:
反宣言(counter-declaration):个人加密、隐私工具、退出选项,以及要求"数据所有权"的法律论述。这些措施可以减轻个人所受到的一些损害,但不改变核心运作机制——选择退出追踪只保护了自己,不质疑这套做法的合法性。把监视资本主义的问题框架在"隐私侵犯"或"垄断"的层面,对 Zuboff 来说也属于这一类:打碎 Google 只会产生多个监视资本主义公司,向 Facebook 征收隐私罚款不会改变其商业模式的基础。
综合宣言(synthetic declaration):改变游戏规则本身。Zuboff 的历史类比是 1989 年 11 月 9 日柏林边检站长 Harald Jäger 下令开放检查站——两万人涌过柏林墙,这个时刻不是靠任何单一的地下行动实现的,而是多年积累的公众确信产生了转折点。在法律层面,Zuboff 认为需要明确禁止的是:将人类体验作为原材料的行为盈余提取;行为期货市场;行为修正手段的私人垄断。这相当于 20 世纪初劳工法对工业资本主义核心做法(童工、无偿超时工作)的限制,而不仅仅是在边缘修补。
Zuboff 在结尾援引 Milton Friedman(同时也是其对立面 Hayek 的策略):立法最终跟随公众舆论,而舆论变化先于立法 20-30 年。她认为现阶段最重要的工作是打破"技术不可避免论"对公众的心理麻痹,使人们能够具体说出——对于监视资本主义的什么操作感到愤慨,以及为什么。她将这称为"成为摩擦"(be the friction):主动打断平滑流动,拒绝接受"这就是进步"的框架。
概念与分析工具的迁移
行为盈余的判断标准:任何平台或服务,一旦把用户生成的数据用于服务改善之外的目的,就开始了行为盈余的提取。判断一家公司是否在实践监视资本主义,Zuboff 给出的区分:数据的主要用途是改善向用户的服务(资本主义),还是改善向其他买家出售的预测产品(监视资本主义)。Apple 在书写作时因其收入主要来自设备销售而没有被完全纳入这个类别,但 Zuboff 说这个判断可能随时间变化。
提取命令的扩展规律:Zuboff 指出,Google 表面上分散的产品投资(智能家居、自动驾驶、街景、地图、健身追踪器)遵循同一逻辑:这些都是行为盈余的采集点。分析一项科技产品的投资逻辑,"这个产品捕获什么行为数据?谁来使用这些数据?用于什么目的?"往往比"这个产品卖什么?"更有解释力。2015 年 Google 出售 Nest 的官方叙事是"智能家居",但 Nest 的隐私政策允许将家庭内部行为数据与 Google 的其他数据源合并,这才是收购价值所在。
掠夺周期的识别:当一家平台公司宣布"不小心"发生了隐私问题,承诺内部改进,过一段时间以新名义悄悄恢复同样的供应路线,Zuboff 描述的四阶段完整发生了。Facebook 的"点赞按钮追踪事件"(2010—2014)就是这个周期的案例:Roosendaal 2010 年证明点赞按钮追踪非 Facebook 成员,Facebook CTO 公开否认;2011 年追踪被广泛记录,Facebook 称之为"bug";2011 年与 FTC 达成和解,承诺全面隐私程序;2014 年宣布将使用点赞按钮数据跨互联网追踪并构建详细画像,写入隐私政策,不提供退出选项。
学习分工框架的应用:Zuboff 把"谁知道?谁决定?谁来决定谁来决定?"作为评估任何信息系统权力分布的核心问题。职场的数字化绩效监控、城市的智能基础设施、教育的数据分析系统,都可以用这个框架检验。知识集中在管理方而对员工/学生/市民不透明,决策完全在系统控制方手中,Zuboff 将这种结构称为"病态的学习分工"。
工具主义与极权主义的操作区别:两者都追求对人的控制,但极权主义用恐惧和威胁,工具主义用便利、激励和微调——目标是可预测的行为,而不是意识形态顺从。区分这两个概念有助于解释:为什么很多人在没有强制的情况下也把自己的体验交出去(极权主义框架无法解释这个问题),以及为什么已有的应对极权主义的法律工具对工具主义失效。
限制与边界
书中的分析有几个需要注意的边界条件:
Zuboff 明确指出 Apple 在写作时没有完全进入监视资本主义路线,但说这个判断可能改变;Amazon 在消费数据积累上有相似趋势,但其核心收入结构(云服务、电商佣金)不同。"监视资本主义"这个标签在她的框架里有明确条件——数据被用于向第三方出售预测产品——而不是所有数据收集行为。
书中的主要证据来自美国和欧盟的法律文件、专利记录、学术研究、公司内部泄露文件和财报,对中国监视系统的分析不在本书范围内——中国的系统涉及国家主导而非市场主导的不同政治逻辑,她的框架在那个语境下适用性有限。
书中预测的某些最极端的趋势(大他者完全主导社会的时间线)到 2019 年出版时仍是趋势而非现实,技术障碍和社会阻力的规模大于当时的部分预期。但书的核心诊断——行为盈余提取作为商业模式的逻辑、公司知识与个人知识的结构性不对称、民主机构在速度和资源上的劣势——在此后欧盟 GDPR 的推进困境、Cambridge Analytica 事件的曝光、平台内容审核争议中都得到了持续印证。
Zuboff 对技术本身持明确立场:监视资本主义是一种特定的经济逻辑,而不是数字技术的内在属性。她援引 1999 年的"Aware Home"项目——一群工程师设计了一个充满传感器的住宅,但假设所有生成的数据归居住者所有。这表明数字技术允许不同的安排,是附加在技术之上的经济决策把它变成了提取工具。