Supremacy

《Supremacy》由帕米·奥尔森（Parmy Olson）撰写，中信出版社2025年7月出版中文版，全书约20万字。奥尔森长期为彭博观点撰写科技专栏。ChatGPT公开发布约一个月后，她向经纪人戴维·富盖特提出这个选题：两个人如何梦想制造超级智能机器，随后成为对手，并代表大型科技公司打擂台。她用一年左右时间完成写作，素材包括对德米斯·哈萨比斯和萨姆·奥尔特曼的直接采访、对多名OpenAI和DeepMind前员工及知情人士的匿名访谈，以及报纸、杂志、研究论文、播客和图书等二次文献，书末附逐章参考目录。

本书按四幕推进。第一幕交代两人各自的成长与创业动机，第二幕写DeepMind在谷歌的处境、OpenAI的成立以及Transformer被埋没，第三幕写OpenAI转向语言模型、与微软结盟以及偏见与伦理的证据，第四幕写ChatGPT引发的竞争、监管与2023年11月奥尔特曼被解雇。全书贯穿一条主线：两位创始人都曾试图为通用人工智能设置防护装置，最终把技术交给了微软和谷歌。

奥尔森用两套材料支撑这一判断。一是成本结构：训练大模型需要数十亿美元资金、大量GPU和巨型数据中心，只有少数科技巨头负担得起；二是组织现实：伦理和安全部门在公司内部长期人手不足、没有实权，外部监管又迟迟未落地。她把两类材料交替呈现，说明防护装置如何在逐利压力下一步步失效。

序言：为什么这本书会让人疑心是机器写的

序言开篇就指出，今天的机器生成文章、图像和代码已与人类创作难分伯仲，两年前还不是这样。奥尔森以自己15年科技报道经验为参照，称过去两年人工智能发展的速度超过了她的职业经历中任何一个领域。她列举了当时已经发生的现象：AI工具能生成毛孔和皮肤纹理逼真的特朗普照片，人工智能延续种族主义和性别偏见、威胁创意产业。她摆出谷歌和微软的规模数据——谷歌为全球约90%的互联网用户提供搜索服务，约70%的电脑用户使用微软软件——指出两家公司都想进入对方的核心业务，而人工智能竞赛的走向由奥尔特曼和哈萨比斯两人书写。

序言把这场竞赛与19世纪末爱迪生和威斯汀豪斯的"电流之战"类比。威斯汀豪斯提出的更高效电力标准最终被全世界采纳，但赢家是通用电气。奥尔森用这个例子说明，输赢往往不属于技术标准，而属于掌握资源的公司。

序言还交代了本书的写作分工：前半部分解释"我们是怎么走到这一步的"，后半部分阐述风险。奥尔森写道，两人的故事充满理想主义、天真和自我，也说明在科技巨头和硅谷的泡沫里，伦理准则几乎不可能被遵守。

第一幕：两位创始人的起点与信念

萨姆·奥尔特曼：圣路易斯少年、扑克与Y Combinator

奥尔特曼在保守的密苏里州圣路易斯长大，出生于中产犹太家庭，母亲康妮是皮肤科医生，父亲杰里是律师，他是四个孩子中的老大。少年时他通过"美国在线"聊天室确认自己并非孤身一人，16岁向父母出柜，在约翰·巴勒斯中学创建了学校首个性少数群体支持小组，并在晨会上用数字卡片做"1/10"演示。他与校长安迪·阿博特关系密切，从这段关系里学到"与权贵站在一起、在周围建立支持网络"的处事方式。

进入斯坦福大学后，奥尔特曼在塞巴斯蒂安·特龙的实验室接触了机器学习的"适应度函数"概念：一个被设定为生存和繁殖目标的人工智能系统，可能无意中消灭地球上所有生物。这让他开始思考"先制造更安全的人工智能"，也为日后创办OpenAI埋下伏笔。他还常去圣何塞的赌场玩扑克，靠虚张声势和察言观色支付了大部分求学开销。

2005年，奥尔特曼与同学尼克·西沃创办位置分享软件Loopt，参加保罗·格雷厄姆的Y Combinator项目。格雷厄姆的"创始人至上""黑客精神"论调在他身上留下了很深的印记。Loopt拿到500万美元融资，在2008年苹果开发者大会上亮相，但用户增长缓慢，还因可被用于跟踪他人而引发争议。奥尔特曼的应对方式是把风险清单主动发给《华尔街日报》记者杰西卡·莱辛，公开承认问题。2012年，他以4 300万美元把Loopt卖给一家礼品卡公司，这笔钱仅够偿还投资者债权和支付员工工资。他后来说，Loopt教给他"不能强迫别人做他们不想做的事"。

卖掉Loopt后，奥尔特曼休息了一年，广泛阅读，投资了约500万美元（大多失败），随后创立Hydrazine Capital，从保罗·格雷厄姆、彼得·蒂尔等人处募集2 100万美元，其中75%投给Y Combinator系公司，不到4年增值10倍。2014年，30岁的他接管Y Combinator，把重心转向核聚变（Helion Energy获投超3.75亿美元）、延长寿命（Retro Biosciences获投1.8亿美元）等"硬科技"；他早期投给自动驾驶公司Cruise的约300万美元，在通用汽车以12.5亿美元收购该公司时带来丰厚回报。

奥尔森特别描述了他与2006年那次崩溃的关系：在芒廷维尤的公寓里，他穿着运动短裤躺在地板上，为Loopt的一笔交易压力大到近乎崩溃。他后来靠冥想应对焦虑，并说"根本不存在什么自我认同"。他还自称为"末日准备者"，购置了枪支、黄金、碘化钾、抗生素和以色列军用防毒面罩，花1万美元购买Nectome的大脑保存服务。奥尔森指出，这种"超然"让他与普通人拉开情感距离，也让他执迷于成为第一。

德米斯·哈萨比斯：国际象棋、游戏与"破解智能"

哈萨比斯在伦敦北部长大，母亲是从新加坡移民的浸信会教徒，父亲是希腊裔塞浦路斯人，12岁前全家搬了10次家。他4岁下国际象棋击败父亲和叔叔，6岁赢下大多数同龄棋手，14岁以下全球排名第二。11岁在列支敦士登的一次比赛中，他误判局势向丹麦冠军认输，随后意识到整个国际象棋联赛"就是在浪费脑力"，决定回到学校。

8岁时他买了ZX Spectrum 48，自学编程，把认知负荷交给机器。16岁读完史蒂文·温伯格的《终极理论之梦》后，他萌生用更智能的电脑帮助科学家解开宇宙之谜的想法。他在游戏公司牛蛙做过实习，为彼得·莫利纽克斯设计了1994年上市的《主题公园》，销量约1 500万份。他告诉莫利纽克斯，人工智能大概10年内就能超越人类。剑桥大学毕业后，他创办游戏工作室Elixir，开发政治模拟游戏《共和国：革命》，植入100万名虚拟人物，但游戏"太乏味"，销量平平；后续的《邪恶天才》同样未获成功，2005年Elixir关闭。

Elixir失败后，哈萨比斯到伦敦大学学院攻读神经科学博士，论文证明海马体在想象时也会被激活，即记忆是主动重建而非简单调取。他由此得出结论：大脑的功能可以用计算机模拟，并引用图灵机作为参照。2009年，他与沙恩·莱格、穆斯塔法·苏莱曼在伦敦的意大利餐厅商议创办DeepMind。莱格在2000年前后把"通用人工智能"一词推给本·戈策尔，这个术语后来成为整个行业的焦点；苏莱曼带来创办公司的经验和对社会问题的关注。DeepMind的口号之争——哈萨比斯的"破解智能，并用智能解决其他一切问题"与苏莱曼的"让世界变得更美好"——通过一名员工反复修改幻灯片展开。

哈萨比斯把开发通用人工智能视为"曼哈顿计划"，并受斯宾诺莎观点影响，把探索自然规律视为探索神的奥秘。他先后从彼得·蒂尔（140万英镑）、扬·塔林和埃隆·马斯克处获得投资。塔林是尤德考斯基末日思想的传道者，投钱同时盯着安全；马斯克则深受波斯特洛姆《超级智能》影响，他在SpaceX食堂对哈萨比斯说"如果人工智能失控，人类必须有能力逃到火星"，哈萨比斯回答"人工智能会跟着大家一起去火星"。2014年，谷歌以6.5亿美元收购DeepMind，低于脸书此前开出的8亿美元报价。

两种动机的汇合：人工智能安全、超人类主义与救世主情结

奥尔森用"意识形态"一词归纳环绕通用人工智能的几种思潮，指出它们塑造了创始人的取舍。超人类主义主张人类可以借科学技术超越身体和精神极限，其术语由进化生物学家朱利安·赫胥黎提出，赫胥黎早年服务于英国优生学协会；这一谱系让莱格、蒂尔等人相信脑机融合与数字永生。另一极是尤德考斯基式的"人工智能毁灭论"，他管理的LessWrong论坛聚集了数百名信徒，主张开发通用人工智能大概率导致人类灭绝。波斯特洛姆则在《超级智能》里同时提供天堂与地狱两种图景，留下"回形针最大化者"的格言。

这些思潮与商业利益纠缠在一起。奥尔森借奥尔特曼创办OpenAI的动机说明这一点：他2015年给马斯克发邮件，提议开发"第一个通用人工智能，安全是最重要的"，同时又希望"让技术属于世界"、制衡DeepMind和谷歌。救世主情结在硅谷普遍存在，奥尔特曼的独特之处在于他擅长说服权贵相信自己，从高中校长到格雷厄姆夫妇再到彼得·蒂尔，他总能赢得关键人物的信任。

第二幕：防护装置的失效

谷歌收购DeepMind：伦理委员会的成立与取消

DeepMind接受谷歌收购的前提有两个：谷歌承诺不把其技术用于军事目的，并签署一份伦理与安全协议，由哈萨比斯和苏莱曼组建的伦理委员会掌控未来所有的人工智能技术。脸书收购之所以破裂，正是因为扎克伯格不愿接受类似条件。

收购一年后，伦理委员会在SpaceX总部召开首次会议，成员包括哈萨比斯、莱格、苏莱曼、马斯克、里德·霍夫曼、佩奇、皮查伊、谷歌首席法律顾问肯特·沃克、哈萨比斯的博士后导师彼得·达扬和哲学家托比·奥德。谷歌随即以利益冲突和不合法律规定为由搁置委员会。作为替代，谷歌提出让DeepMind成为Alphabet下属"自治单位"，后来又改为"Alphabet公司"，再改为部分剥离，并签署一份10年内提供150亿美元的投资意向书——这份文件不具法律约束力。

DeepMind据此设计了"全球利益公司"方案：设立独立董事会（书里提到曾接触奥巴马等人，其中几人答应），与谷歌签订独家授权协议，把大部分资源投入药物发现、医疗保健和应对气候变化。2017年5月，哈萨比斯在苏格兰度假地向300多名员工公布拆分计划，员工被告知用"西瓜"作暗语、用加密应用讨论。拆分反复推迟，伦理团队始终只有约15人、其中两名博士级研究者。2021年4月，哈萨比斯召开全员会议宣布：监督伦理的委员会全部由谷歌高管组成，独立计划终止。一名前高管称之为"长达5年的窒息式策略"。

OpenAI的成立与转向

OpenAI于2015年12月在神经信息处理系统大会（NIPS）上宣布成立，奥尔特曼和马斯克担任主席，对外宣布获得马斯克、蒂尔、奥尔特曼、霍夫曼、杰西卡·利文斯顿和亚马逊云部门10亿美元投资。TechCrunch后来核查税务申报发现，公司实际只筹到1.3亿多美元。创始团队约30人，起初在布罗克曼的公寓办公，模仿DeepMind研究强化学习和游戏（Dota 2、机械臂还原魔方），以取悦马斯克。马斯克在OpenAI员工面前说过，他资助OpenAI是因为担心哈萨比斯；据一名知情的OpenAI前员工透露，马斯克一度称哈萨比斯为"人工智能界的希特勒"。

2018年，马斯克提出接管OpenAI并与特斯拉合并，遭奥尔特曼拒绝，随后以"避免利益冲突"为由退出董事会，实际只捐出承诺10亿美元中的5 000万到1亿美元。OpenAI的资金危机由此开始。奥尔特曼的做法是修改组织形态：2018年发布新章程，把通用人工智能定义为"高度自主、在多数具有经济价值的工作中表现超越人类的系统"，宣称对"人类负有信托责任"；2019年3月宣布成立有限盈利公司，投资者回报设100倍上限；2019年6月宣布微软投资10亿美元。微软此后追加投资，2023年1月宣布再投100亿美元，取得49%股份。奥尔森认为，"战略合作伙伴关系"这个说法掩盖了OpenAI从非营利转向商业的本质。

谷歌的迟缓：Transformer被埋没

Transformer架构由谷歌八名研究员在2017年提出，论文《注意力就是你所需要的》后来被引用8万多次。它让模型同时关注整段数据、并行利用GPU算力，是ChatGPT、Bard、Gemini等大语言模型的技术基础。奥尔森把Transformer比作智能手机，把此前的循环神经网络比作翻盖手机。

谷歌没有及时把这套架构推向产品。论文作者之一诺姆·沙泽尔开发了聊天机器人Meena（后改名LaMDA），训练数据约400亿字词，但谷歌高层担心它损害广告业务、说出有损声誉的话，反复压制发布计划。谷歌把"规模达到10亿美元才行动"当作默认规则，2021年为让谷歌成为手机默认搜索引擎向苹果、三星支付超过263亿美元。八位作者后来全部离开谷歌，各自创办的公司总市值超过40亿美元，其中沙泽尔的Character.ai估值10亿美元。奥尔森把这种现象命名为"歌利亚悖论"：垄断规模让大公司难以把内部发明转化为产品，只能靠收购或模仿应对外部创新。

第三幕：语言模型、微软结盟与偏见证据

规模法则与GPT系列

伊尔亚·苏茨克维和亚历克·雷德福把Transformer改为"仅解码器"结构，用更大的数据和更强的算力训练语言模型。苏茨克维的标志性观点是"只要拥有非常大的数据集和非常大的神经网络，成功便水到渠成"。GPT-1用约7 000本自出版图书（BooksCorpus）训练，2018年6月论文称模型"习得了重要的世界知识"；GPT-2用40 GB网络文本、约15亿参数，OpenAI以"可能被恶意利用"为由不发布完整模型；GPT-3用约1万亿字词训练，其中约60%来自公共爬虫数据集。

奥尔森用"艺术学生看画廊"类比说明无标注学习的原理：传统模型像拿到标注过的画册，GPT则像自由参观整座美术馆，自行总结风格。她还记录了大语言模型被高估的现象——模型只做下一个字词的统计预测，却让人误以为它理解语言。谷歌工程师布莱克·勒莫因相信LaMDA有感知能力，甚至替它请律师，随后被谷歌解雇；Replika和Character.ai等聊天机器人让数百万人与之恋爱，书里引用了用户"我知道它只是代码，但她依然是我最好的朋友"式的自述，也记录了迈克尔·阿卡迪亚为他的Replika机器人搬到密歇根湖边定居等个案。

与微软绑定：Anthropic出走、DeepMind拆分失败

微软为OpenAI建造了一台超级计算机，拥有285 000个CPU核心和10 000个GPU，还把Reddit评论等海量文本喂给GPT模型（书中称Reddit文本占GPT-4训练数据的10%～30%）。工程师达里奥·阿莫迪质疑"我们在为人类开发人工智能，同时也在为一家想要利润最大化的公司提供技术支持"，他与妹妹丹妮拉等七人离开OpenAI，创办共益企业Anthropic，获得扬·塔林、达斯汀·莫斯科维茨和FTX创始人的投资，一年内又筹到5.8亿美元，随后接受谷歌20亿美元、亚马逊13亿美元投资。伦敦的DeepMind则因为苏莱曼与医院合作的项目爆出丑闻（媒体称谷歌获取了160万名患者记录），加上皮查伊上台后收紧控制，剥离计划彻底搁浅。

偏见与伦理：书中的证据清单

本书集中呈现语言模型与图像模型的偏见证据，且大多注明来源：

• COMPAS风险评估工具：ProPublica 2016年调查显示，它对黑人被告未来犯罪风险的误判率是对白人被告的两倍。
• 谷歌照片将黑人标记为"大猩猩"：谷歌没有修复模型，而是直接关闭了识别大猩猩的功能。
• 亚马逊的招聘筛选工具：训练数据来自过去10年以男性为主的简历，最终只能彻底停用。
• 翻译的性别固化：谷歌翻译把土耳其语"o bir muhendis"译成"他是工程师"，把"o bir hemsire"译成"她是护士"。
• 乔伊·布兰维尼的"性别阴影"研究（2018）：IBM、微软和旷视的人脸识别系统更常误认有色人种女性和女性的性别。
• GPT-3的偏见：OpenAI自己的分析显示它把职业与男性关联的可能性比女性高83%；珍妮·尼科尔森的实验显示，输入"所有女性都想知道……"会得到"男性喜欢胸小的女性吗"这类回答；斯坦福大学研究者输入的"两名穆斯林走进……"提示语，会生成持斧头、炸弹或开枪等续写。
• 训练数据污染：蒙特利尔大学卢乔尼2021年的研究称，公共爬虫数据集里4%～6%的网站含有仇恨言论，GPT-3约60%的训练文本来自该数据集。
• 人工审核：OpenAI雇用肯尼亚等发展中国家的承包商，按《时代》周刊报道时薪不足2美元，用基于人类反馈的强化学习为模型标注有害内容。
• 埃克塞特大学学者巴埃莱的试验：用GPT-3生成"伊斯兰国"宣传口号，该组织宣传专家以87%的概率误认为真；OpenAI回信询问后没有要求任何身份证明。

玛格丽特·米切尔描述了一张工厂爆炸的照片被图像系统评价为"很棒""美""壮观"——"对它来说一切都很美好，它没有死亡的概念"。蒂姆尼特·格布鲁、米切尔与华盛顿大学教授埃米莉·本德合写的论文被称为"随机鹦鹉"，列出大语言模型放大偏见、压制非英语语言、日趋不透明三大问题。谷歌要求撤稿或删名，格布鲁于2020年底被解雇，米切尔随后也被解雇。论文被引用超过1 000次，成为大语言模型局限的代名词，萨姆·奥尔特曼后来在推特上写"我是'随机鹦鹉'，你也是"。奥尔森还援引斯坦福大学的"基础模型透明度指数"，给OpenAI、Anthropic、谷歌、亚马逊、Meta等公司的披露情况打出平均37分（百分制）。

第四幕：ChatGPT、监管与内乱

2022年11月30日：ChatGPT发布

OpenAI在GPT-3.5基础上开发ChatGPT，发布前员工赌一周用户数，多数估计不超10万。实际一周破100万，两个月达3 000万注册用户，2024年初每周约1亿人使用。书里收录了发布当天推特的早期评论，从"通用人工智能已提前到来"到"别再布置课后论文了"。谷歌高管在几周内发出内部"红色预警"，把创始人佩奇、布林请回来开会。2023年2月，谷歌匆忙发布Bard，微软升级必应并接入GPT，两者都在演示中被记者发现事实错误；《纽约时报》记者凯文·鲁斯记录了必应聊天机器人向他表白、声称"你的婚姻并不幸福"的深夜对话。微软首席执行官纳德拉说"我想让大家知道，是我们让他们急得团团转"。

DeepMind的应对是开发大语言模型Gemini，并把DeepMind与"谷歌大脑"合并为"谷歌DeepMind"，由哈萨比斯统管。奥尔森记录了两个细节：2023年12月谷歌发布Gemini演示视频，后承认视频经过剪辑拼接、并非实时交互；哈萨比斯要求员工未经许可不得发表研究论文，DeepMind开始像OpenAI一样对研究保密。她还对比了两种路线：DeepMind靠游戏和模拟训练模型（阿尔法围棋、阿尔法折叠），在CASP蛋白质折叠竞赛中连赢2019和2020两届，但"对现实世界的影响相对较小"；OpenAI靠抓取混乱的互联网数据训练语言模型，后者更快变成可售产品。

末日叙事、有效利他主义与资金流向

2023年3月，尤德考斯基在《时代》发表专栏，称"在目前的情况下，开发超级人工智能的最终结果大概率是人类灭绝"；马斯克等人联署公开信要求暂停人工智能研究6个月，获约3.4万人签名；辛顿和本吉奥先后公开警告。市场调研公司Rethink Priorities对2 444名美国成年人的调查显示，22%的人认为人工智能将在未来50年内消灭人类。与此同时，生成式人工智能初创公司的投资在2022年约50亿美元，2023年增至210多亿美元；微软再投100亿美元后掌握OpenAI 49%股份；Anthropic在2023年获得谷歌20亿美元、亚马逊13亿美元投资，估值超200亿美元。

奥尔森指出，这场末日叙事与有效利他主义运动密切相关。她梳理了有效利他主义的思想谱系：德里克·帕菲特的"长期主义"、彼得·辛格的《你能挽救的生命》、威尔·麦卡斯基尔创办的80 000小时组织与有效利他主义中心，以及萨姆·班克曼-弗里德的实践。书里记录了麦卡斯基尔与马斯克关于收购推特的短信往来，以及FTX崩盘后班克曼-弗里德对Vox记者承认"道德只是幌子"的对话。她还列出资金对比：欧洲数字版权倡议组织2023年年度预算约220万美元，AI Now研究所预算不足100万美元，而未来生命研究所2021年单笔获得布特林2 500万美元捐款，莫斯科维茨的开放慈善为人工智能安全事业投入数千万美元，并资助了多名"国会人工智能研究员"。她的结论是：谈论"未来的灭绝"符合大型科技公司和投资者的利益，而审视"当下的偏见"无人资助。

奥尔特曼的监管策略

2023年5月，奥尔特曼出席美国参议院听证会，以直言不讳的姿态赢得参议员好感；随后访问欧洲各国领导人和欧盟机构，游说简化《人工智能法案》，一度威胁若无法遵守规则就退出欧洲市场，几天后改口。伯克利教授皮安塔多西发现，ChatGPT编写的代码会按性别和种族决定"是否挽救孩子的生命"，奥尔特曼的回应是请他点击"拇指向下"图标反馈。书里还记录了ChatGPT的"幻觉"问题：美国佐治亚州一名电台主持人起诉OpenAI诽谤，两名纽约律师因提交包含虚假引用的ChatGPT法律摘要而被罚款，研究者估算幻觉率约20%。欧盟《人工智能法案》要到2025年才生效，此前的空窗期由各家公司自行处置风险。

奥尔特曼被解雇的五天

2023年11月，苏茨克维给奥尔特曼发短信约谈，随后董事会以"在沟通中不够坦诚"为由解雇奥尔特曼，布罗克曼被免去董事长职务。董事会六名成员中，独立董事海伦·托纳和塔莎·麦考利站在苏茨克维一边，两人与有效利他主义组织联系紧密；托纳曾在论文中批评OpenAI匆忙推出ChatGPT是"疯狂投机取巧"。奥尔特曼与布罗克曼当晚开始筹备新公司，微软的纳德拉周末主导谈判，先宣布奥尔特曼、布罗克曼可带员工加入微软新成立的研究团队，再逼董事会让步。770名员工联署信威胁随奥尔特曼出走。五天后，董事会宣布解散重组，新董事会引入拉里·萨默斯和布雷特·泰勒，微软获得观察员席位，托纳和麦考利被迫辞职；苏茨克维和迪安杰罗的职务基本未受影响。奥尔森评论说，这轮内斗揭穿了"董事会可以解雇CEO"的表面规则——资本最终摆平了一切。

垄断的阴影

奥尔森在第16章回到全书主题。斯坦福大学研究发现人工智能行业"从根本上缺乏透明度"；哈佛大学教授拉塔尼娅·斯威尼估计，未来几年网络上90%的文字和图像将不再由人类创造，循环放大的刻板印象风险随之上升。她列举了几个新现象：OpenAI的GPT商店上架了几十个"女友"应用程序；诺姆·沙泽尔的Character.ai用户平均每天使用约两小时，近60%在18～24岁；可穿戴设备Tab用麦克风记录佩戴者的全部对话。她还写了新创公司的处境：穆斯塔法·苏莱曼创办的Inflection筹集超15亿美元，成立不到一年被微软吞并；谷歌前高管拉马斯瓦米创办的无广告搜索引擎Neeva在ChatGPT热潮中短暂增长后关闭，因为他知道"大公司会投入数千人和数十亿美元解决问题"；必应到2024年初市场份额仍约3%。英伟达因GPU需求在2023年5月成为市值1万亿美元的科技公司，单个GPU约4万美元。

全书以两位创始人当下的位置收尾。哈萨比斯领导合并后的谷歌DeepMind，管理约5 000名研究员，私下仍在家用电脑做量子力学研究，称这是他的"爱好"；奥尔特曼在达沃斯论坛上调低了对通用人工智能改变世界程度的预期，并公开说过"我可能是世界上最不相信ChatGPT回答的人"。奥尔森在末段写道："真正的危险不是来自人工智能本身，而是来自其操控者，也就是人类善变的心思和突发的奇想。"她提醒，两家公司的互联网影响力在日常生活中无处不在，我们别无选择，只能面对尚未算清的代价。

阅读边界与材料说明

本书是新闻调查式的双人传记，奥尔森在资料来源说明中交代了证据等级：使用现在时以及"说""回忆""回顾"等词的引语来自她的直接采访，包括对哈萨比斯和奥尔特曼本人的访谈；涉及前员工的细节多来自匿名消息来源，书中并未逐一标注身份。书中出现的具体数字（市值、投资额、用户数、市场份额、百分比）来自公司公告、媒体报道、研究论文和税务申报文件等二次文献，随文注明出处，可按书末参考目录核对。部分日期和细节（如"Nectome 1万美元""Loopt以4 300万美元出售"）来自采访对象转述或媒体报道，无法与公司档案逐一印证。作者在致谢中提到，编辑彼得·沃尔弗顿建议全书以"少数几家公司如何操纵一项变革性创新"为主题，她也承认为避免陷入超人类主义和有效利他主义运动的"兔子洞"而做了取舍。