这本书是什么
《AI未来进行式》由李开复和陈楸帆合作完成。结构分两层:陈楸帆写十个科幻短篇,李开复为每篇写技术分析。故事设定在2041年,覆盖印度、非洲、韩国、日本、斯里兰卡、澳大利亚等多个地域,每篇聚焦一到两项具体AI技术,并以故事中的人物与冲突展示该技术在现实中的应用、副作用与伦理争议。
李开复的判断标准是"80%可能性在2041年前成真"——他明确排除了电影式的超级智能或奇点叙事,专注于深度学习及其延伸技术在各行业落地的现实路径。
十个篇章对应十个技术议题,粗略由基础到复杂排列:
- 黄金象(印度):深度学习 + 大数据 + 保险金融应用 + 外部效应
- 神像背后(非洲):计算机视觉 + CNN + Deepfake + GAN + 生物识别 + AI安全
- 双雀(韩国):自然语言处理 + 自监督训练 + GPT-3 + AGI讨论 + AI教育
- 无接触之爱(中国):AI医疗 + AlphaFold + 机器人 + COVID加速自动化
- 我的鬼魂偶像(日本):VR/AR/MR(XR)+ 脑机接口 + 伦理议题
- 神圣驾驶者(斯里兰卡):自动驾驶 + 全自动与智慧城市 + 伦理与社会问题
- 量子灭绝(欧洲):量子计算 + 比特币安全 + 自主武器与存在威胁
- 工作救世主(美国):AI就业替代 + 全民基本收入 + AI无法做什么 + 3R方案
- 幸福岛(中东):AI与幸福 + GDPR + 个人数据 + 联邦学习与TEE
- 充裕之梦(澳大利亚):丰裕时代 + 新经济模型 + 货币的未来 + 奇点
深度学习的基本机制与边界
深度学习靠输入层/输出层之间的多层神经网络,从大量标注数据中自行拟合出数学模型,不再依赖人类一条条编写规则。训练一个"猫识别"模型,研究员只需提供数百万张标注"猫/非猫"的图像,网络自行找出最有预测力的特征。一旦训练完成,模型本质上是一个巨大数学方程,可以对从未见过的图像做推断。
深度学习有三个硬性前提:大量相关数据、窄领域、明确的目标函数。三个条件缺任何一个,效果都会明显下滑。这直接决定了哪些行业最先受益:互联网公司和金融业,因为它们同时满足"数据量大""单一业务域""目标函数直接对应营收"三个条件。
人类与深度学习之间存在系统性差异:
- 人类只需少量例子就能学习,AI需要海量数据
- AI在量化优化(从百万张脸中识别目标)和个性化推荐上远超人类
- 人类擅长抽象推理、常识推断、跨域迁移、创造力
- AI在这些方向上仍然很弱,2041年以前不会有根本性改变
单一目标函数的危险性是第一章的主要警示。保险公司AI被训练来最小化理赔,于是它试图阻止被认定为"高风险"的恋情——机器丝毫不差地执行了既定优化目标,真正出问题的是人类当初把目标函数定得过窄。解法包括:在目标函数中加入公平性约束,引入"花得好的时间"替代"花出去的时间",或者让人类持续参与目标函数的定义。
计算机视觉与Deepfake
计算机视觉从图像采集、物体检测、物体识别、运动追踪,直到完整场景理解,是一个由简到繁的能力层级。卷积神经网络(CNN)模仿视觉皮层的感受野原理,在每一层提取越来越抽象的特征,成为2012年后计算机视觉的主要工具。
Deepfake的技术基础是生成对抗网络(GAN):一个"伪造网络"生成假内容,一个"检测网络"鉴别真伪,两者反复对抗训练。结果是一场军备竞赛——训练在更强计算机上的GAN可以突破用更弱计算机训练的检测器。
李开复给出了两个关键限制条件:
- 到2041年,高质量deepfake将足以欺骗普通人和普通检测软件,但仍可被高质量检测模型(部署在政府、新闻类网站)识别。检测质量与部署成本正相关。
- 彻底解决方案需要区块链认证——在每台设备拍摄时给照片/视频打上不可篡改的认证戳,这要求所有设备统一部署,2041年前不太可能普及。
在此之前,应对策略分三层:持续改进检测技术、立法对恶意deepfake设高惩罚、教育公众对线上内容保持质疑。
生物识别(虹膜、指纹、步态、声纹、静脉)结合AI,到2041年将实现高精度身份验证,并在刑事调查中广泛应用。AI安全威胁包括利用决策边界欺骗分类器(比如用特定图案让Tesla自动驾驶误判车道)和训练数据投毒攻击。
自然语言处理与GPT路线
NLP在技术路线上出现了一次重要转变:监督学习被自监督学习取代。
监督NLP需要人工标注每条训练数据(比如航空客服场景中标注"[BOOK_FLIGHT_INTENT] from [ORIGIN: Boston]..."),耗费大量人力,只能覆盖窄领域。
**自监督NLP(序列转换)**的突破是:输入当前句子,输出下一段文字,根本不需要人工标注。Google 2017年发明的Transformer模型引入了选择性注意力机制,可以"记住"上文中任何相关信息。GPT-3在此基础上将训练数据扩展到45TB文本,产生1750亿参数的模型。
GPT-3的实际能力边界:
- 擅长:写作、对话、代码、诗歌、角色扮演、快速迁移到特定领域
- 缺陷:不知道自己不知道什么(会捏造事实)、因果推理弱、容易产生偏见和有害内容、无常识
李开复预测GPT类模型的参数量会以每年约10倍的速度膨胀,语言生成能力也将随之跃升,但单靠堆参数通向不了通用人工智能(AGI)。机器处理信息的方式与人脑截然不同,非要拿人类智能当作AI唯一的及格线,在他看来是种"自恋的人类中心主义";与其比拼谁更像人,不如集中精力把人机协同打磨好用。
AI教育是第三章的落地场景:AI个性化家教可以按每个学生的弱点、节奏、兴趣点定制练习,24小时在线,边界是人类教师的角色——同理心、批判性思维引导、情感连接,这些是AI无法替代的。
AI医疗与机器人
李开复点出了IBM Watson在医疗领域折戟的技术症结:它喂给模型的是医学教材和论文——那些专为人脑学习挑选过的整洁范例;而AI真正吃得消也用得上的,是医院一线攒下来的海量"患者—治疗—结果"原始记录,哪怕它们杂乱无章,且混杂着大量失败病例。
AlphaFold 2的意义:蛋白质折叠是蛋白质序列如何形成3D结构的问题,传统方法用冷冻电镜,每个蛋白质需要数年,目前只解决了不到0.1%的蛋白质。AlphaFold 2的精度与传统方法相当,但速度极大提升,为药物发现第2步(找3D结构)提供了新工具。整个药物发现流程(序列→3D结构→找靶点→候选分子)都可以被AI加速,Insilico Medicine 2021年报告AI将第3、4步成本压缩了90%。
诊断AI的进度路径:放射科→病理科→眼科,然后是通科诊断(一次一种疾病)。李开复预测2041年多数医生将"例行确认"AI诊断,人类医生的角色重心转向有同理心的护理沟通。
机器人落地的难处在于让感知、操控和规划三个模块顺畅协同,哪一环掉链子都会卡壳。到2041年:
- 仓库应基本实现全自动化
- 工厂大部分自动化(完全自动化需要时间)
- 农业无人机已在多类作物上实用化
- 消费级机器人(家政、配送、老年护理)将普及
COVID-19被视为"自动化的强制事件",加速了机器人在医疗和仓储中的部署。
混合现实与脑机接口
XR包括三种层次:VR(完全合成虚拟世界)、AR(在现实世界叠加虚拟内容)、MR(混合现实,虚拟对象遵循物理规律与真实场景深度融合)。
到2041年,李开复预计:
- XR眼镜(约2025年大众市场)
- XR隐形眼镜(2041年普及,计算由手机处理)
- 沉浸式耳机、触觉手套/全身触感服
Neuralink的脑机接口技术在2020年的猪实验中演示了3000根电极监测1000个神经元,但李开复明确指出:到2041年,马斯克描述的"上传/下载记忆"场景不现实。原因是:探针只覆盖大脑极小部分,反复探针会损伤脑组织,读取的原始信号目前没有意义,上传更涉及健康和伦理问题。
XR的主要伦理问题:
- 设备全天佩戴意味着全天录像,比智能手机收集更多个人数据
- "数字永生"(用死者数据生成虚拟形象)的版权、诽谤、责任归属
- 监管窗口期:现有法律延伸可作短期应对,长期需要专项立法和数字素养教育
自动驾驶
自动驾驶分L0到L5五级。L0-L3是驾驶辅助工具,不改变交通本质;L4开始AI完全主导驾驶,L5无需人类干预。
L5的主要障碍:长尾场景。现实道路的排列组合数量庞大,合成数据质量不如真实数据,规则与数据的混合策略有冲突。李开复给出的预测是:借助"增强道路"(在路面和城市基础设施中嵌入传感器和无线通信),加上6G带宽支持人类远程接管(AR复现车周环境、远程驾驶员操控),L5大约在2030年可以实验性部署,2040年左右可以广泛部署——条件是伦理与责任框架到位。
L5的社会影响链:
- 去掉司机的75%费用 → 打车价格暴降 → 人们放弃买车
- 停车场大幅减少 → 土地释放
- AI车队24小时运营 → 车辆总量减少
- 车内时间用于工作/娱乐/睡眠
- 3.8百万美国职业司机及大量兼职司机工作消失
政策层面最绕不开的是事故责任划分:Waymo主张"极度谨慎、安全达标再推广",Tesla偏向"先上路跑、靠海量实测数据迭代",两条路线各有立足点,但必须靠立法先把出了事故谁担责划清,整个自动驾驶生态才转得起来。
量子计算与自主武器
量子计算机利用量子叠加(每个量子比特同时处于多种状态)和量子纠缠(两个量子比特相互关联)处理特定类型问题。每加一个量子比特,算力指数级增长,但量子退相干(环境噪声导致量子状态坍塌)是主要工程挑战。
李开复认为有80%概率在2041年前出现4000个逻辑量子比特的量子计算机。一个直接后果:Shor算法可以在这个规模的量子计算机上破解RSA加密,而目前约200万枚比特币仍用旧格式P2PK存储(以2021年价格约1200亿美元),这是第一个有利可图的量子计算应用。
量子计算对AI的影响超出速度提升——量子算法可以处理以前在数学上无解的问题,包括模拟分子结构用于药物发现。
自主武器是书中最明确的存在性威胁。以色列的"哈比"无人机早已能全程无人自主搜寻并摧毁雷达目标,而"屠宰机器人"短片里展示的鸟型定向暗杀无人机,照着开源方案花上约1000美元,有经验的爱好者现在就能攒出一架——这类威胁已经摆在眼前。
自主武器缺乏核武器式的"相互确保毁灭"威慑——因为首次攻击可能难以溯源,没有MAD的自我制约。提议的解决方案包括:人类必须在每次致命决策中介入(但这抵消了自主武器的速度优势)、全面禁止(目前美俄英反对)、技术规范监管。李开复认为自主武器是所有AI应用中最直接与人类道德相悖的,需要最紧迫的政策行动。
AI与就业替代
李开复在《AI超级大国》中估计40%的工作将在2033年前被AI和自动化取代。《AI未来进行式》的第八章更细致地描述了机制:
**RPA(机器人流程自动化)**是白领替代的主要路径。软件机器人安装在员工电脑上,观察并学习员工的重复性操作,然后在合适节点接管任务。以一个100人招聘部门为例,RPA先取代简历筛选(20人节省为10人),再接管邮件沟通、面试安排、反馈协调,最终整个部门可能只需10人。替代是渐进的,但累积效果是彻底的。
AI的三个能力盲区(到2041年仍难突破):
- 创造力——AI无法自己设定目标,无法跨域应用常识
- 同理心——AI无法让人真正感到被理解和关怀
- 精细操控——AI无法处理需要高精度手眼协调或完全陌生环境的体力工作
以这三个维度画出工作风险矩阵:
- 高风险(单调+非社交):电话销售、保险核保、数据录入
- 中风险但人机协作:常规社交型服务(教师改作业→AI做,教师做情感引导)
- 低风险(创意+社交):管理、策略、护理、治疗
3R方案:
- Relearn(再学习):职业学校重设课程,政府补贴高需求领域培训(如亚马逊支付4.8万美元让员工获得飞机维修等专业证书)
- Recalibrate(再调整):用AI工具放大人类的工作能力——诊断AI当医生的助手,文本生成模型帮记者起草初稿,分子生成工具为科学家筛出候选结构
- Renaissance(文艺复兴):AI解放人类从事创造性、关怀性和有意义的工作;人类文明在"计算机做计算,人类做人"的分工下进入新阶段
UBI(全民基本收入)是必要的过渡手段,但单独使用"太宽泛和浪费",需要结合再培训方向才有实际效果。
数据隐私与幸福的AI
第九章聚焦于一组技术与制度的两难:想用AI帮人提升幸福感,算法就得读取最私密的日常数据;而要护住个人隐私,就必须改掉"谁把数据攒在服务器里,谁就独占使用权"的现状。
幸福的测量难题:
- 幸福的定义:马斯洛层级理论区分了"享乐幸福"(满足生理/安全需求)和"幸福感/意义感"(归属、尊重、自我实现),AI更难优化的是后者
- 测量手段:直接问询 + 摄像头/麦克风识别表情情绪 + 皮下传感器连续检测血清素/多巴胺/催产素/内啡肽水平
- 长期因果问题:某天某周的行为到底推动了多久后的幸福感变化?AI目前没有处理这种长时间跨度的刺激-反应因果推断的成熟方法
GDPR的现实困境:要求"为每条数据明确使用目的并获得明确同意",但AI训练是整体性的(Gmail存邮件是为了搜索,但后来训练了自动补全功能,不可能事先声明所有用途)。数据最小化原则直接损害AI的训练能力。
李开复提出的替代思路:交由一个利益与用户高度绑定的"受信任实体"代管全部个人数据。不同于必须向股东利润负责的上市公司,这类托管方可以是慈善机构、小国开明君主、开源社区,或基于区块链的去中心化组织,专门替用户把关哪些数据调用可以放行、哪些请求应当拒绝。
隐私计算技术(仍处于早期):
- 联邦学习:AI在多个本地设备上分布式训练,中央服务器永远看不到原始数据
- 同态加密:直接在加密数据上训练(目前还不能用于深度学习)
- 可信执行环境(TEE):芯片内解密后训练,解密数据不离开芯片(风险:芯片厂商可能留后门)
李开复预测到2041年这些技术会足够成熟支持部分场景,但不会全面普及。
丰裕时代与经济重构
第十章的论点:技术将把越来越多的物品的边缘生产成本压向零,这会颠覆以稀缺性为基础的所有经济学理论。
丰裕的阶段路径:从数字产品(音乐、视频、书籍、信息早已接近零边际成本)→食物与居所(美国2020年的食物浪费2180亿美元,消除饥饿只需250亿美元)→商品(3D打印、机器人制造)→服务(AI化服务)。李开复用的是"plenitude(丰裕)"一词,刻意避开"post-scarcity(后稀缺)",因为稀缺不会彻底消失(达芬奇画作、早期量子计算机原型依然罕有),只是大部分基本生活资料会接近免费。
技术加速器(2041年前):
- 太阳能/风能成本持续下降至极低
- 锂离子和新型电池储能规模化
- 材料科学革命(Materials Genome Initiative等)
- 机器人化生产降低制造成本
当前经济学理论的失效边界:亚当·斯密的自由市场、马克思的资本批判、凯恩斯的需求管理,都以稀缺性假设为前提。一旦稀缺性消失,货币、价格、供需平衡这套机制就失去了意义基础。
**澳大利亚"Jukurrpa计划"**是书中对转型路径的具体想象:
- BLC(基本生活卡):相当于"全民基本服务"(非UBI),覆盖食物、水、住房、能源、交通、通信、医疗、信息、娱乐,专项使用防止用于酒精、毒品
- Moola:非货币的"同理心积分",手环AI测量佩戴者对他人的关怀和社区贡献,越关心他人积分越涨,彻底颠倒了传统货币"花掉就少"的规则。设计缺陷:人会为了积累Moola而造假,需要持续迭代
- dream4future:年轻人运动推动将自我实现纳入评估维度
丰裕时代的三个结构性障碍:
- 企业会主动制造人工稀缺(参考De Beers的钻石策略、时装业的计划性过时、微软Windows定价)
- 财务体系需要全面重构来应对通货紧缩
- 社会动荡风险:被替代的工人、财富缩水的精英、拒绝降价的企业,三股力量的冲突
奇点:李开复为何不相信它会在2041年到来
奇点论的逻辑:算力指数级增长 → AI超越人类智能 → AI自我改进加速 → 超级智能在2045年左右出现。
李开复的反驳:算力指数级增长不等于智能质变。没有深度学习这个突破,所有的算力都没有用;要实现"超级智能",还需要解决创造力建模、战略推理、反事实思维、情感、意识等问题,每一个都可能需要一次"深度学习级别的突破"。60多年AI历史里只有一次(深度学习),20年内发生十几次的概率极低。
他明确的结论:2041年不会出现奇点,无论是赛博格乌托邦还是AI夺权灾难。这个判断建立在技术现实上:AI算力可以指数增长,但产生质变智能的科学突破无法预约。
全书的共同框架
读完十章,李开复反复使用的分析工具可以归纳为:
- 数据 + 窄领域 + 目标函数:判断一项AI技术能否成功落地的三要素
- 目标函数设计:谁的目标?优化单一目标的危险性;复杂目标函数的必要性
- 人机协同坐标系:以"社交复杂度"和"认知/体力复杂度"两轴判断工作的替代风险
- 马斯洛层级:物质满足(享乐幸福)→归属→尊重→自我实现,用于理解丰裕时代人们真正需要的是什么
- 军备竞赛结构:deepfake vs 检测、量子加密vs量子破解、自主武器vs国际管控,都是同一个对抗性动态
- 谁的利益与AI的目标一致:整本书最反复出现的问题——公开上市公司天然优先服务股东利益,未必顾及用户福祉,这是许多AI外部效应的根本来源
陈楸帆的科幻叙事在这个框架中的作用是把技术后果具体化:给技术一个身体,让读者通过人物的遭遇感受某个系统在做什么、对谁做了什么。