了不起的盖茨比
2006年6月,微软创始人比尔·盖茨与沃伦·巴菲特,相继宣布了投身慈善事业的重大决定,引发美国乃至全球社会广泛关注。
对一整代以其为偶像的新中产来说,相当于经历了一次前所未有的慈善意识启蒙。
桥水基金的办公室里,哈佛社会研究专业出身的年轻人霍尔顿·卡诺夫斯基,敏锐嗅到了一个施展抱负的全新空间。他先是和搭档埃利·哈森菲尔德在公司内部拉起业余慈善俱乐部,紧接着在2007年干脆全职创办了量化慈善评估机构GiveWell。
一年后,还在普林斯顿大学攻读物理学博士的达里奥·阿莫代伊,关注到了卡诺夫斯基的GiveWell博客,并对其试图量化慈善投入与产出的思路大感兴趣。次年,他便通过该机构捐出了1万美元,指定分配给非洲医疗公益组织,并开始向身边的亲朋好友热情推介GiveWell。
主流商业报道,总习惯把Anthropic讲成一个2021年才突然诞生的硅谷车库创业故事,仿佛阿莫代伊兄妹是因为在OpenAI内部与山姆·奥特曼发生了路线分歧,才临时起意拉起了一支安全派队伍。
这种叙事漏掉了最核心的组织中枢。
从2008年的博客结缘,到GiveWell迁至旧金山后成为合租好友,直至2016年前后仍同住于德拉诺大道的共享住宅,最终与达里奥妹妹结成夫妻。
卡诺夫斯基和达里奥这对组合,早在公司诞生前十多年就已经深度捆绑在一起了。
在上一篇中,我们揭秘了博斯特罗姆与尤德科夫斯基是如何在边缘亚文化社群用新的技术概念包装白人种族主义内核。
一个自然而然引出的问题就是:一套如此怪诞而极端的边缘教义,究竟是如何走出小众网络论坛,一步步渗入旧金山湾区本就斑驳陆离的文化生态,最终把原本对奇点论冷眼旁观的正规慈善组织也拉入同一轨道、像滚雪球一样汇聚起庞大人才与资本的?
在第三篇连载中,将带你复盘这场横跨1990至2010年代的亚文化嬗变。
1
任何一场成功的现代邪教扩张,都始于一套能够为信徒提供归属感与优越感的黑话体系。
2009年初,尤德科夫斯基在硅谷正式推出名为LessWrong的理性主义社区,以此前发表于Overcoming Bias博客的一系列长文为基础,逐步整理形成被追随者奉为圭臬的《序列》(The Sequences)文本体系。
在这套文本里,尤德科夫斯基向自命不凡的年轻程序员和科技极客兜售了一种极具诱惑力的应许:普通人类的大脑充满了进化遗留的认知偏见,通过严格的贝叶斯概率训练,把日常生活中所有的情绪、道德和直觉全部改写成数学先验概率,一个人就能进化成看透宇宙真相的“理性人”。
为了让这套硬核理论破圈,他还在美国网络爽文网站连载长篇同人《哈利·波特与理性之道》(HPMOR)。书中的哈利习惯用贝叶斯推理、认知心理学和博弈论去解构魔法世界,甚至将用科学理性对抗死亡视作核心信念。这部作品随后在美国理工男和极客社群中广泛流传,成了不少人皈依LessWrong的桥梁。
带着这套自诩绝对理性的思维工具,尤德科夫斯基和他的信徒们推演出了超级人工智能的末日危局,并由此提出一个疯狂的概念—“关键行动”(Pivotal Act)。
在尤德科夫斯基的逻辑中,即便某家机构率先造出安全可控的强大AI,也无法高枕无忧,因为你无法回答一个残酷问题:如何阻止其他竞争者随后造出失控AI并毁灭人类?
因此,任何真正有效的安全方案,都必须具备采取某种“关键行动”以彻底改写竞赛局面的能力。为了说明这种能力的边界,他甚至举过一个极端方案即利用自我复制的纳米技术“熔毁全球所有GPU”。到了2023年,这位自诩看穿人类认知偏见的教主在《时代》杂志公开呼吁,各国应建立严格的国际AI开发禁令,并允许对违规建设的大型GPU集群动用军事打击。
如果你读过中国科幻作家刘慈欣的《三体2:黑暗森林》,你会发现尤德科夫斯基从“关键行动”到“空袭数据中心”的整套理论推演,简直就是一场令人啼笑皆非的硅谷版“黑暗森林”幻想。
在《三体》中,罗辑至少是面对浩瀚宇宙中真实未知的外星文明,才推演出“猜疑链”与“技术爆炸”两条公理,进而得出“一旦发现异己坐标必须抢先开枪消灭”的黑暗森林法则。而尤德科夫斯基是把尚未诞生的通用人工智能想象成了潜伏在代码森林里的“三体水滴”,把每一个不按其教义行事的同行视作随时会向太空发射坐标的“叶文洁”,再把所谓的“关键行动”包装成挽救人类的先发制人打击。
恰恰是这种“全人类都在梦游,唯独我们执剑守护”的偏执,对一批智商极高、却在现实社交中格格不入的理工学子产生了致命吸引力。
在他们的精神世界深处,没有受过理性主义启蒙的世俗大众,只配在末日算术里充当深陷认知偏见的沉默分母。
行文至此,很多人恐怕已经有了疑问,一个没学历的边缘博主以什么维生,能支持其常年高强度网上冲浪?
答案藏在九十年代的互联网邮件组江湖里。
那时的上网条件决定了,早期互联网亚文化社群往往具有极强的精英兄弟会气氛,硅谷乃至全球今天如雷贯耳的硬核极客、密码学家与未来学家,在1990年代末就活跃在“密码朋克”、“外熵派”(Extropians)以及尤德科夫斯基自己创办的SL4(Shock Level 4)等小众邮件列表里。
博斯特罗姆与尤德科夫斯基,正是当年外熵派与SL4邮件组里的大V。
尽管没有直接史料证明博斯特罗姆与尤德科夫斯基在邮件组里谁先改造了谁,但两人共通的末日思维与对“友好AI”的关注,在社区里无疑有着广泛影响。
后来靠PayPal、Skype或别的什么项目在互联网泡沫中暴富的硅谷新贵里,就有尤德科夫斯基同一个邮件组的老友或粉丝。
2000年,同属外熵派网络的布赖恩·阿特金斯与萨宾·阿特金斯夫妇拿出一笔小钱,资助尤德科夫斯基创办了奇点人工智能研究所。2005年前后,硅谷大佬彼得·泰尔又给尤德科夫斯基的民科事业续了费,并于2006年和雷·库兹韦尔等亲临首届奇点峰会。
2008年前后,Skype联合创始人扬·塔林逐步成为尤德科夫斯基核心金主。
记住最后这个人,因为正是塔林,在2021年5月领投了Anthropic的1.24亿美元A轮融资。
2
如果仅仅停留在网上自嗨,LessWrong充其量只是一个按数学考试成绩准入的高智商版贴吧。
真正让它发生质变的,是2010年代前半期从线上向旧金山湾区线下的活动拓展。
彼时的旧金山湾区,本就是全美亚文化斑驳陆离的集散地。自1960年代嬉皮士运动以来,这里长期沉淀着反主流公社、火人节狂欢、硅谷自由意志主义与各类反传统生活实验。
随着一批铁粉在互联网行业创业或就职,一个所谓“理性主义者”的线下社群就在湾区自然成形了,而一当进入这个亚文化万花筒,LessWrong与湾区原有的自我量化、生物黑客实验以及非传统亲密关系文化等就不可避免地产生交织与双向影响。
2012年,安娜·萨拉蒙等人在伯克利正式创立了专注线下活动组织的“应用理性中心”(CFAR)。
从2012年至2020年,这家LessWrong衍生机构累计举办了约60期、每次约四至五天的沉浸式集训工作坊。通过高强度的集体课程、小组演练与一对一心理技能训练,来自名校和科技大厂的年轻技术天才们在这里消除所谓“认知与情绪阻抗”,或者用大白话说,完成洗脑。
除了集中洗脑,LessWrong社区还极其推崇成员的共居生活,在高度同温层的群体氛围中建立起超越世俗的情感纽带。
2016年前后,达里奥兄妹与卡诺夫斯基就共同居住在旧金山德拉诺大道的一栋合租住宅里,后来成为Anthropic联合创始人的贾里德·卡普兰与克里斯·奥拉也曾先后进入这一共同居住与社交网络,达里奥当年甚至亲自辅导过奥拉学习数学。
在这个高度熟人化的核心圈子里,共同的生活起居、思想碰撞与价值认同,自然而然地织成了一张致密而又排他的信任网络。
读到这里,熟悉二十世纪初欧洲思想史的读者恐怕已经产生了一种强烈的既视感。
这群湾区极客在伯克利合租屋与工作坊里演化出的封闭亚文化,在整整一百年前的维也纳地下圈子里,曾有过一个气味极其相似的前辈,那就是以圭多·李斯特与约尔格·列本费尔斯为代表的“阿里奥索菲”(Ariosophy,雅利安神智学)地下教团。
20世纪初,在中欧反工业化的“生活改革运动”(Lebensreform)浪潮中,同样涌现出大批沉迷于素食主义、裸体公社、神秘学心理治疗与反传统生活实验的边缘知识分子。在这口斑驳的染缸里,离开修会的还俗修士兰茨将种族遗传、繁殖控制与日耳曼神智学强行嫁接,于1905年前后开始出版地下杂志《奥斯塔拉》(Ostara)。

兰茨在杂志里鼓吹所谓“神权动物学”与赤裸裸的种族等级观,将少数人塑造成肩负文明使命的高等精英,而把普通底层大众视作会稀释血统的劣等分母—这与百年后博斯特罗姆担忧“负向优生压力”、湾区极客视世俗大众为呆板分母,在精神底色上如出一辙。
同样耐人寻味的是其组织形态。
1907年,兰茨在奥地利多瑙河畔取得一座废弃的韦尔芬斯泰因古堡遗址,创立了“新圣殿骑士团”(ONT),并设计了专属服饰、旗帜与宗教化仪轨,自诩为拯救高等文明免于退化毁灭的守夜人。
在1910年代的维也纳正统大学教授与普鲁士将军眼里,古堡里的那群白袍怪胎,就像2012年东海岸知识分子眼里的伯克利合租屋极客一样滑稽可笑。
然而历史很快就证明,在一个陷入霸权危机的帝国,统治精英发现旧有的世俗意识形态失灵时,恰恰是这种在地下亚文化染缸里锤炼出的边缘教团,最容易与帝国的权力机器产生危险共振。
3
同道中人渐渐聚齐了,但真正把这群湾区边缘极客推向如今万亿美元资本牌桌的,是本文开头的主角霍尔顿·卡诺夫斯基。
翻开GiveWell官网存档的前董事名单,你会发现两个极其醒目的名字:桥水联席首席投资官(Co-CIO)格雷格·延森,以及桥水前核心高管鲍勃·埃利奥特。
2007年卡诺夫斯基与搭档离职全职创办GiveWell时,主要从原桥水同事处筹得约30万美元启动资金,其中老上司延森是核心支持者,并与埃利奥特一道以董事身份为其提供背书。
这并不是什么“华尔街高管热心慈善”的温情故事,而只是卡诺夫斯基个人命运最真实的注脚:他是一个情商智商极高、手里没有资本但却试图在成功阶梯上抓住一切向上攀爬的年轻人。
正如菲茨杰拉德笔下望着对岸灯火的盖茨比一样,卡诺夫斯基从踏出哈佛校门起,就展现出了惊人的成功渴望与攒局能耐。
在看好慈善风口并果断全职创业后,他甚至立刻就暴露了骨子里为达目的不择手段的饥渴。
2007年12月,GiveWell刚成立不到半年,卡诺夫斯基便在知名社区网站MetaFilter上注册小号,假扮普通网友发帖打听GiveWell的口碑,紧接着又换上自己的真名账号下场作答,极力推销这家机构,却刻意隐瞒了自己就是创始人的身份。
这套自问自答的把戏很快被社区网友当场拆穿并封号。事发后,卡诺夫斯基一度辩称自己是因为严重缺觉才犯糊涂,还提出自掏腰包给网站捐款,结果引来一片群嘲。
2008年1月,GiveWell董事会不得不发布公开声明,将他从执行董事和董事会秘书的职位上撤下,并从他微薄的薪水里扣除了5000美元,强制要求他去进修职业发展课程。
这场风波并没有绊倒卡诺夫斯基,大半年后,他便悄然重返管理核心。
这桩早年插曲更多是证明了,在他的词典里,只要自认为有利于“行善”或者“成功”的根本目标(通常可以由后者代替前者),手段从来都是可以超越规则灵活变通的。
离开桥水时,他借到了对冲基金大佬的名气背书与启动资金,到了2011年,他又凭着满口“期望效用”与“量化证据”的清新话术,一举钩住了硅谷一位深居简出的超级富豪—Facebook联合创始人达斯汀·莫斯科维茨。
值得玩味的细节藏在莫斯科维茨的妻子卡莉·图纳身上。
图纳原本是《华尔街日报》的一名普通记者,机缘巧合嫁给了身家百亿的莫斯科维茨,当她辞掉工作准备转型全职打理家族基金会Good Ventures时,一眼就相中了卡诺夫斯基,并于2011年亲自加入GiveWell董事会。
这位从新闻一线扛活跃升到掌舵百亿基金的前记者,之所以对卡诺夫斯基如此赏识与信任,未尝不是从他身上看到了曾经的自己,那个被窘迫现实与勃勃野心撕扯着的自己。
2011年9月,GiveWell与Good Ventures联手启动合作项目GiveWell Labs,即日后的开放慈善项目Open Philanthropy。
找到可靠金主并搬来旧金山的卡诺夫斯基,与达里奥·阿莫代伊这位网友一见如故,当时还在斯坦福医学院做蛋白质组学博士后的达里奥不仅和他一起合租,还担任了GiveWell Labs的非正式科学顾问,协助评估和筛选项目。
这里有一个极重要的事实需要交代,那就是此时的卡诺夫斯基与达里奥这对搭档,在理念上仍然属于正统或者说主流有效利他主义,评估申请捐款的项目也主要是非洲公共卫生等主题,对于满口新技术概念的长期主义、理性主义极端派并不认同。
回头翻看当年的记录,在最初接触尤德科夫斯基时,卡诺夫斯基对那套神神叨叨的奇点末日论不仅高度怀疑,甚至公开发文批评。
2012年,卡诺夫斯基亲自在LessWrong论坛上发表长文《关于奇点研究所的思考》,向社群成员解释其为什么不给尤德科夫斯基投钱。
这篇文章里,卡诺夫斯基不带一个脏字把申请项目奇点研究所(SI)批得体无完肤,而檄文末尾的致谢名单里,赫然写着参与草稿审阅与反馈的“Dario Amodei”。
在那篇长文里,卡诺夫斯基毫不留情地指出,对超级人工智能“友好”与“不友好”目标的特定概念划分,在未来变得无意义、无关紧要的概率超过90%。他甚至刻薄地形容该机构的部分理论工作“似乎有点像在互联网出现之前,甚至在计算机诞生之前,试图设计Facebook”。
他还当面嘲讽被信徒奉为圣经的《序列》根本证明不了作者有多理性,“就像写出一堆关于优秀篮球运动员的文章并不能证明你会打球一样”。甚至一针见血地痛批奇点研究所陷入了狂妄的自我封闭:“他人不接受我们的论点,他们不反思改进,反而认定是因为他人缺乏基本理性。”
谁能想到,才过了短短几年,这位一次次把末日论教团拒之门外的人,却与室友达里奥一道完成了一次激进的思想转轨,成了AI威胁论最核心的推手。
转轨并非一夜之间的内心顿悟,而是工程震撼与学界背书叠加的结果。
2013至2014年,抱着技术评估的目的,卡诺夫斯基、达里奥已陆续与更名后的MIRI及主流计算机科学家展开对话,其后博斯特罗姆出版《超级智能》、加州大学伯克利分校权威学者斯图尔特·罗素等主流大牛公开认同AI失控风险,未来生命研究所(FLI)的公开信更获大批机器学习学者联署,使卡诺夫斯基放下了早年“主流学界无人背书”的戒心。
更关键的是,达里奥在加入百度硅谷人工智能实验室参与语音大模型研发后,第一次亲眼见识了“海量数据与算力集群驱动端到端扩展”的工程实践与惊人效果。对这个半路入行的计算机科学门外汉来说,那种认知冲击正应了阿瑟·克拉克的名言:“任何足够先进的技术都与魔法无异”。
这对死党正式从主流有效利他主义慈善转向长期主义技术邪教的标志,是2015年MIRI前执行董事,替尤德科夫斯基进行包装与公关的卢克·穆尔豪瑟从乙方跳槽加入开放慈善这个甲方。
同年8月,开放慈善项目正式发布《先进人工智能的潜在风险》专题研究报告,明确将失控风险、军事安全与政策干预纳入正式研究范围,而这份报告里,达里奥已以“科学顾问”身份给出了关键判断。
2016年前后,开放慈善项目进一步推进AI安全方向的资助与人才布局,同一时期,已经与卡诺夫斯基订婚的丹妮拉·阿莫代伊,向正在参与创立OpenAI的前上司格雷格·布罗克曼极力推荐了自己的哥哥:“我认识的最聪明的人就是达里奥”。
正是靠着布罗克曼内推,达里奥得以与OpenAI建立联系、最终步入前沿大模型研究的核心圈子。
新的故事,要开始了。
再回看百年前的中欧,1930年代,急于寻找新神秘学仪轨来纯化军事机器的海因里希·希姆莱,正是从那片斑驳的日耳曼神秘主义土壤中汲取了养分。
他选中并启用帕德博恩附近的威维尔斯堡(Wewelsburg)作为党卫军核心据点,并创办“祖先遗产研究会”(Ahnenerbe)。至此,边缘神秘主义终于与帝国的铁血政治精英完成了致命合流。
同样的一幕,即将在2016年后的美国再次上演。
在下一篇中,我们将把镜头切向五角大楼与国会山,去看看被称为“尤达大师”的美国战略家留下的冷战遗产,是如何在短短十八个月内把美国国家机器焊死在新兴技术竞争轨道上的。
内容来自 虎嗅,版权归原作者所有。
阅读原文 ↗