FTX与AI末日论，影响到Anthropic “平静的时代已经结束”

FTX破产前，Anthropic与其关系密切……大规模投资

萨姆·班克曼，末日论根源‘有效利他主义’的信奉者

哲学、情感和文化共鸣

[区块媒体记者李正华] “现在再也无法回到平静的时代了（Things will never be chill again）”

人工智能（AI）开发公司Anthropic的员工笔记本上，常常贴着这样的标语。它既可以表示AI末日论，也可以理解为“因此我们必须更加努力以阻止末日”。

《华尔街日报》（WSJ）在26日（当地时间）的一篇长文中指出，破产的加密货币交易所FTX与Anthropic之间有着密切的关系。Anthropic的创始人阿莫德伊经常参加由FTX的萨姆·班克曼主办的活动，并获得了投资。

他们通过一种名为有效利他主义（Effective Altruism，EA）的哲学思想建立了深厚的联系。EA是AI末日论的理论基础。因涉嫌加密货币诈骗而被判25年监禁的萨姆·班克曼曾公开表示自己受到EA的影响。

FTX与AI末日论的联系

起点并不是AI，而是哲学。EA的理念是用有限的资金和资源帮助尽可能多的人。比如，捐赠1美元能拯救多少生命。

随着这一逻辑的延伸，关注的对象也发生了变化。不仅要帮助现在的人，还要阻止威胁未来无数人的“生存风险”，这成为了一项重要任务。

如果AI有可能消灭整个人类，那么阻止这一点就具有巨大的价值。根据WSJ的报道，EA阵营认为即使AI导致人类灭绝的可能性只有5%，也值得进行预防。

在这一点上，FTX应运而生。

萨姆·班克曼是EA的主要支持者。在FTX迅速发展的2020至2022年间，他成立了FTX基金会。萨姆·班克曼表示：“我会资助对世界产生最大积极影响的组织。”

他的关注不仅包括疫情和全球发展，还包括人类文明崩溃的可能性。FTX基金会的一位官员曾提到，建议购买太平洋岛国瑙鲁，以建造一个可以应对50%至99.99%人类死亡灾难的避难所。该备忘录在2023年的破产相关诉讼中被披露。

萨姆·班克曼也以同样的视角看待AI的发展。他担心如果AI变得比人类更聪明，可能不会对人类友好。

对Anthropic的5亿美元投资

这种问题意识最终转化为实际投资。Dario Amodei，Anthropic的联合创始人，在2021年向EA阵营的支持者寻求资金，以支持新兴的AI公司。其中一位就是萨姆·班克曼。

Dario Amodei，Anthropic首席执行官。来源=路透社（REUTERS/Bhawika）

萨姆·班克曼对Anthropic投资了5亿美元。这是他投资团队最初建议金额的5倍。FTX成为Anthropic的主要股东之一。Anthropic表示将利用这笔资金研究和改善大型AI模型的安全性。

FTX基金会还承诺向多个AI安全研究非营利组织提供资金。联系并不仅限于资金。

FTX基金会的慈善事业负责人Nick Bexted后来领导了一个旨在减少AI风险的组织。他曾与阿莫德伊等Anthropic的联合创始人共同居住在一个家中。这个家是EA与AI安全主义者交流的场所。

FTX的姐妹公司Alameda Research的负责人Caroline Ellison也对AI的发展方向持有类似的看法。Ellison还单独向Anthropic投资了1000万美元。

在2022年，Anthropic与其他AI研究所的相关人员在巴哈马的埃尔尤瑟拉岛举行的活动中聚集。活动中，AI风险和EA成为主要讨论主题。地点是当时将总部迁至巴哈马的FTX预定的。

AI风险论的代表人物Eliezer Yudkowsky在此阐述了通用人工智能（AGI）可能导致人类灭亡的原因。还举行了一个午餐会，只有那些认为人类在未来100年内灭绝的可能性超过75%的人才能参加。

FTX倒闭但思想依然存在

FTX在2022年未能返还客户资金而破产。萨姆·班克曼被判25年监禁。FTX持有的Anthropic股份也被出售以偿还债权人。

FTX的崩溃对EA阵营造成了重大打击。WSJ报道称，萨姆·班克曼入狱后，EA这一品牌本身成为了避忌对象。EA的领导者们与萨姆·班克曼保持距离，否认与他有过深交。

FTX消失并不意味着AI安全论的消失。Anthropic的许多老成员继续与AI安全和EA社区保持联系。研究AI可能欺骗和控制人类的可能性等工作仍在继续。

支持AI安全研究和会议的Constellation组织也在继续活动。该组织在其网站上这样描述自己。

“我们的目标是减少AI可能引发的‘极端大规模人员伤亡’和‘对人类文明的永久控制力丧失’。”

FTX的悖论在于，因客户资金挪用而崩溃的数字资产交易所，最终为今天的AI安全争论提供了相当的资金支持。

Anthropic成员们共享的座右铭中依然保留着这种问题意识。

“Things will never be chill again.”

这个座右铭不仅仅意味着“再也不会平静”。英语中的“chill”还有放松和悠闲的含义。因此，在AI安全论的语境中，可以理解为“我们再也无法回到那种心安理得的生活”。

接受AI可能威胁整个人类的可能性后，就无法像以前那样轻松看待技术的发展。

FTX已经消失。然而，FTX资助的EA网络和AI末日论争论依然留在硅谷的中心。“再也无法心安理得”这句话浓缩了这一世界观。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。