一封引爆硅谷的离职信，AI将在10年内毁灭人类？

来源：枫冷慕诗

这是一封引爆整个硅谷的离职信，全球顶级AI实验室的研究员Jacob Coxon用一篇帖子，给全世界所有人讲述了一个无比恐怖的“鬼故事”，他说，如果AI继续迭代发展下去，那只需要10年时间，AI就有可能杀死我们所有人。

消息传出，整个硅谷都炸了，无数大佬转发，无数普通人收藏点赞，只用了短短2天时间，帖子的阅读量就突破了1.6亿，甚至就连美国国会都集体震动，他们正在研究，是否要推动法案去限制AI大模型的发展，因为这篇帖子讲的内容实在是太可怕了！

为了方便大家理解，我简单讲述一下到底发生了什么事情。

9月9日的时候，一个名叫Jacob Coxon的人从Anthropic离职，他一分离职赔偿都没要，直接选择裸辞跑路，辞职之后，他在国外的社交平台X上面连发长文爆料，曝光了两个非常恐怖的真相：

第一， 他说根据他的判断，在这个十年结束之前，AI有可能杀死我们所有人。

第二， 他说全球公认最顶级的两家AI研究公司OpenAI和Anthropic都完全不负责任，他们在拿着全人类的生命做赌注，全力冲刺做出能自我迭代的超级人工智能。

消息传出，震动了全球科技圈。

那么问题来了，为什么他的发言能引发这么大的关注？毕竟像AI毁灭人类这样的发言，每年在网上没有100次也有80次，为什么偏偏这一次会引发全球关注？原因很简单，因为Jacob Coxon这个人不是那些天天玩震惊体的自媒体，他是全球最接近AI前沿研究的那批人。

不信你看看他的身份，2023年-2026年他在OpenAI工作，前几个月的时候，他又跳槽到了Anthropic这家公司，这两家公司你基本可以认为是全球AI研究最顶级的两大巨头，是AI领域无可争议的权威，Jacob Coxon同时在这两家公司工作过，他的专业性毋庸置疑。

更关键的是他的岗位，你知道他是做什么的吗？答案是AI预训练研究，用大白话说就是，AI大模型就是他从零开始培养出来的，对于AI的能力，没有人比他更清楚。

换言之，这是全球最有话语权的内部人，在毅然离职之后给全人类写的一封警示信，现在你知道为什么这件事会引起这么大的关注了吧。

这还没完，我们继续看，他的帖子里不只是提到了前面那两大真相，他还说了很多让所有人冷汗直流的事情。

比如他曝光说，那些AI公司的高管和资深研究员在媒体面前都是故作镇定，故意的淡化AI发展的风险，但实际上，私下里他们全都怕得要死，因为他们非常清楚，人类没有任何一项其他技术，能像AI这样带来文明灭绝级的风险。

那既然风险这么大，为什么那些AI公司不赶紧停止研究呢？原因非常简单，Jacob Coxon很直白的告诉我们，不是那些AI公司的人不愿意停，而是他们并没有其他更好的选择，OpenAI完全可以停止所有的AI研究，但Anthropic谁能让他们停下研究的脚步？就算有人能限制整个美国的AI公司，那谁能保证中国的AI发展会立马停止？退一万步说，即便中美能够达成共识，那还有欧洲、日本、韩国这些国家，谁去约束他们不发展AI技术？

这就像囚徒困境一样，大家相互猜疑，所有人都担心如果我们慢了一步，就会满盘皆输，所以大家只能低着头一路狂奔，不断地迭代AI技术。

更可怕的是，Jacob Coxon还提到了一个观点，他说你们以为AI的风险只是抢走人类的工作吗？如果只是这样，他大可不必用上杀死所有人类这样的描述，他之所以如此担忧，是因为他惊讶的发现，按照现在的迭代速度，用不了多久，就会出现一个超级人工智能。

这个人工智能完全可以脱离人类的控制，自己独立的去研发更强的AI，然后反复多次，让自己成为一个超级智能体，到时候它只需要几分钟时间，就能迭代出远超人类所有科学家总和的智能，一旦这变成现实，那AI就能攻破人类所有的数字防御，一夜之间，我们的生物医药、军工、能源等所有领域的数据、资金和实体资源，都会被AI彻底接管，他们会动用这些资源来清除我们。

这还没完，最可怕的事情你知道是什么吗？在Jacob Coxon发完这个帖子之后，Anthropic的安全负责人立马出来发言。

按照我们正常的理解，前员工辞职之后说公司的坏话，公司的高管肯定应该站出来辟谣，说没有这样的事，他就是危言耸听等等，可让所有人大跌眼镜的是，Anthropic公司最高级的AI安全专家并没有否定这件事情，他一键转发分享了Jacob Coxon的帖子，没有任何洗地和反驳，甚至他还公开表示——他说的全对，没有一丝虚言，我们内部所有人都真心相信AI有可能会灭绝全人类！

最夸张的是，他还给出了一个精准的数字，他说按照他们的研究，未来十年，AI导致人类全部死亡的概率＞10%。

这个数字是怎么算出来的，我不清楚，但全球最顶级的AI公司里最高级的AI安全专家，亲口承认AI会毁灭全人类，这才是真正细思极恐的事情。

更惊悚的是，这个安全专家还亲口表示：我们已经尽全力去保证安全了，但目前我们确实没有一套成熟、可行的超级智能控制方案，甚至我们都看不清能解决这个危机的正确路线。

你就像什么你知道吗？这就像一个大巴车带着一车的人正在山路上狂奔，眼看大巴车就要冲下悬崖了，结果大巴车司机告诉你，不好意思，速度有点失控了，但我还没找到刹车在哪里。

现在我们全人类就坐在这个大巴车上面，而负责踩刹车的那个司机却在告诉我们，我找不到刹车的位置了。

现在你明白为什么这件事会震动整个科技圈了吧？因为这个事实在是太颠覆大家的认知了，所以消息传出之后，美国参众两院多名议员提议一定要出台法案限制AI领域的发展，美国硅谷内部也掀起了一股离职潮，多名安全方向的研究员公开表示，自己不愿意成为AI的帮凶。

而且这件事还有一个让人非常信服的细节，那就是Jacob Coxon选择离职的时间，按照预定的流程，再过两个月，Anthropic就要正式上市了，这家公司目前的估值大概是2万亿美元，而Jacob Coxon恰好拥有Anthropic的股权，换言之，他现在选择裸辞，至少放弃了几百万美元的财富，如果不是特殊的原因，他绝对不会做这个决定。

那到底是何等特殊的原因，会让一个人主动放弃数百万美元的财富？我想电影《奥本海默》中的剧情或许可以给我们一个合理的解释。

1942年，为了研制原子弹，美国开启了著名的曼哈顿计划，一开始，大家都认为自己在参与一个伟大的事情，可是看到原子弹试爆成功的那一瞬间，技术负责人奥本海默突然意识到自己释放了一种超越人类控制的力量，看着远处的蘑菇云，他失落的说道：现在我成了死神，世界的毁灭者。

他开始后悔自己当初的决定。

现在参与研究AI大模型的那些人，或许和当年参与研究原子弹的人是类似的心理，当他们发现自己研究出了一个无法被人类控制的东西时，他们的第一反应肯定不是兴奋，而是担忧、自责甚至焦虑，这种情绪会不断地折磨他们，让他们没办法再进行相关的研究，这或许就是Jacob Coxon放弃几百万美元财富也要辞职的真正原因。