昨天，我在X平台上看到了一个流量超过一亿次的帖子，这是我很久没有看到的情况。发帖者名叫Jacob Coxon，刚从Anthropic公司辞职。他透露，自己在过去三年内在OpenAI和Anthropic从事大模型的预训练工作，但现在选择离开。理由相当震惊，他认为这两家公司正在追求能够自我改进的超级智能，而这无疑是在以人类生命为赌注。他甚至表示，参与这些前沿AI研发的人中，有人私下里认为，如果情况失控，人类可能在这个十年内面临灭绝。

起初我对他的身份表示怀疑，觉得这个人可能是某种营销号，但经过查证，发现他的确是真实存在的。他27岁，来自英国，数学专业背景，曾在2016和2017年两度入选英国国际数学奥林匹克代表队，并在剑桥大学的Trinity College学习数学。2021年，他曾参与发表过一篇探讨结核性脑膜炎患者基因型与生存率关系的医学统计论文。2023年，他加入OpenAI，并在GPT-4o的贡献者名单中列名，后来在GPT-4.5中成为核心贡献者。不过，他在Anthropic工作的时间不长，因无法违背内心的担忧而辞职，并在X上发出警告。据《华尔街日报》报道，他甚至打算离开AI领域，不再从事相关工作。

在他发帖后，Anthropic的一位对齐负责人表示支持Jacob，认为他是对的，并指出在未来十年内发生的风险概率超过10%。此外，另一位Anthropic的安全研究者也以个人身份支持他的观点，并提到在AI公司中，职务越高的人对潜在危险的担忧往往越强烈。刚辞职的前可扩展监督负责人Joe Benton也认为Jacob对行业现状的表述非常准确。这些依然只是对未来风险的猜测，无法确定10%的概率是否可靠。

我在阅读他们的讨论和众多评论后，感受到一种荒诞的情绪。这种感觉让我想起11年前看过的一篇深刻的文章，2015年1月Tim Urban写的《人工智能革命》。文章分为两章，一章讨论通往超级智能的道路，另一章则探讨人类的永生与灭绝。至今我仍记得，作为学生的我在知乎上读完这篇译文时所受到的巨大冲击。

Tim Urban在文章中指出，人类难以真正理解指数增长，因为我们的大脑习惯进行线性推演。这种文明发展常常不是直线增长，而是可能在某个转折点上带来剧烈的冲击。他举了一个例子，假如你把一个1750年的人带到2015年，他会被飞机和互联网等高科技吓到，但如果把他带到1485年抓一个人来，震撼可能会小得多。Urban为这种能够让古代人震惊的科技进步命名为DPU（Die Progress Unit）。

我第一次看到这篇文章时感触不深，但如今再读，发现我们这一代人似乎正在亲历着这种飞速发展的变化。

退休老人关注的福利政策解析，官方发布最新消息

保持冷静，避免情绪化反应，集中精力应对场上的挑战。...

[无下一篇]

保持冷静，避免情绪化反应，集中精力应对场上的挑战。...