henry 发自 凹非寺

量子位 | 公众号 QbitAI

刚刚，OpenAI首席未来学家Joshua Achiam在X上宣布离职。

这并不是一个普通员工变动。

在OpenAI内部，首席未来学家这个职位夹在AI安全、政策和公司使命之间，负责研究AI继续变强之后，可能给世界带来的风险和机会。

而Joshua Achiam，正是OpenAI这条安全与使命线上的核心人物之一。

9年前的2017，他以实习生身份加入OpenAI。早期，他是一名专注于AI安全的研究科学家，做过深度强化学习里的安全约束研究。

后来，他领导过OpenAI的Mission Alignment（使命对齐）团队，负责维护这家公司最初那句使命：

确保AGI造福全人类。

今年2月，OpenAI解散Mission Alignment团队，Joshua转任公司首席未来学家。

只不过，短短5个月后，Joshua就宣布自己将在7月24日正式离开这家待了9年的公司。

至于离职原因，Joshua并没有透露太多。

他只是表示，自己离开并不是因为某个具体事件，也不是一时兴起，而是已经思考了很长一段时间。

为了安全的AGI

在X长文里，Joshua把这次离开称作“毕业”。

他写道，自己2017年以25岁实习生（毕业于UC伯克利）身份加入OpenAI。那时，计算机还不能真正和人对话，也谈不上思考。

如今，他34岁，已经是2岁孩子的父亲，而计算机已经开始解决前沿科学问题。

Joshua形容，这9年像是“一个发生了几个世纪变化的十年”。

对于未来，他依然保持乐观。

我相信，我们能够创造出一个这样的世界：在那里，“满足每个人的基本需求”不再是个需要解决的问题；相反，我们会觉得，把标准定得这么低，反而是一种耻辱。我相信，我们能够实现一个充满和平、前所未有的繁荣以及各种难以想象的社会与科学可能性的世界。无论我接下来做什么，我都会继续与你们携手努力，让这一愿景成为现实。

最后，他用一句话收尾：

To safe AGI.

这句话也很像他过去9年在OpenAI的位置。

据WIRED消息，OpenAI目前还没有宣布谁会接替Joshua的职位。这个职位位于公司AI安全和政策团队的交汇处，工作包括研究AI崛起可能带来的危害与收益。

此前，Joshua也曾与OpenAI全球事务负责人Chris Lehane等高层合作，推动与OpenAI使命一致的政府监管。

换句话说，他不是一个只做预测的“未来学家”。

更准确地说，他在OpenAI内部做的是另一件事：当模型能力一路往前冲时，给这家公司不断提醒那句老问题。

这条路最后到底要通向哪里？

那个打断马斯克的男人

回顾Joshua的OpenAI生涯，最有戏剧性的一幕，发生在2018年。

今年4-5月，在马斯克与OpenAI那场世界庭审中，Joshua曾出庭作证，回忆马斯克2018年，离开OpenAI前的一次告别演讲：

当时，他曾打断马斯克，指出如果计划在特斯拉开发AGI，可能会以牺牲安全为代价。

据称：马斯克当即骂道：“Joshua是个“蠢驴”（jackass）”。

后来，这件事后来反而成了OpenAI内部的一个“都市传说”。

Dario Amodei，如今的Anthropic CEO，以及David Luan，后来成为亚马逊AGI实验室负责人，还专门送给Achiam一个金色奖杯，上面刻着一句话：

“为了安全，永远不要停止当那个jackass。”

每逢安全大佬出走，OpenAI就？

在Reddit上，有网友很快把这件事放进了OpenAI的“安全负责人离职名单”里。

有人开玩笑说：

Ilya走了，Jan走了，现在Joshua也走了。每次负责对齐的人离开，OpenAI好像都会发生点什么。

这个梗当然有夸张成分。

但过去两年，OpenAI安全线的变化确实不少。

网友提到的Jan是Jan Leike，他曾共同领导OpenAI的Superalignment（超级对齐）团队，研究如何让先进 AI模型保持在人类控制之下。2024年，他离开OpenAI，加入Anthropic。

同年，OpenAI政策研究负责人Miles Brundage，以及曾负责AI模型危险能力研究的Steven Adler，也先后离开，转而创办非营利组织，推动AI实验室遵守更严格的安全和安保标准。

Andrea Vallone曾负责研究ChatGPT如何回应处于心理或情绪困境中的用户。她也在2025年底离开 OpenAI，加入了A社，也就是前同事Jan Leike所在的团队。

Joshua是这条离职链上最新的名字。

与此同时，OpenAI自己也在调整安全、研究和政策之间的关系。

WIRED提到，过去一年里，OpenAI一直试图拉近AI研究团队和政策团队之间的距离，希望制定出更能预判技术发展方向的规则和标准。包括Boaz Barak、Noam Brown、Adrien Ecoffet在内的一些研究员，也开始更多参与政策相关工作。

另一边，前白宫AI顾问Dean Ball本周加入OpenAI，担任公司Strategic Futures负责人。他会与Joshua有一段短暂交接，之后预计也会继续与研究人员和政策负责人合作。

这就让Joshua的离开显得更微妙。

一方面，OpenAI正在把“安全”和“政策”更紧地绑在一起；另一方面，那个曾经领导Mission Alignment、后来出任Chief Futurist的人，却选择在这个时间点走出实验室。

Joshua在离职信里写道：世界已经知道这个秘密（实现AGI）了。如今，在frontier lab的围墙之外继续推动这项使命，也变得可能。

这可能是整件事里最值得琢磨的一句话。

过去十年，AI的发展速度确实令人振奋。OpenAI也早已不只是那个小型研究实验室，而是变成了一个要同时面对产品、资本、政策、法院和公众的新型机构。

但说到底，过去十年，终究只是AI旅途里的一小段，未来的路也许会更加漫长。

漫长到足以把任何歌利亚，都磨成小矮人。

参考链接

[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/