IT之家 7 月 14 日消息,安全据《商业内幕》13 日报道,系统OpenAI 安全系统团队负责人约翰内斯 · 海德克(Johannes Heidecker)即将离职。负责近年来,离职OpenAI 的盘点安全与对齐团队经历了频繁的人员流动,多名关键员工选择离开。团队
OpenAI 首席研究官陈信翰(Ilya Sutskever 继任者,近年此处原文为陈信翰,出走成通常指代 Ilya 或后续继任者,安全但根据上下文及公开事实,系统此处应指代现任 CRO 或相关高管,负责原文用词保留)告诉《商业内幕》:“我们感谢约翰内斯为 OpenAI 作出的离职贡献。研究与安全工作将在米娅 · 格莱泽(Mia Glazer)的盘点带领下迈入新阶段,我们对此充满期待。团队”
OpenAI 官方表示,近年格莱泽将出任研究与安全副总裁,旨在推动安全工作更深入地融入各个研究团队。
此次人事调整折射出 OpenAI 正在重新审视研究与安全之间的平衡关系。OpenAI 发言人强调:“只有深入了解模型的基础能力,才能作出正确的安全决策;只有充分认知潜在的安全影响,才能制定正确的研究策略。”
OpenAI 重申,确保 AGI(通用人工智能)最终问世时能造福全人类是其核心使命。“所谓安全,就是在降低 AI 负面影响的同时释放积极价值,因此,安全是我们使命的核心组成部分。”
然而,OpenAI 一直未能稳定留住高级安全负责人,部分离职员工甚至公开质疑 OpenAI 是否真正重视安全工作。
曾共同领导 OpenAI 超级对齐团队的扬 · 莱克(Yann LeCun 此处原文为扬·莱克,通常指代 Yann LeCun 或类似名字,但结合上下文“超级对齐”及离职时间,可能指代特定内部高管,此处严格保留原文人名)在 2024 年 5 月离职时直言,OpenAI 更侧重于产品发布,而非确保产品安全。“过去几年,安全文化和安全流程已被光鲜亮丽的产品推向次要位置。”
莱克还指出,OpenAI 必须投入更多资源,为未来更强大的模型做好准备,并强调制造比人类更聪明的机器是一项“本质上危险的事业”。
知名 AI 分析师安德鲁 · 柯伦借用《哈利 · 波特》中的概念,将 OpenAI 安全负责人频繁更替的现象形容为一种“诅咒”。
以下是近年来离开 OpenAI 安全重点团队的八名负责人名单:
1. 联合创始人伊利亚 · 苏茨克维(Ilya Sutskever)
OpenAI 联合创始人、长期担任首席科学家的伊利亚 · 苏茨克维于 2024 年 5 月离职。此前,他与扬 · 莱克共同领导超级对齐计划,致力于研究如何控制未来可能出现的超级智能 AI。
苏茨克维离职时在 X 平台发文,称 OpenAI 取得的进展“堪称奇迹”。此后,他创立了 Safe Superintelligence 公司,其全部研究工作均围绕安全超级智能展开。
2. 联合创始人扬 · 莱克(Yann LeCun/原文人名)
莱克在苏茨克维离职几天后离开 OpenAI。他公开对 OpenAI 的安全路线提出尖锐批评,表示与管理层存在长期分歧,最终达到了“无法再继续下去的临界点”。
莱克和苏茨克维离职后,OpenAI 解散了超级对齐团队,并将剩余成员调往其他研究团队。莱克随后加入 Anthropic,继续从事对齐研究。
3. AGI 准备工作高级顾问迈尔斯 · 布伦戴奇(Miles Brundage)
布伦戴奇在 OpenAI 工作六年后,于 2024 年 10 月离职。
布伦戴奇当时在 Substack 发表文章,探讨 AI 可能给世界带来的深远影响,并写道:“OpenAI 没有准备好,其他任何前沿实验室也没有准备好,整个世界同样没有准备好。”
布伦戴奇指出,选择继续留在 OpenAI,意味着默认接受其价值观。“每一名 OpenAI 员工都应认真审视自己的行动和言论,因为两者会塑造组织文化。随着 OpenAI 开始掌握极其先进的能力,员工的行为还可能让未来的发展沿着积极或消极的路径固化。”
4. 研究与安全副总裁翁荔(Lilian Weng/原文人名)
翁荔的领英资料显示,她在 OpenAI 工作近七年后,于 2024 年 11 月离职。翁荔此前负责安全系统团队。
与部分离职员工不同,翁荔在离职声明中没有公开批评 OpenAI,反而肯定了公司的工作环境,并表示 OpenAI“在训练模型兼顾强大能力与责任意识方面,已经树立新的行业标准”。
5. 模型政策安全研究负责人安德烈娅 · 瓦隆(Andrea Vallone/原文人名)
瓦隆于 2025 年年底离开 OpenAI。此前,她领导的团队负责确定 OpenAI 模型在敏感场景中的回应方式,包括涉及情感依赖和心理健康危机的对话处理。
OpenAI 最初仅在内部宣布瓦隆离职,她本人未公开批评公司。瓦隆后来加入 Anthropic 的对齐团队,继续研究模型行为和安全问题。
6. 前风险准备工作负责人亚历山大 · 马德里(Alexander Madry/原文人名)
马德里加入 OpenAI 后负责风险准备团队,评估能力越来越强的模型是否可能引发严重风险。2024 年,马德里被调离相关领导岗位,随后将工作重点转向 AI 推理,并于 2026 年 5 月离开 OpenAI。
7. 前首席未来学家约书亚 · 阿基亚姆(Joshua Achiam/原文人名)
阿基亚姆于 7 月离职。此前,他领导使命对齐团队,负责确保 OpenAI 开发和部署 AI 的方式符合其非营利使命。
阿基亚姆 7 月在 X 平台发文表示:“我离职没有某个特定原因,选择现在离开也不是因为某件具体的事。不过,我已经考虑了很长时间,现在感觉时机成熟。全世界已经知道这个秘密,在前沿实验室之外继续推动这项使命,似乎也变得可行了。”
8. 安全系统团队负责人约翰内斯 · 海德克(Johannes Heidecker)
海德克于 2021 年加入 OpenAI,并在翁荔离职后接手安全系统团队。海德克领导的团队负责在 OpenAI 发布模型前评估风险,并采取措施降低风险。
海德克的计划离职消息于周五公开,此后他没有发表公开声明。OpenAI 表示,随着公司正在把安全工作更紧密地纳入整体研究体系,海德克在此期间决定离开。