OpenAI安全团队再失核心,近年已有 8 名安全负责人相继出走
3小时前5 阅读

据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队 最新 一位离任的核心成员,AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法,将OpenAI安全负责人走马灯般更替的现象形容为一种"诅咒"。 安全负责人频繁更迭,多人公开质疑公司安全态度 海德克于 2021 年加入OpenAI,在上一任安全负责
据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队 最新 一位离任的核心成员,AI分析师安德鲁·柯伦甚至借用《哈利·波特》中的说法,将OpenAI安全负责人走马灯般更替的现象形容为一种"诅咒"。

安全负责人频繁更迭,多人公开质疑公司安全态度
海德克于 2021 年加入OpenAI,在上一任安全负责人翁荔离职后接手该团队,负责模型发布前的风险评估和缓解措施。OpenAI表示,研究与安全副总裁米娅·格莱泽将接任,推动安全工作更深入融入各研究团队。然而OpenAI一直未能稳定留住 高级 安全负责人,一些离职员工还曾公开质疑公司是否真正重视安全工作。
联合创始人扬·莱克在 2024 年 5 月离职时直言,OpenAI更看重推出产品而非确保安全,"安全文化和安全流程已经被光鲜的产品挤到次要位置"。AGI准备工作 高级 顾问布伦戴奇则警告:"OpenAI没有准备好,其他任何前沿实验室也没有准备好,整个世界同样没有准备好。"
八名核心成员先后离开
近年来离开的安全重点团队负责人包括:联合创始人伊利亚·苏茨克维,离职后创立Safe Superintelligence;联合创始人扬·莱克,随后加入Anthropic继续对齐研究;研究与安全副总裁翁荔,在OpenAI工作近七年后于 2024 年 11 月离职。此外还有模型政策安全研究负责人瓦隆、风险准备团队负责人马德里、首席未来学家阿基亚姆,以及安全系统团队负责人海德克。其中瓦隆和莱克均选择加入竞争对手Anthropic,这一趋势令外界对OpenAI的安全承诺持续产生疑问。
要点速读
据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职。这是近年来OpenAI安全与对齐团队 最新
- 据《商业内幕》报道,OpenAI安全系统团队负责人约翰内斯·海德克即将离职
- 这是近年来OpenAI安全与对齐团队 最新
- 更多细节仍在持续更新中