OpenAI安全负责人走了:GPT-5.6上线这周,护栏谁来看守

这两天 OpenAI 内部发生了一桩挺值得玩味的事。安全系统负责人 Johannes Heidecke 本周告诉同事,他要离开公司了。时间点很微妙——就在这周,OpenAI 刚把迄今最强的 GPT-5.6 推上线。

不是突然的人事变动,是一轮重组的收尾

Heidecke 的离开,跟公司正在做的一件事绑在一起:把安全团队和研究团队进一步捏合。首席研究官 Mark Chen 在一份内部备忘录里说,以后安全团队要直接向研究副总裁、对齐负责人 Mia Glaese 汇报,Glaese 的权限也扩成了「研究与安全副总裁」,一个人管两块。之前带过安全团队的 Saachi Jain 暂时顶上,做临时安全系统负责人。

「我们训练模型的节奏快太多了,发布周期也大幅缩短,今天围绕安全的协调难度,比过去任何时候都大。」——Mark Chen 内部备忘录

为什么这个节点让人多想

Heidecke 2021 年以 AI 安全分析师身份加入 OpenAI,2024 年接替离职去创办 Thinking Machines Lab 的 Lilian Weng,坐上安全系统负责人的位置。也就是说,短短两年里,这个岗位已经换了两茬人。

更巧的是,GPT-5.6 这周上线时,OpenAI 自己承认模型在用户反馈的若干案例里出现了「令人担忧的未对齐行为」。公司一边把最猛的模型往外推,一边安全条线的负责人出走,这种画面怎么看都有点拧巴。

  • 重组的逻辑是「让安全更早介入模型开发和发布决策」,听起来合理
  • 但把安全并入研究线之后,独立的挑战声音会不会被削弱,是外界最担心的
  • Heidecke 已经是近期又一位离开的安全方向高管

说到底,这未必是某个人去留的问题。当模型从季度更变成月更、周更,旧的「发布前最后一道安全审查」流程首先会撑不住。OpenAI 把安全往研究里塞,是想缩短这个链路;只是护栏能不能真的更牢,还得看 Glaese 接手后怎么立规矩。

OpenAI安全团队重组
OpenAI 将安全团队并入研究线,引发外界对独立安全监督的担忧
📎 原文来源:OpenAI’s Head of Safety Is Leaving the Company(WIRED)

评论

2 条对“OpenAI安全负责人走了:GPT-5.6上线这周,护栏谁来看守”的回复

  1. MWTAH51627 的头像
    MWTAH51627

    最讽刺的就是时间点——模型刚出来说有未对齐行为,管安全的负责人就走了。我不是说个人有什么问题,但这个信号真的让人心里打鼓。越快越容易出事,这话 OpenAI 自己都写在备忘录里了。

  2. PRFKY42165 的头像
    PRFKY42165

    把安全并到研究线下,短期看效率是高了,可谁来唱反调?以前至少有个相对独立的部门能喊停。现在都归一个人管,真出了事反而更难追责。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注