OpenAI安全一把手Aleksander Madry离职,转去研究AI对经济的影响

OpenAI 又少了一个关键人物。Aleksander Madry 本周四宣布离开公司,去搞一件新事情——研究 AI 对经济的真实影响。

这个人不是普通员工。Madry 之前是 OpenAI 的『准备工作负责人』(head of preparedness),说白了就是管 AI 安全最关键的那个人。去年夏天他被调去搞 AI 推理方向,现在直接走了。

他是谁,为什么重要

Madry 在加入 OpenAI 之前是 MIT 的教授,专门研究对抗性机器学习——就是研究怎么让 AI 不被『骗』。他在学术圈的口碑很硬,2023 年加入 OpenAI 的时候,不少人觉得这下 OpenAI 的安全团队是真的要认真了。

『准备工作团队』(Preparedness)是 OpenAI 内部专门评估模型是否『危险』的团队,负责设定安全红线——比如模型在什么能力水平下需要暂停训练。

去年 Sam Altman 被董事会开除又回来的那场闹剧之后,OpenAI 的安全团队经历了好几轮震荡。Madry 被调离安全岗位,当时就有人觉得这是 OpenAI 在『弱化安全叙事』的信号。

现在他彻底走了。OpenAI 最近几个月已经走了不少人——Andrej Karpathy 去了 Anthropic,现在 Madry 也离职。这个时间点挺微妙的,毕竟 OpenAI 正在准备 IPO。

他要去做什么

Madry 自己说要去搞『聚焦 AI 对经济影响』的新工作。具体是什么还没公布,但方向大概是研究 AI 到底怎么改变就业、产业、财富分配这些大问题。

这个方向其实挺缺人的。现在大家都在卷模型性能,但 AI 对经济社会的真实冲击——哪些工作真的会被替代、哪些只是被改造——研究得还不够深。Madry 有学术背景又有 OpenAI 内部视角,搞这个方向确实有优势。


OpenAI 这边还没对 Madry 离职发表正式回应。按这个人事流失的速度,外界迟早要问一句:OpenAI 到底还能留住多少人?

📎 原文来源:Aleksander Madry is leaving OpenAI – The Verge

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注