关闭

OpenAI「超级对齐团队」正式解散

AI快讯 2024-10-24 15:07更新网络

目前,OpenAI的「超级对齐团队」已经分崩离析,这支专注于AI安全领域的技术团队宣告项目终结。该团队的主要负责人OpenAI联合创始人、首席科学家Ilya Sutskever与Jan Leike在上周二双双提请离职。

近期,Jan Leike在在推特(X)上撰写他离职的原因,他表示与「超级对齐团队」无法获取合理的算力资源的分歧有关,他更关注安全性、一致性等问题;团队过去几个月一直在“逆风航行”,在计算上很吃力,完成研究越来越困难;过去几年,安全文化和流程已经让位于更耀眼的产品。

图片

这基本是OpenAI的高管第一次在公开场合,宣布OpenAI的企业理念将AI产品的商业化置于安全之上。

图片

对此,OpenAI CEO奥特曼转发推文回应称:

 

我非常感激Jan Leike对OpenAI的对齐研究和安全文化做出了贡献,看到他离开,我感到非常难过。他说得对,我们还有很多事情要做。我们致力于这样做,在接下来的几天里,我会有一个更长的帖子。

 

据科技博客《连线》证实,OpenAI的「超级对齐团队」已经宣告解散,余下成员要么辞职,要么将被纳入OpenAI的其他研究工作中。

相关文章