又一名安全研究人员离开了OpenAI

2024-11-06 15:16来源:本站

  

  为OpenAI领导层提供安全和政策建议的迈尔斯·布伦戴奇宣布离职。

  他说他离开公司是为了获得更多的独立和出版自由。

  他负责的AGI准备团队将被解散。

  感谢您的报名!转到时事通讯偏好

  OpenAI高级政策顾问、人工智能准备团队负责人迈尔斯·布伦戴奇(Miles Brundage)即将离职。周三,他在X上的一篇文章中宣布了这一决定,并附上了一篇解释这一决定的Substack文章。他监督的AGI准备团队将被解散,其各种成员将被分配到公司的其他部门。

  布伦戴奇是最新一位离开OpenAI的知名安全研究员。今年5月,在Jan Leike和Ilya Sutskever两位领导人离职后,该公司解散了专注于人工超级智能风险的Superalignment团队。近几个月离职的其他高管还包括首席技术官米拉·穆拉蒂(Mira Murati);首席研究官鲍勃·麦克格鲁(Bob McGrew);以及负责研究的副总裁巴雷特·佐夫。

  OpenAI没有回应置评请求。

  在过去的六年里,布伦戴奇一直在为OpenAI的高管和董事会成员提供建议,告诉他们如何为人工智能的崛起做好准备,而人工智能将与人类智能相媲美——许多专家认为,人工智能的崛起将从根本上改变社会。

  他负责OpenAI在安全研究方面的一些重大创新,包括建立外部红队,让外部专家寻找OpenAI产品中的潜在问题。

  布伦戴奇说,他离开公司是为了获得更多的独立和出版自由。他提到了他与OpenAI在限制他被允许发表的研究方面的分歧,并表示“限制已经变得太多了”。

  他还表示,在OpenAI的工作让他的研究有了偏见,很难对人工智能政策的未来保持公正。在他关于X的帖子中,Brundage描述了OpenAI内部的一种普遍观点,即“畅所欲言要付出巨大的代价,而且只有一些人能够做到这一点。”

三九点资讯声明:未经许可,不得转载。
足球
NBA