舒尔曼继续关注AI对齐
对于舒尔曼的离职,奥特曼在社交媒体X上发帖表示:"感谢你为OpenAI所做的一切!你是一位杰出的研究者,对产品和社会有着深刻的思考,最重要的是,你是我们所有人的好朋友。我们会非常想念你,让你为这个地方感到骄傲。
(2015年,我第一次见到约翰是在伯克利的一家咖啡馆。他说的是"一方面,现在谈论通用人工智能似乎很荒谬,但另一方面,我认为这是非常合理的,这就是为什么这也是为什么我认为谈论它很重要的原因。"然后列出了OpenAI最初战略的重要部分。这花了大约15分钟,然后我们尴尬地又聊了45分钟：）)"
舒尔曼在OpenAI内部推动了所谓的"后训练"过程,这一过程涉及对驱动ChatGPT等产品的大语言模型进行精细化调整。此外,他还接管了专注于防止人工智能造成社会伤害的安全团队——"超级对齐"团队的剩余成员。这些人事变动发生在公司业务快速发展、可能面临重大亏损以及周期性人员更迭的背景下。
例如,OpenAI最近将另一位安全领域的负责人亚历山大·马德里调任至其他职位。公司联合创始人伊利亚·苏茨克弗,曾对公司的重大突破贡献巨大,最近离职并创立了一家竞争对手初创公司。另一位联合创始人安德烈·卡尔帕西于2月离职,之后启动了自己的教育初创公司。OpenAI还首次聘请了首席财务官和首席产品官,他们的加入可能对彼得·邓的职责产生了影响。
OpenAI目前正处于转型期,可能会从非营利组织转变为类似于Anthropic的营利公司,并正在训练其下一代旗舰人工智能模型。此外,OpenAI最近推出了一款搜索引擎,并正在开发一种人工智能,旨在为客户自动化计算机任务。
舒尔曼在社交平台X上宣布了自己离职的消息。他称自己希望进一步关注人工智能对齐,重返实际技术工作,并决定在Anthropic追求这一目标。他还强调,自己离开OpenAI并不是因为缺乏对对齐研究的支持。
以下是舒尔曼在社交媒体X上发帖的内容全文：
今天,我与OpenAI的同事们分享了以下内容：
我做了一个艰难的决定离开OpenAI。我之所以做出这个选择,是因为我希望进一步专注于人工智能的协调,并开始我职业生涯的新篇章,在那里我可以重新从事实际的技术工作。我决定在Anthropic追求这个目标,我相信在这里我可以获得新的视角,和深入研究这些主题的人们一起做研究我最感兴趣的。
需要说明的是,我不会因为OpenAI对对齐研究的支持不足而离开。相反,公司领导一直非常致力于在这方面的投资。我的决定是我个人的决定,基于我想在职业生涯的下一阶段如何集中精力。
差不多9年前,我从研究生院毕业后,作为创始团队的一员加入了OpenAI。是我工作过的第一家也是唯一的一家公司,除了实习。也很有趣。我感谢山姆和格雷格在一开始就把我招回来,米拉和鲍勃对我的信任,给我带来了巨大的机会,帮助我成功地驾驭各种挑战。我为我们在OpenAI共同取得的成就感到骄傲：建立了一个以公益为使命的不同寻常的、前所未有的公司。
我有信心OpenAI和团队我参与了会在没有我的情况下继续茁壮成长。后训练是在很好的手中,有一个惊人的天赋的板凳深度。我在ChatGPT上得到了太多的赞誉,巴雷特已经做了令人难以置信的工作,把团队建设成令人难以置疑的能力。
我一直很高兴看到对齐团队走到一起,有一些有前途的项目。在米娅、波阿斯和其他人的领导下,我相信球队会得到非常有能力的领导。
我非常感谢有机会参与历史中如此重要的部分,我为我们共同取得的成就感到骄傲。我仍然会为你们加油,即使在其他地方工作。
布罗克曼要继续休假至年底
近期未被报道的休假和离职事件虽然看似无关,但反映出OpenAI领导层自去年11月首席执行官奥特曼被解雇并重新聘请后,尚未完全稳定下来。布罗克曼在公司中担任了至关重要的角色,他将人工智能研究者的重大发现转化为大规模的人工智能模型和产品,例如ChatGPT。他也是奥特曼的重要支持者,特别是在后者争取重返公司的过程中。布罗克曼向员工表示,他计划在长期休假结束后返回工作岗位。
布罗克曼在社交媒体X上对此回应称："本人计划在本年度末之前进行为期一年的休假。自从九年前参与创立OpenAI以来,这是我首次有机会彻底放松。然而,我们的宏伟使命尚未完成——我们仍需致力于开发一个安全、可靠的通用人工智能技术。"
不过粉丝似乎对布罗克曼的这种解释并不买账。有人提到了曾经休长假后离职的知名人工智能科学家、OpenAI联合创始人之一安德烈·卡尔帕西,"我们知道长假过后会发生什么……咳咳。"
还有网友拿马斯克对比："想象一下马斯克对所有人曾说：我要休假4个月。这个世界真的会灭亡。"