舒爾曼繼續關注AI對齊
對於舒爾曼的離職,奧特曼在社交媒體X上發帖表示:"感謝你為OpenAI所做的一切!你是一位傑出的研究者,對產品和社會有著深刻的思考,最重要的是,你是我們所有人的好朋友。我們會非常想念你,讓你為這個地方感到驕傲。
(2015年,我第一次見到約翰是在伯克利的一家咖啡館。他說的是"一方面,現在談論通用人工智能似乎很荒謬,但另一方面,我認為這是非常合理的,這就是為什麼這也是為什麼我認為談論它很重要的原因。"然後列出了OpenAI最初戰略的重要部分。這花了大約15分鐘,然後我們尷尬地又聊了45分鐘：）)"
舒爾曼在OpenAI內部推動了所謂的"後訓練"過程,這一過程涉及對驅動ChatGPT等產品的大語言模型進行精細化調整。此外,他還接管了專注於防止人工智能造成社會傷害的安全團隊——"超級對齊"團隊的剩餘成員。這些人事變動發生在公司業務快速發展、可能面臨重大虧損以及週期性人員更迭的背景下。
例如,OpenAI最近將另一位安全領域的負責人亞歷山大·馬德里調任至其他職位。公司聯合創始人伊利亞·蘇茨克弗,曾對公司的重大突破貢獻巨大,最近離職並創立了一家競爭對手初創公司。另一位聯合創始人安德烈·卡爾帕西於2月離職,之後啟動了自己的教育初創公司。OpenAI還首次聘請了首席財務官和首席產品官,他們的加入可能對彼得·鄧的職責產生了影響。
OpenAI目前正處於轉型期,可能會從非營利組織轉變為類似於Anthropic的營利公司,並正在訓練其下一代旗艦人工智能模型。此外,OpenAI最近推出了一款搜索引擎,並正在開發一種人工智能,旨在為客戶自動化計算機任務。
舒爾曼在社交平台X上宣布了自己離職的消息。他稱自己希望進一步關注人工智能對齊,重返實際技術工作,並決定在Anthropic追求這一目標。他還強調,自己離開OpenAI並不是因為缺乏對對齊研究的支持。
以下是舒爾曼在社交媒體X上發帖的內容全文：
今天,我與OpenAI的同事們分享了以下內容：
我做了一個艱難的決定離開OpenAI。我之所以做出這個選擇,是因為我希望進一步專注於人工智能的協調,並開始我職業生涯的新篇章,在那裡我可以重新從事實際的技術工作。我決定在Anthropic追求這個目標,我相信在這裡我可以獲得新的視角,和深入研究這些主題的人們一起做研究我最感興趣的。
需要說明的是,我不會因為OpenAI對對齊研究的支持不足而離開。相反,公司領導一直非常致力於在這方面的投資。我的決定是我個人的決定,基於我想在職業生涯的下一階段如何集中精力。
差不多9年前,我從研究生院畢業後,作為創始團隊的一員加入了OpenAI。是我工作過的第一家也是唯一的一家公司,除了實習。也很有趣。我感謝山姆和格雷格在一開始就把我招回來,米拉和鮑勃對我的信任,給我帶來了巨大的機會,幫助我成功地駕馭各種挑戰。我為我們在OpenAI共同取得的成就感到驕傲：建立了一個以公益為使命的不同尋常的、前所未有的公司。
我有信心OpenAI和團隊我參與了會在沒有我的情況下繼續茁壯成長。後訓練是在很好的手中,有一個驚人的天賦的板凳深度。我在ChatGPT上得到了太多的讚譽,巴雷特已經做了令人難以置信的工作,把團隊建設成令人難以置疑的能力。
我一直很高興看到對齊團隊走到一起,有一些有前途的項目。在米婭、波阿斯和其他人的領導下,我相信球隊會得到非常有能力的領導。
我非常感謝有機會參與歷史中如此重要的部分,我為我們共同取得的成就感到驕傲。我仍然會為你們加油,即使在其他地方工作。
布羅克曼要繼續休假至年底
近期未被報導的休假和離職事件雖然看似無關,但反映出OpenAI領導層自去年11月首席執行官奧特曼被解僱並重新聘請後,尚未完全穩定下來。布羅克曼在公司中擔任了至關重要的角色,他將人工智能研究者的重大發現轉化為大規模的人工智能模型和產品,例如ChatGPT。他也是奧特曼的重要支持者,特別是在後者爭取重返公司的過程中。布羅克曼向員工表示,他計劃在長期休假結束後返回工作崗位。
布羅克曼在社交媒體X上對此回應稱："本人計劃在本年度末之前進行為期一年的休假。自從九年前參與創立OpenAI以來,這是我首次有機會徹底放鬆。然而,我們的宏偉使命尚未完成——我們仍需致力於開發一個安全、可靠的通用人工智能技術。"
不過粉絲似乎對布羅克曼的這種解釋並不買帳。有人提到了曾經休長假後離職的知名人工智能科學家、OpenAI聯合創始人之一安德烈·卡爾帕西,"我們知道長假過後會發生什麼……咳咳。"
還有網友拿馬斯克對比："想像一下馬斯克對所有人曾說：我要休假4個月。這個世界真的會滅亡。"