Шульман продолжает фокусироваться на согласовании ИИ
По поводу ухода Шульмана Альтман написал в социальной сети X: "Спасибо тебе за все, что ты сделал для OpenAI! Ты выдающийся исследователь с глубоким пониманием продукта и общества, и, что самое важное, ты хороший друг для всех нас. Мы будем очень скучать по тебе и постараемся сделать так, чтобы ты гордился этим местом.
(В 2015 году я впервые встретил Джона в кафе в Беркли. Он сказал: "С одной стороны, сейчас кажется нелепым говорить об общем ИИ, но с другой стороны, я думаю, это вполне разумно, и поэтому я считаю важным говорить об этом". Затем он изложил важные части первоначальной стратегии OpenAI. Это заняло около 15 минут, а затем мы неловко болтали еще 45 минут :))"
Шульман продвигал в OpenAI так называемый процесс "пост-обучения", который включает тонкую настройку больших языковых моделей, лежащих в основе таких продуктов, как ChatGPT. Кроме того, он взял на себя руководство оставшимися членами команды безопасности - "суперсогласования", которая фокусируется на предотвращении социального вреда от ИИ. Эти кадровые изменения происходят на фоне быстрого роста бизнеса компании, возможных значительных убытков и циклической текучести кадров.
Например, OpenAI недавно перевел на другую должность еще одного руководителя в области безопасности, Александра Мадри. Соучредитель компании Илья Суцкевер, который внес огромный вклад в крупные прорывы компании, недавно ушел и основал конкурирующий стартап. Другой соучредитель, Андрей Карпати, ушел в феврале и запустил свой собственный образовательный стартап. OpenAI также впервые наняла финансового директора и директора по продуктам, чье присоединение, возможно, повлияло на обязанности Питера Данна.
OpenAI в настоящее время находится в переходном периоде и может превратиться из некоммерческой организации в коммерческую компанию, подобную Anthropic, и обучает свою следующую флагманскую модель ИИ. Кроме того, OpenAI недавно запустила поисковую систему и разрабатывает ИИ, предназначенный для автоматизации компьютерных задач для клиентов.
Шульман объявил о своем уходе на платформе X. Он заявил, что хочет больше сосредоточиться на согласовании ИИ, вернуться к практической технической работе и решил преследовать эту цель в Anthropic. Он также подчеркнул, что покидает OpenAI не из-за недостатка поддержки исследований по согласованию.
Вот полный текст сообщения Шульмана в социальной сети X:
Сегодня я поделился следующим со своими коллегами в OpenAI:
Я принял трудное решение покинуть OpenAI. Я сделал этот выбор, потому что хочу еще больше сосредоточиться на согласовании ИИ и начать новую главу в своей карьере, где я смогу вернуться к практической технической работе. Я решил преследовать эту цель в Anthropic, где, я верю, смогу получить новую перспективу и заниматься исследованиями, которые меня больше всего интересуют, вместе с людьми, глубоко погруженными в эти темы.
Важно отметить, что я не ухожу из-за недостатка поддержки исследований по согласованию в OpenAI. Напротив, руководство компании всегда было очень привержено инвестициям в эту область. Мое решение - личное, основанное на том, как я хочу сосредоточиться на следующем этапе своей карьеры.
Почти 9 лет назад я присоединился к OpenAI в качестве члена основательской команды сразу после окончания аспирантуры. Это была первая и единственная компания, в которой я работал, не считая стажировок. И это было очень весело. Я благодарен Сэму и Грегу за то, что они пригласили меня в самом начале, Мире и Бобу за доверие ко мне, которое принесло мне огромные возможности и помогло успешно преодолеть различные вызовы. Я горжусь тем, чего мы вместе достигли в OpenAI: построили необычную, беспрецедентную компанию с миссией на благо общества.
Я уверен, что OpenAI и команды, в которых я участвовал, продолжат процветать и без меня. Пост-обучение находится в хороших руках, с удивительной глубиной талантов. Я получил слишком много похвал за ChatGPT, Барретт проделал невероятную работу, создав команду с неоспоримыми способностями.
Я всегда был рад видеть, как команда по согласованию собирается вместе, с некоторыми многообещающими проектами. Под руководством Миа, Боаза и других я верю, что команда будет очень способно руководима.
Я очень благодарен за возможность быть частью такого важного момента в истории, и я горжусь тем, чего мы достигли вместе. Я все еще буду болеть за вас, даже работая в другом месте.
Брокман продолжит отпуск до конца года
Недавние неосвещенные отпуска и увольнения, хотя и кажутся несвязанными, отражают то, что руководство OpenAI еще не полностью стабилизировалось после увольнения и повторного найма генерального директора Альтмана в ноябре прошлого года. Брокман играл ключевую роль в компании, превращая крупные открытия исследователей ИИ в масштабные модели и продукты ИИ, такие как ChatGPT. Он также был важным сторонником Альтмана, особенно в его борьбе за возвращение в компанию. Брокман сообщил сотрудникам, что планирует вернуться на работу после длительного отпуска.
Брокман ответил на это в социальной сети X: "Я планирую взять годовой отпуск до конца этого года. Это первая возможность полностью расслабиться с тех пор, как я участвовал в основании OpenAI девять лет назад. Однако наша грандиозная миссия еще не завершена - нам все еще нужно работать над разработкой безопасной и надежной технологии общего ИИ."
Однако фанаты, похоже, не купились на это объяснение Брокмана. Кто-то упомянул известного ученого в области ИИ и одного из соучредителей OpenAI Андрея Карпати, который ушел после длительного отпуска: "Мы знаем, что происходит после длительного отпуска... кхм-кхм."
Другой пользователь сравнил с Маском: "Представьте, если бы Маск сказал всем: я собираюсь взять отпуск на 4 месяца. Мир действительно бы погиб."