1. Предыстория "восхождения на трон": вопрос безопасности, но не только
Раньше была "банда PayPal", теперь есть "перебежчики OpenAI".
По статистике, около 75 ключевых сотрудников уже покинули OpenAI и основали около 30 AI-компаний.
- Бывшие вице-президенты по исследованиям и безопасности Дарио и Даниэла Амодеи основали Anthropic, оцененную в $18 млрд;
- Бывший главный научный сотрудник Илья Суцкевер основал SSI, оцененную в $10 млрд;
- Бывший вице-президент по инженерии Дэвид Луан основал Adept AI (приобретенную Amazon), оцененную более чем в $1 млрд;
- Бывший технический директор Йонас Шнайдер основал робототехнический стартап Daedalus, оцененный в $40 млн;
- Бывший научный сотрудник Аравинд Сринивас основал Perplexity.AI, оцененную в $3 млрд;
- Бывший технический сотрудник Тим Ши основал платформу AI-поддержки Cresta AI, оцененную в $1,6 млрд;
Среди них Anthropic стала главным конкурентом OpenAI и "убежищем" для бывших сотрудников; Perplexity.AI стала лучшим "оболочечным" продуктом OpenAI и претендентом на место Google Search...
Для обычных исследователей уход - это поиск лучших возможностей; но для ключевых членов, особенно основателей, уход обычно связан с разногласиями во взглядах.
Типичные примеры - Маск, братья и сестры Амодеи, а также Илья Суцкевер. Их противостояние с Альтманом лишь укрепило позиции последнего в OpenAI.
Шаг первый: свержение "тирании" Маска
В 2015 году Google приобрела DeepMind. Маск вместе с соучредителем PayPal и основателем Founders Fund Люком Носеком предложили конкурирующее предложение, но безуспешно. Это стало неизгладимым сожалением для Маска.
На этом фоне обеспокоенный Маск посетил ужин, вошедший в историю Кремниевой долины. На нем собрались около десяти выдающихся личностей, трое из которых особенно выделялись - Альтман, Илья Суцкевер и Грег Брокман.
Они обсудили с Маском потенциальные катастрофические последствия ИИ и условия, необходимые для создания проекта, способного конкурировать с Google.
Четверка считала, что у них есть все необходимое для успеха: Илья Суцкевер, ученик Хинтона, был специалистом по ИИ; CTO Stripe Брокман был операционным гением; CEO YC Сэм Альтман мог координировать все элементы; основатель Tesla Маск имел деньги.
На ужине Маск пообещал инвестировать $1 млрд и предложил назвать проект OpenAI - он должен был работать как некоммерческая организация, сосредоточенная на разработке безопасного ИИ на благо человечества, а не на получении прибыли.
В 2017 году Google опубликовала знаменитую статью о Transformer, показав, что ключ в обработке больших объемов данных, что требует огромных вычислительных мощностей (Илья Суцкевер предвидел это еще при основании OpenAI).
Так у OpenAI начались финансовые проблемы (Маск пожертвовал в общей сложности $44 млн и оплачивал аренду).
Брокман и другие члены OpenAI предложили преобразовать организацию в коммерческую структуру, чтобы привлечь средства от таких инвесторов, как Microsoft.
Поначалу Маск решительно возражал. Но когда он осознал необходимость создания коммерческой структуры, он захотел получить контрольный пакет акций, первоначальный контроль над советом директоров и должность CEO. Маск даже предложил объединить OpenAI с Tesla, утверждая, что Tesla - единственная компания, способная конкурировать с Google.
Видя, что никто не соглашается, Маск начал убеждать исследователей OpenAI перейти в Tesla.
В конце концов, "постоянно создающий проблемы" Маск был исключен из совета директоров голосованием.
Перед уходом он проклял OpenAI, заявив, что у них нулевые шансы победить DeepMind/Google.
Однако люди, близкие к Альтману, утверждают, что Маск просто завидовал славе Альтмана в сфере ИИ и был больше озабочен тем, как победить OpenAI, чем безопасностью ИИ. Близкие к Маску настаивают, что его беспокойство о безопасности ИИ было искренним и глубоким, например, разработка xAI как альтернативы OpenAI.
Но в любом случае, изгнание "диктатора" Маска определенно было первым шагом Альтмана к власти.
Шаг второй: Выход из кокона и максимизация прибыли
В 2019 году OpenAI получила $1 млрд от Microsoft для продолжения разработки "хорошего" ИИ.
Когда вы получаете $1 млрд, вы должны отплатить "спонсору", что уже вызвало сомнения у некоторых ветеранов.
Но Альтман был очень гибким - он не держался за репутацию некоммерческой организации, но сохранил ее оболочку.
Он творчески создал совершенно новую структуру. С одной стороны, OpenAI могла работать как обычная компания, например, привлекать средства и выдавать акции сотрудникам; с другой стороны, доходность инвесторов OpenAI была ограничена.
По сути, OpenAI стала коммерческой компанией, контролируемой советом директоров некоммерческой организации.
Это звучало нестабильно, и внутренний раскол в команде начал постепенно проявляться.
В 2021 году, основывая Anthropic, Дарио Амодеи сказал:
"В OpenAI была группа людей, которые после создания GPT-2 и GPT-3 имели очень сильные убеждения в двух вещах. Во-первых, они считали, что чем больше вычислительных ресурсов вкладывается в эти модели, тем лучше они становятся, практически без ограничений. Я думаю, сейчас эта точка зрения получила более широкое признание, но мы были одними из первых верующих.
Второй момент заключался в том, что нужно что-то помимо увеличения масштаба модели, а именно выравнивание или безопасность. Потому что просто увеличение вычислительных ресурсов не может научить модели их ценностям. Поэтому мы придерживались этой идеи и основали собственную компанию."
Хотя Anthropic кажется более "безопасной" и уделила большое внимание точности. Например, Anthropic использовала множество сложных фактических вопросов для выявления известных слабых мест модели, разделяя ответы на правильные, неправильные (галлюцинации) и признание "незнания". Соответственно, Claude 3 может выразить незнание ответа, а не предоставлять неверную информацию. Помимо более точных ответов, Claude 3 даже может "цитировать", указывая на точные предложения в справочных материалах для подтверждения своих ответов.
Но как OpenAI должна отплатить Microsoft, так и Anthropic должна отплатить Amazon, и управлять крупной AI-компанией этично практически невозможно.
Недавно Anthropic была уличена в сборе данных с миллионов веб-сайтов за 24 часа и т.д.
"Сомневаться, понимать, становиться" - возможно, это необходимый путь для стартапов в области больших языковых моделей.
Шаг третий: Чистка предателей и "облачение в желтые одежды"
В перевороте Чэнь Цяо император Сун Тай-цзу Чжао Куанъинь спал глубокой ночью, когда мятежные солдаты тайно накинули на него желтые одежды. На следующий день он с болью принял "принуждение" всех. Это было воплощением воли народа.
А во время дворцового переворота в OpenAI в ноябре прошлого года разыгралась "кремниевая версия" облачения в желтые одежды. Тогда сотни сотрудников OpenAI подписали открытое письмо, требуя отставки всех "предательских" членов совета директоров и восстановления Альтмана в должности, иначе подписавшие письмо сотрудники предпримут действия, "возможно, присоединившись к новому подразделению Microsoft, созданному Альтманом и Брокманом".
Такой авторитет и влияние - мечта любого CEO.
Подождите, у этой истории есть еще одна версия.
На самом деле в этом инциденте, помимо "выстраивания сердец", был еще один ключевой фактор - деньги.
Незадолго до переворота OpenAI только что организовала продажу акций для сотрудников, дав им возможность обналичить часть своих долей. В результате, не успев получить деньги на руки, они узнали, что босс был свергнут.
Некоторые инвесторы заявили, что если Альтман не вернется, они приостановят выполнение тендерного предложения. Представьте, что вы уже планировали досрочно выйти на пенсию с этими деньгами, и вдруг "злодей" Илья Суцкевер все испортил! Кто бы не разозлился.
Поэтому подписание петиции действительно отражало волю народа. Более того, когда 95% ваших коллег подписывают в поддержку, вы, вероятно, тоже подпишете.
Что касается неудачной попытки переворота Ильи Суцкевера и его вынужденного ухода, помимо недостаточного понимания человеческой природы, это также связано с чрезвычайно сильными политическими способностями Альтмана, о которых подробнее ниже.
2. Портрет "нового короля": авторитаризм, обман, стремление к наживе, попустительство
Вернемся в 2016 год. В то время офис OpenAI располагался в личной квартире Брокмана - диван, кухонные шкафы и даже кровать служили рабочими местами для сотрудников. Это неприметное место собрало вместе 20 ведущих мировых экспертов по ИИ.
В то время Альтман и Маск редко бывали там, и именно Брокман и Илья Суцкевер поддерживали команду.
Илья Суцкевер был лидером в области ИИ, а Брокман считался опорой бизнес-операций OpenAI.
Сотрудники вспоминают, как они гуляли с Ильей Суцкевером по улицам Сан-Франциско, глубоко обсуждая глобальные вопросы, сомневаясь, на правильном ли они исследовательском пути. У Ильи Суцкевера было передовое понимание ИИ, он мог объяснять сложные технические концепции простыми аналогиями, например, сравнивая нейронные сети с особым видом компьютерных программ или схем.
Еще при основании OpenAI Илья Суцкевер осознал, что огромный прорыв в ИИ произойдет не из-за какой-то конкретной настройки или нового изобретения, а из-за накопления огромных объемов данных, как постоянная подача топлива в двигатель.
Именно по этой причине, когда в 2017 году была опубликована статья Google о Transformer, Илья Суцкевер смог своевременно повести OpenAI к исследованию и принятию архитектуры Transformer, став одним из пионеров в отрасли, быстро внедривших эту передовую технологию.
Трудолюбие Брокмана было общеизвестно. Бывший сотрудник вспоминает, что каждое утро, приходя на работу