Мечта об искусственном интеллекте в интересах каждого разбилась вдребезги
Когда-то Сэм Альтман хотел создать искусственный интеллект на благо человечества. Потом пришли миллиарды от Microsoft. В религиозной войне, разделяющей сферу искусственного интеллекта, он одержал верх: быстрая прибыль теперь важнее безопасности.
Когда в прошлую пятницу Сэм Альтман получил текстовое сообщение от своего технологического босса и соучредителя компании Ильи Суцкевера, он и не подозревал, что его последний день в OpenAI только начался. Суцкевер хотел узнать, сможет ли он принять участие в видеозвонке в обеденный перерыв. На встрече Суцкевер и остальные члены наблюдательного совета сообщили Альтману, что он уволен. Сразу после этого его счета были заблокированы. По сообщениям американских СМИ.
Увольнение Альтмана вызвало шок в технологической среде США, если не во всем мире. Ведь разработчик ChatGPT - это не просто стартап, а фигурант революции в области искусственного интеллекта. А ее основатель и руководитель Сэм Альтман - ее лицо. После того как сотрудники открыто взбунтовались и пригрозили перейти на сторону крупнейшего инвестора Microsoft или присоединиться к конкурентам, регуляторы смирились. После тяжелых переговоров Альтман триумфально вернулся на пост генерального директора - всего через несколько дней после увольнения. Мир вернулся в, возможно, самую важную технологическую компанию США. Но он по-прежнему обманчив.
Технологические аналитики, журналисты и инвесторы продолжают ломать голову над тем, что же именно произошло в OpenAI. Даже сама компания, занимающаяся разработкой искусственного интеллекта, не знает этого и хочет, чтобы произошедшее было расследовано внешними следователями. Ясно одно: для одних Сэм Альтман пожертвовал своей благородной миссией ради больших денег. Для других он стал мишенью для сверхзаботливых и некомпетентных начальников. Возможно, он победил в борьбе за власть со своими внутренними оппонентами. Но его мечту об искусственном интеллекте, разрабатываемом без коммерческих интересов технологических гигантов на благо человечества, скорее всего, придется похоронить вместе с драмой в OpenAI.
Баланс между спасением мира и коммерцией
Именно с такими амбициями Альтман основал свой стартап в Сан-Франциско в 2015 году. Альтруистическая идея проявилась в названии: OpenAI, открытый и прозрачный. То же самое относится и к форме: новаторское программное обеспечение стартапа до сих пор формально поддерживается некоммерческой исследовательской организацией, а не компанией, ориентированной на получение прибыли.
Однако долго удерживать это утверждение Альтману не удалось: Начиная с 2019 года Microsoft инвестировала в общей сложности до 13 млрд. долларов, получив взамен эксклюзивные права на программы для исполнителей ИИ. Специально для этого OpenAI основала дочернюю компанию, ориентированную на получение прибыли, хотя ее прибыль и ограничена.
С тех пор OpenAI застряла в уникальной, можно сказать, странной структуре: инвесторы с миллиардными состояниями, как это принято в Кремниевой долине, не имеют никакого права голоса в наблюдательном совете OpenAI. И Альтману приходится балансировать: разрабатывать искусственный интеллект на благо человечества и с оглядкой на безопасность. И в то же время превращает свою некоммерческую организацию в бизнес с миллиардными оборотами.
Истерия судного дня или технологическая шумиха?
Глубокий раскол в OpenAI произошел задолго до увольнения Альтмана. Уже в 2021 году некоторые исследователи ИИ во главе с Дарио Амодеем покинули компанию и основали AnthropicAI, крупнейшего конкурента Альтмана на сегодняшний день, опасаясь, что их бывший босс потерял из виду риски, связанные с новаторской технологией. Благодаря сделке с Microsoft Альтман смог вкладывать в программы все больше денег и вычислительных мощностей. "Мы считали, что нужно не просто все более мощные модели: нужна корректировка человеческих ценностей - безопасность", - объяснил позже Амодей свой уход в интервью Fortune.
Его уход стал тревожным сигналом того, что религиозная война, бушующая в среде ИИ, уже давно перекинулась и на OpenAI: с одной стороны - сторонники дум, рассматривающие искусственный интеллект как потенциально богоподобную машину, которая однажды может выйти из-под контроля и уничтожить человечество, как животных. По крайней мере, трое из уволенных руководителей принадлежат к этой фракции. Говорят, что Суцкевер также сомневался в том, что Альтман по-прежнему преследует благородную миссию OpenAI.
Оптимисты считают эти сценарии конца света преувеличенными. Для них ИИ - это, возможно, самое важное изобретение человечества с огромными потенциальными выгодами для миллиардов людей. "Мы дошли до этого момента, потому что незначительные, крошечные риски были истерически раздуты экзотическими взглядами ботаников-фантастов и СМИ, помешанных на кликах", - так прокомментировал смещение Альтмана ветеран венчурного капитала Винод Хосла, один из первых инвесторов открытого ИИ.
Прибыльные интересы интернет-гигантов теперь доминируют
В OpenAI эти две группировки - сверхнастороженные руководители и ориентированные на прибыль крупные инвесторы - уже давно ведут скрытую борьбу. На прошлой неделе она вышла на поверхность. Что именно послужило толчком к этому, пока неясно. Альтман "не был последовательно честен в общении с Наблюдательным советом" и тем самым "препятствовал выполнению его обязанностей", - туманно говорится в пресс-релизе о его увольнении.
Это может быть связано с туром инвесторов по Ближнему Востоку, который Альтман, по сообщениям СМИ, совершал в течение нескольких недель с целью привлечения новых денег на дешевые микросхемы, необходимые OpenAI для ее моделей. Основа доверия между харизматичным генеральным директором, к которому привязались инвесторы, и его руководителями, очевидно, продолжает разрушаться - возможно, потому, что его курс стал для них слишком коммерческим.
Наблюдательный совет OpenAI, возможно, делал только то, что ему предписано: дергал за ручку, когда видел, что некоммерческая миссия OpenAI находится под угрозой. Ирония заключается в том, что "некомпетентные" руководители, как назвали их сотрудники OpenAI в своем протестном письме, в результате практически разрушили всю компанию. И тем самым еще больше подготовили почву для коммерциализации.
Трое из четырех критически настроенных, ориентированных на безопасность руководителей, уволивших Альтмана, теперь сами выведены из состава наблюдательного совета. Вместо них в состав наблюдательного совета вошли бывший министр финансов США Ларри Саммерс и Брет Тейлор - бывший глава компании Salesforce и проверенный доверенный Альтман. Тейлор также станет председателем наблюдательного совета. Таким образом, Альтман получил в свое распоряжение благоприятных для него контролеров, которые будут поддерживать его более быстрый и коммерческий курс и должны предоставить ему "необходимые ресурсы для достижения успеха", как того требовал глава Microsoft Сатья Наделла. Кроме того, планируется установить до шести новых контролеров, которые, возможно, будут сильнее представлять интересы миллиардных доноров. Вскоре им предстоит решить, насколько благотворительной на самом деле является крупнейшая технологическая революция в истории человечества.
Источник: www.ntv.de
