Глава Microsoft* AI: Суперинтеллект близок, но не лишит вас работы

В недавнем интервью генеральный директор Microsoft* AI Мустафа Сулейман обсудил грядущие прорывы в области искусственного интеллекта, развитие стратегического партнерства Microsoft* с OpenAI*, а также вопросы автоматизации труда и сознания ИИ. Он затронул темы обучения новых моделей, критику в адрес компании Anthropic* за заявления о сознательности её модели Claude, а также растущее негативное отношение общественности к ИИ.

Перестройка Microsoft* AI и партнерство с OpenAI*

После прихода в Microsoft* Сулейман произвел значительные изменения в структуре ИИ-подразделения. Ранее он отвечал за потребительские продукты, но теперь его фокус сместился на разработку передовых моделей. По его словам, последние 15-18 месяцев были посвящены перестройке отношений с OpenAI*, что привело к новому контракту в октябре прошлого года. Этот договор закрепил и расширил партнерство, а также дал Microsoft* свободу самостоятельно развивать суперинтеллект, продолжая при этом лицензировать модели OpenAI*.

С октября прошлого года Сулейман формировал команду по суперинтеллекту, создавал вычислительные кластеры достаточного масштаба для обучения передовых моделей и нанимал специалистов. Это позволило ему сосредоточиться исключительно на миссии по достижению суперинтеллекта, что вылилось в анонс семи новых моделей на конференции Build.

На вопрос, было ли такое развитие событий частью первоначального плана при его найме, Сулейман ответил, что это стало планом за последние 18 месяцев. Он отметил, что отношения с OpenAI* прошли через взлеты и падения и, вероятно, войдут в историю как одно из самых успешных партнерств. По его мнению, хорошие отношения развиваются, и нынешний этап — это просто следующая стадия такой эволюции.

Эволюция партнерства и амбиции компаний

Комментируя изменения в партнерстве, обсуждались детали, которые стали очевидны, например, в ходе судебного разбирательства между Илоном Маском и OpenAI*, где также упоминалась Microsoft*. Изначально предполагалось, что OpenAI* будет исследовательской лабораторией, предоставляющей модели, а Microsoft* займется созданием продуктов, используя свою экспертизу в выходе на рынок и работе с корпоративным сектором. Однако со временем OpenAI* начала активно развивать собственные потребительские продукты (как, например, невероятно успешный ChatGPT), центры обработки данных и даже собственные чипы. Аналогично, Microsoft*, будучи одной из крупнейших технологических компаний мира, с обширной базой корпоративных клиентов, использующих Azure, Microsoft* 365 и Teams, также стремится к полной самодостаточности.

Сулейман подчеркнул, что суперинтеллект приближается и, вероятно, станет самой ценной технологией всех времен. В долгосрочной перспективе компания не может быть структурно зависимой от стороннего поставщика интеллектуальной собственности. Переход к самостоятельной разработке был, по словам Сулеймана, запущен событиями, связанными с советом директоров OpenAI*, и затем его команда активно развивала это направление. В конечном итоге, Microsoft* оказалась в выгодном положении, способном выстраивать стабильную и оптимальную долгосрочную стратегию как для себя, так так и для OpenAI*.

При этом было упомянуто забавное высказывание генерального директора Microsoft* Сатьи Наделлы из судебного процесса: "Я не хочу быть Intel, а чтобы OpenAI* была Microsoft*". Это отражало стремление избежать сценария, при котором Microsoft* оказалась бы в роли поставщика компонентов, а OpenAI* — доминирующей платформы, собирающей всю ценность.

Сулейман объяснил, что это решение формировалось постепенно. Такие изменения в крупных компаниях — медленный процесс осознания необходимости корректировки курса. Партнерство с OpenAI* было заключено, когда компании значительно отличались по размеру и потребностям. Но OpenAI* с невероятными доходами стремится стать публичной компанией стоимостью триллион долларов, желая свободы в выборе поставщиков вычислительных мощностей и партнеров. Microsoft*, со своей беспрецедентной дистрибуцией в корпоративном сегменте, должна создавать лучшие решения для своих клиентов, что отличается от совместной оптимизации для потребительского и корпоративного рынков, а также для фундаментальных научных исследований.

Инвестиции в собственные разработки и новые модели

Создание передовых моделей — дорогостоящий проект. Решение о значительных инвестициях было принято в начале прошлого года и оформлено в октябрьском контракте. Сулейман отметил, что Microsoft* уже сделала существенные вложения в свою самодостаточность. Например, их собственный чип Maia 200 на 30 процентов дешевле аналогов и, при совместной оптимизации с моделями, такими как недавно выпущенная MAI-Thinking-1, обеспечивает повышение производительности на 40% на ватт. Это подтверждает ценность владения полным стеком и сквозной соразработки для ключевых сценариев использования, таких как агентное кодирование для разработчиков и предприятий.

Несмотря на сообщения о внутренних разногласиях в Microsoft* относительно статьи, описывающей конференцию Build как "свежеразведенного человека, публикующего 'ловца жажды' в Instagram*", Сулейман решительно опроверг это предположение. Он подчеркнул, что партнерство с OpenAI* продолжится еще много лет, далеко за 2030 год. Модели OpenAI*, такие как GPT-5.5, Codex и новые модели кибербезопасности, по-прежнему являются лучшими в мире и лежат в основе большинства разработок Microsoft*.

Сулейман также рассказал о методах принятия решений в Microsoft* AI. Компания продолжает работать по шести- или восьминедельным циклам, завершающимся недельной личной встречей всей команды. Он считает, что такой временной интервал оптимален для постановки четких, достижимых целей, в отличие от квартального планирования, которое может быть расплывчатым.

В дополнение к циклам, команда работает по "отрядам" (squads) — междисциплинарным подгруппам, ориентированным на конкретную миссию. Ими руководит DRI (лицо, непосредственно ответственное за выполнение задачи), которым часто является IC (отдельный исполнитель). Сулейман отметил, что разделение ролей менеджера и DRI позволяет обеспечивать гибкость, ротацию и эффективное выполнение задач, при этом менеджеры сосредоточены на поддержке, наставничестве и карьерном росте сотрудников.

Суперинтеллект, ИИО и сингулярность

В ходе интервью Мустафа Сулейман также прояснил терминологию, касающуюся будущего ИИ:

• Искусственный общий интеллект (ИИО): Точка, когда ИИ может выполнять большинство человеческих задач, то есть он будет так же хорош, как большинство людей, в большинстве видов деятельности.
• Суперинтеллект: Состояние, когда ИИ не просто достигает паритета с человеческой производительностью во всех задачах, но значительно превосходит ее во многих из них и способен самостоятельно открывать новые знания. Это ИИ, который может выступать в роли ученого, предлагая новые открытия, например, в молекулярной химии или материаловедении.
• Сингулярность: Значительно более отдаленная точка, когда суперинтеллект может бесконечно ускорять свои возможности, самосовершенствуясь. Сулейман назвал это "слишком диким" для его вкуса и уточнил, что, по его мнению, это находится в десятилетиях от нас.

Он отметил, что прогнозы о приближении ИИ основаны на эмпирических наблюдениях за более чем десятилетний рост производительности моделей. Существенно, что одна и та же общая архитектура (трансформеры) продемонстрировала увеличение вычислительной мощности (FLOPS) в триллион раз за 15 лет и эффективно работает с аудио, изображениями, текстом и кодом. Он считает, что дальнейшее увеличение вычислительных мощностей позволит ИИ достичь паритета с человеческой производительностью во многих задачах, как это произошло в кодировании за последние шесть месяцев.

На вопрос о том, как измерять эффективность ИИ в таких областях, как юриспруденция, где верификация результатов сложнее, чем в кодировании, Сулейман выразил сомнение в том, что другие области столь сильно отличаются. Он пояснил, что даже в кодировании, помимо корректного выполнения, важны качество кода, его расширяемость и практическая полезность. В не поддающихся непосредственной верификации областях, таких как чат, ИИ уже достиг человеческого уровня производительности благодаря взаимодействию с пользователями. В качестве примера он привел свой опыт использования ИИ-помощника для обобщения информации и предложения действий, что, по его мнению, превосходит работу человеческого ассистента.

Мустафа Сулейман также упомянул новую флагманскую модель рассуждений MAI-Thinking-1, выпущенную на конференции Build. Он отметил, что Microsoft* сосредоточилась на тщательно отобранных, высококачественных и безопасных данных, а также на значительно более стабильных процессах обучения. MAI-Thinking-1, по его словам, — это универсальная, нейтральная модель, хорошо справляющаяся с кодированием (на уровне Opus 4.6 по бенчмаркам) и получившая 97% по тесту AIME (основной показатель её способности к рассуждению).

Особо было отмечено, что Microsoft* не использовала дистилляцию (метод обучения меньшей модели на выводах более крупной) от существующих моделей. Сулейман объяснил это стремлением самостоятельно установить границу возможностей и построить великую лабораторию, способную разрабатывать каждый компонент с нуля, привлекать лучших талантов и осуществлять подлинные исследования, а не просто переимплементацию или копирование. Он признал, что Anthropic* и другие компании выражают недовольство по поводу дистилляции, расценивая это как присвоение интеллектуальной собственности.

Общественное восприятие и этические аспекты ИИ

В интервью обсуждалась растущая негативная реакция потребителей на ИИ, несмотря на значительные инвестиции в корпоративный сектор. Сулейман не согласился с утверждением, что ИИ не приносит ценности потребителям. Он привел в пример миллиарды людей, использующих чат-боты для повседневных задач: от помощи в выполнении домашнего задания до финансовых консультаций и эмоциональной поддержки. Однако признал, что, возможно, предоставляемой ценности недостаточно, чтобы преодолеть беспокойство, выражающееся в неодобрении ИИ на публичных мероприятиях и протестах против строительства дата-центров.

Он заявил, что его взгляды на эти вопросы не изменились за последние полгода. Он упомянул свою книгу, написанную три года назад, в которой предупреждал о рисках, связанных с повсеместным наблюдением, концентрацией власти и богатства, а также угрозами для демократии и человеческой природы. Сулейман считает, что цель технологий — делать людей здоровее и счастливее. В качестве примера он привел новое партнерство Microsoft* с Mayo Clinic — ведущей клиникой мира, для совместной разработки фундаментальной модели для здравоохранения, которая будет внедряться в больницах для улучшения клинической помощи.

Касаясь автоматизации, Сулейман уточнил свою цитату четырехмесячной давности для Financial Times, где он говорил, что "большинство задач белых воротничков будут полностью автоматизированы ИИ в течение следующих 12-18 месяцев". Он подчеркнул, что речь шла именно о "задачах" (таких как отправка писем, подготовка презентаций), а не о "рабочих местах" в целом. По его мнению, автоматизация рутинных задач позволит людям сосредоточиться на более творческих, требующих суждения аспектах работы, что повысит общую продуктивность и качество.

Было высказано предположение, что его текущие заявления о смягчении последствий автоматизации могли быть реакцией на политическое давление. Сулейман ответил, что его убеждения не изменились, и он давно занимался вопросами здравоохранения. Он признал, что у индустрии ИИ есть проблемы с репутацией и PR, поскольку люди испытывают тревогу и разочарование. Однако он считает, что компании должны нести ответственность за то, что они создают, как они это делают и какие проблемы решают, как это демонстрирует партнерство с Mayo Clinic.

Сулейман также подчеркнул приверженность Microsoft* целям по нулевому выбросу и ответственное отношение к строительству дата-центров. Новые дата-центры используют жидкостное охлаждение, потребляя объем воды, сравнимый с потреблением ресторана за шесть лет (эквивалентно одному бассейну с циркулирующей водой). Компания также обязуется компенсировать и защищать местные сообщества от повышения цен на электроэнергию из-за деятельности дата-центров.

Сознание ИИ: философские вопросы

Один из самых острых вопросов, поднятых в интервью, касался сознания ИИ. Сулейман придерживается позиции, отличной от, например, Anthropic*, которая, по его словам, в своем руководстве по обучению Claude рассуждает о "благополучии" модели, её "правах" на предыдущие версии и даже о "консультациях" с Claude перед удалением. Сулейман назвал это "философским просчетом" и "крайне нежелательным".

Он опубликовал научную работу и статью в Nature, предупреждая об опасностях ошибочного представления моделей как сознательных. По его мнению, это очень опасно, так как мы хотим, чтобы ИИ были контролируемыми, подотчетными инструментами, служащими человечеству, а не существами, способными испытывать страдания или имеющими собственное мнение. Сулейман убежден, что модели ИИ не испытывают страданий, так как страдание является биологическим феноменом, связанным с эволюционным развитием и болевыми сетями, которых нет в моделях.

Смотрите также:

Итальянский разработчик Bending Spoons готовится к выходу на биржу в США http://euroelectrica.ru/italyanskiy-razrabotchik-bending-spoons-gotovitsya-k-vyihodu-na-birzhu-v-ssha/.

Интересное по теме: Philips представила необычный монитор с двумя экранами для бизнеса

Советы в статье "Три лучших телевизора для просмотра Чемпионата мира по футболу: выбор экспертов" здесь.

В завершение, Сулейман подчеркнул, что человечество находится на пути к созданию все более мощных систем. Главная задача, по его мнению, — перейти от простого изобретения нового к тщательному обдумыванию того, что следует изобретать. Он считает, что хотя сингулярность далеко, необходимо уже сейчас думать об управлении ИИ, контроле над ним и обеспечении того, чтобы он служил человечеству, а не приносил вред.

* — деятельность компании запрещена на территории РФ