OpenAI запускает инициативу «Patch the Planet» для защиты открытого ПО от ИИ-угроз

На фоне растущих опасений относительно возможностей искусственного интеллекта в области кибервзломов, компания OpenAI сделала ряд заявлений, касающихся кибербезопасности. В частности, речь идёт об улучшенной версии её специализированной модели с ограниченным доступом GPT-5.5-Cyber, расширении международного сотрудничества с правительствами и другими учреждениями для предоставления им «доверенного доступа» к новейшим кибермоделям компании, а также о выпуске сканера Codex Security в виде плагина для приложений.

"Patch the Planet": инициатива для укрепления безопасности открытого кода

В то время как развитие искусственного интеллекта оставляет критически важные проекты с открытым исходным кодом под возрастающим риском отставания в безопасности, OpenAI объявила о запуске проекта под названием Patch the Planet. Эта инициатива основана совместно с известной исследовательской фирмой Trail of Bits и осуществляется в сотрудничестве с компаниями по управлению уязвимостями HackerOne и Calif.

Проект уже приступил к работе, предлагая бесплатные консультационные услуги по безопасности разработчикам открытого программного обеспечения. Цель — не только помочь им находить и устранять уязвимости, но и поддержать их в укреплении кодовых баз и внедрении инструментов безопасности на основе искусственного интеллекта в процесс разработки. Идея заключается в предоставлении индивидуализированной поддержки как можно большему числу проектов с открытым исходным кодом для повышения их текущей безопасности и долгосрочной устойчивости.

По словам Дэна Гвидо, генерального директора и соучредителя Trail of Bits, Patch the Planet — это масштабная инициатива, направленная на то, чтобы помочь открытому ПО опередить инструменты поиска ошибок на базе ИИ. Он также отметил, что проект призван показать сообществу открытого кода преимущества, а не только недостатки, инструментов программирования с использованием искусственного интеллекта.

Проблемы разработчиков открытого ПО и роль ИИ

Разработчики открытого ПО, которые зачастую являются волонтерами, поддерживающими критически важное и широко используемое программное обеспечение с ограниченными ресурсами, нередко с трудом справляются с потоком отчетов об ошибках. Появление средств для поиска уязвимостей с использованием искусственного интеллекта в последние месяцы для многих из них сделало этот список неразрешимым, поскольку количество автоматически сгенерированных отчетов низкого качества растёт, затрудняя приоритизацию и отвлекая ограниченное время и внимание от критических изъянов.

Руководитель отдела кибертехнологий OpenAI Фуад Матин подчеркнул, что разработчики «делают свою работу из любви к открытому исходному коду, а теперь вынуждены просматривать низкокачественные отчёты об уязвимостях (CVE)». Он пояснил, что с помощью Patch the Planet компания стремится максимально эффективно снизить нагрузку на разработчиков за счет оценки кодовых баз, проверки потенциальных отчетов, создания и внедрения патчей. По словам Матина, цель — компенсировать затраты, будь то вычислительные ресурсы (токены) или человеческие усилия, чтобы максимально обезопасить программное обеспечение по всему миру.

Матин также добавил, что для сканера Codex Security, который находится на стадии исследовательского предварительного просмотра с начала текущего года, OpenAI субсидирует использование как для открытого, так и для частного кода, предоставив ресурсы эквивалентные 20 триллионам токенов.

Результаты и планы "Patch the Planet"

В проекте Patch the Planet уже участвуют более 30 проектов с открытым исходным кодом, и ещё больше готовятся к присоединению. Для запуска проекта Trail of Bits недавно провела пятидневный «спринт», в котором 25 инженеров, что составляет примерно пятую часть её рабочей силы, одновременно сотрудничали с различными разработчиками. OpenAI и Trail of Bits сообщили, что проект уже выявил сотни ошибок и выпустил десятки патчей всего за первую неделю.

Дэн Гвидо отметил, что благодаря финансированию от OpenAI и неограниченному доступу к моделям, Trail of Bits планирует продолжать активную работу над Patch the Planet в долгосрочной перспективе. Он подчеркнул, что возможность работать над крупномасштабными проблемами безопасности открытого исходного кода выпадает крайне редко. Гвидо добавил, что Patch the Planet не является универсальным решением: специалисты общаются с разработчиками каждого проекта, чтобы определить их наивысшие приоритеты — будь то создание лучшей тестовой инфраструктуры, кастомных фаззеров (инструментов для автоматического поиска ошибок путём подачи случайных данных) или просто очистка технических данных по всему проекту, что поможет им работать и исправлять ошибки быстрее.

Участники Patch the Planet получают шесть месяцев бесплатного доступа к ChatGPT Pro и шесть месяцев к Codex Security, а также улучшения инфраструктуры и рабочих процессов, которые могут быть поддержаны с помощью различных инструментов и инженеров.

По словам Гвидо из Trail of Bits, в рамках Patch the Planet около половины времени было потрачено на поиск ошибок, при этом сосредоточившись на самых очевидных, легко обнаруживаемых и наиболее серьезных изъянах. Вторая половина времени ушла на настройку программных агентов для работы с кодовой базой, чтобы передать их разработчикам и обучить их использованию.

Конкуренция и общемировые предупреждения

Заявления OpenAI прозвучали на фоне того, как её конкурент Anthropic ранее в этом месяце был вынужден снять свои новые модели Fable 5 и Mythos 5 с рынка из-за опасений администрации Трампа относительно возможностей искусственного интеллекта в кибербезопасности. Решение Белого дома ввести экспортный контроль на эти модели было принято после того, как Anthropic публично выпустила модель Mythos-grade Fable 5 с блокировками расширенных биологических и кибербезопасных возможностей — мер защиты, которые администрация посчитала недостаточными.

Смотрите также:

Эпоха дефицита видеокарт позади: главным барьером для ИИ становится память контекста http://euroelectrica.ru/epoha-defitsita-videokart-pozadi-glavnyim-barerom-dlya-ii-stanovitsya-pamyat-konteksta/.

Интересное по теме: Self-Harness: новая система автоматического совершенствования ИИ-агентов

Советы в статье "Обзор возможностей стационарного миксера KitchenAid: не только для выпечки" здесь.

Объявления OpenAI, включая новую контрольную точку GPT-5.5-Cyber, являются частью программы ограниченного «Доверенного доступа для кибербезопасности» и не предусматривают публичного выпуска. Однако, поскольку как Anthropic, так и OpenAI готовятся к первичным публичным размещениям акций (IPO), конкуренция явно продолжается независимо от того, какие продукты в данный момент доступны на рынке. Например, в анонсе GPT-5.5-Cyber OpenAI отмечает, что модель набирает 85,6% на тестовом бенчмарке CyberGym, что является улучшением по сравнению с предыдущей версией GPT-5.5-Cyber. Этот показатель также превосходит Mythos 5 от Anthropic, который набрал 83,8%.

В условиях этой гонки в области кибербезопасности с использованием ИИ разведывательный альянс «Пять глаз» (Five Eyes) выступил с необычным совместным заявлением, предупредив, что «ожидается, что передовые модели ИИ превзойдут текущие отраслевые ожидания, фундаментально изменив как наступательные, так и оборонительные кибервозможности. Сроки исчисляются не годами, а месяцами... В этой среде киберустойчивость является неотъемлемой частью».