Новая модель искусственного интеллекта Mythos меняет ландшафт кибербезопасности

Разработка передовых нейросетей ставит перед бизнесом новые вызовы. Недавний выпуск модели Claude Mythos от компании Anthropic, созданной в рамках закрытого проекта Project Glasswing, спровоцировал дискуссию о безопасности цифровых инфраструктур. По имеющимся данным, эта модель обнаружила тысячи критических уязвимостей в основных операционных системах и браузерах, что подчеркивает как оборонительный, так и наступательный потенциал современных алгоритмов.

Риски эпохи машинного обучения

Исследователи отмечают, что с появлением Frontier AI — передовых моделей, еще не вышедших в широкий доступ, — экономика кибератак меняется. Если раньше злоумышленникам требовались значительные усилия для поиска слабых мест, то ИИ способен анализировать огромные массивы кода на машинных скоростях. Это значительно сокращает время между обнаружением бреши и ее эксплуатацией, а также снижает порог вхождения для потенциальных хакеров.

На весенних встречах Международного валютного фонда и Всемирного банка эксперты официально признали угрозы со стороны ИИ фактором финансовой нестабильности. Директор-распорядитель МВФ Кристалина Георгиева отметила отсутствие у мирового сообщества необходимых инструментов для защиты финансовой системы от рисков такого масштаба.

Уроки квантовой защиты

Аналитики указывают на то, что финансовый сектор уже сталкивался с подобными вызовами, когда готовился к появлению квантовых компьютеров. В тот период крупные регуляторы, включая Банк международных расчетов, запустили инициативу Project Leap. Целью проекта была разработка систем шифрования, устойчивых к квантовым вычислениям. Этот опыт демонстрирует три важных принципа подготовки к новым угрозам:

• Необходимость координации между банками, операторами платежных систем и регулирующими органами.
• Создание гибридных схем защиты и открытый обмен результатами тестирований.
• Приоритет проактивной работы над «незаметными» технологическими рисками задолго до того, как они станут критическими.

Практические шаги для бизнеса

Специалисты по информационной безопасности рекомендуют пересмотреть подходы к управлению рисками в условиях, когда регуляторы не успевают за развитием технологий. Основные изменения в стратегии защиты включают:

• Переход к непрерывному процессу управления уязвимостями с использованием ИИ, так как ручные проверки не справляются со скоростью машинного обнаружения ошибок.
• Расширение оценки рисков третьих сторон: внимание должно уделяться не только поставщикам ПО, но и безопасности провайдеров моделей искусственного интеллекта.
• Обновление сценариев тестирования систем (ред-тиминг), которые теперь должны учитывать возможность столкновения с противником, использующим продвинутый ИИ.

Смотрите также:

Минюст США поддержал ИИ-стартап Илона Маска в судебном споре об экологии http://euroelectrica.ru/minyust-ssha-podderzhal-ii-startap-ilona-maska-v-sudebnom-spore-ob-ekologii/.

Интересное по теме: Малайзийский стартап Respond.io привлек 62,5 млн долларов для развития ИИ-платформы

Советы в статье "Подсказки и ответы к игре NYT Strands за 16 июня (игра №835)" здесь.

Наряду с рисками, использование таких моделей, как Mythos, предоставляет уникальную возможность для защиты. Участники проекта Glasswing уже применяют систему для автоматизированного поиска и исправления старых ошибок в коде. Масштабирование этой практики может вернуть баланс сил в сторону защиты инфраструктуры, что ранее было недоступно при использовании традиционных инструментов.

* — деятельность компании Meta*, Facebook*, Instagram* запрещена на территории РФ