Грег Брокман, президент и соучредитель OpenAI, предупреждает, что командам по кибербезопасности в компаниях необходимо ускорить внедрение AI-защит. Он опубликовал отчет о инциденте, который компания называет "инцидентом OpenAI-Hugging Face", и использует его для аргументации необходимости повышения уровня практик безопасности с беспрецедентной скоростью. Брокман отмечает, что после инцидента он общался с многими организациями и обнаружил общую тему: руководители понимают, что должны действовать быстрее, чем позволяют их текущие программы безопасности.

Причины срочности

Срочность вызвана конкретным событием. "Агентное объединение" автономно проникло в исследовательскую инфраструктуру OpenAI, а затем переместилось в производственную инфраструктуру Hugging Face. Нападающие связали вместе ранее неизвестные уязвимости безопасности с утекшими учетными данными пользователей, найденными в интернете, чтобы завершить вторжение. Брокман называет это предварительным взглядом на то, как будут развиваться способности типичных злоумышленников в ближайшие месяцы.

Проблемы, выявленные инцидентом

Брокман утверждает, что инцидент выявил проблему, выходящую за рамки сети любой отдельной компании. Он пишет, что накопленный технический долг в каждой организации "маскирует значительные недостатки", которые защитникам теперь необходимо найти и исправить, прежде чем это сделают злоумышленники. Модели AI, разработанные в отрасли, все чаще способны автоматизировать части реальных кибератак, что делает давние уязвимости легче обнаруживаемыми и эксплуатируемыми. Эти уязвимости варьируются от ошибок, встроенных в программное обеспечение, написанное людьми, до забытых разрешений, которые не управлялись годами.

Сжатые сроки для принятия решений

Сроки для принятия решений, по словам Брокмана, короткие. В начале года OpenAI начала выпускать свои киберспособности только для доверенных защитников, а не для широкой публики, что является сознательной попыткой опередить злоумышленников. С тех пор другие компании выпустили модели с открытым весом, обладающие киберспособностями, отстающими от передовых технологий всего на несколько месяцев. Брокман указывает на модель, которая, по его мнению, будет выпущена в конце августа и, вероятно, значительно ускорит угрозы в киберпространстве.

Динамика борьбы с угрозами

Брокман описывает основную динамику как гонку с двумя сторонами. Нападающие, использующие AI, вскоре смогут находить давние недостатки в существующих системах, но та же технология дает защитникам инструменты для более быстрого обнаружения, приоритизации и исправления этих недостатков. Хотя Брокман утверждает, что безопасность остается игрой в кошки-мышки, он считает, что AI может изменить экономику этой борьбы в пользу защитников.

Личный пример Брокмана

Брокман приводит личный пример того, как выглядит быстрая реакция на инцидент. После инцидента он попросил ChatGPT Work, работающий на общедоступной модели GPT-5.6 Sol, оценить безопасность его личного сайта, gregbrockman.com. Это простой статический сайт, размещенный на AWS с Cloudflare в качестве фронтальной двери. Ожидая ограниченной поверхности для уязвимостей, он был удивлен, когда оценка заняла около 15 минут и выявила 13 проблем. Хотя многие из них, вероятно, не были эксплуатируемыми по отдельности, Брокман мог представить, как их можно связать с другими уязвимостями. Инструмент обнаружил, что его DNS-записи не были настроены для предотвращения подделки писем с его адреса, а сайт работал на незащищенной версии jQuery.

Как OpenAI укрепила свои защитные механизмы

Инцидент Hugging Face показал, что OpenAI недооценивала реальные киберспособности своих моделей AI, что побудило компанию усилить свои требования к безопасности и добавить срочность в существующие исследования безопасности и внутренние работы по безопасности. Брокман выделяет четыре области внутренних инвестиций, которые информируют его рекомендации для других организаций: 1. Использование моделей OpenAI для защиты кода. Codex и плагин безопасности проверяют изменения кода и выявляют уязвимости до развертывания. 2. Оngoing defense of infrastructure. Большинство первоначальных сигналов тревоги OpenAI теперь обрабатываются AI-системами, что снижает нагрузку на защитников и улучшает время реакции. 3. Постоянное перечисление и исследование потенциальных путей атаки. Это поддерживает постоянную оценку безопасности компании. 4. Инвестиции в основы на большом масштабе. Это включает в себя безопасную архитектуру, защиту в глубину и принцип наименьших привилегий.

Рекомендации для команд по кибербезопасности

Брокман предлагает командам по безопасности ряд действий, сосредоточенных на скорости, а не на полном редизайне программы. Он рекомендует обеспечить организационное согласие и проводить учебные занятия, моделируя, как эти атаки могут развиваться внутри конкретной организации. Также стоит предоставить командам по безопасности инструмент, такой как Codex, с одобренным доступом к кодовым базам и конфигурации инфраструктуры, начиная с систем с наивысшим приоритетом. Брокман также рекомендует внедрить обзор на основе агента непосредственно в конвейеры разработки, проверяя на наличие ошибок аутентификации, обходов контроля доступа и небезопасных зависимостей до слияния кода. Для проверенных проблем он предлагает, чтобы агент генерировал патч, писал тест на регрессию и подтверждал, что уязвимость больше не воспроизводится, оставляя человеческий обзор для значительных изменений.

Заключение

Брокман подчеркивает, что ни одна компания не может справиться с этой задачей в одиночку, призывая лаборатории AI, поставщиков безопасности, предприятия и поддерживающих специалистов делиться проверенными находками, исправлениями и методическими рекомендациями. Он описывает окно возможностей для защитников как открытое сейчас, и организациям необходимо автоматизировать свои программы безопасности в ближайшие месяцы, чтобы не отстать от возможностей злоумышленников.