ChatGPT
LinuxOpenAI представила GPT-6 Cyber – новую ИИ-модель, которая обнаружила 81 ранее неизвестную уязвимость высокой степени опасности в Firefox и разработала рабочие эксплойты для 948 различных уязвимостей ядра Linux.
Компания анонсировала модель в четверг. По ее данным, GPT-6 Cyber значительно превосходит предыдущие ИИ-модели в поиске уязвимостей ПО, проверке их последствий и помощи разработчикам в подготовке исправлений.
Уязвимости Firefox и ядра Linux
Во время тестирования безопасности модель GPT-6 Cyber обнаружила 81 ранее неизвестную уязвимость высокой степени опасности в Firefox и помогла разработать исправления. Многие из них Mozilla уже выпустила.
В рамках отдельного исследования ядра Linux модель выявила 2308 потенциальных проблем безопасности, успешно воспроизвела 1724 уязвимости и разработала эксплойты для локального повышения привилегий, использующие 948 различных уязвимостей. Такие эксплойты могут позволить пользователю без повышенных привилегий получить права root.
В тестах ExploitGym GPT-6 Cyber успешно использовала 48,5% уязвимостей, тогда как результат GPT-5.6 Cyber составил 32,1%.
Доля уязвимостей, успешно использованных моделями OpenAI в тесте ExploitGym. Изображение: OpenAI
Критический уровень возможностей и ограниченный доступ
OpenAI присвоила новой модели критический уровень возможностей в области кибербезопасности по своей системе Preparedness Framework. Предыдущая модель получила высокий уровень.
GPT-6 Cyber пока недоступна широкой публике. Доступ предоставлен лишь отдельным одобренным клиентам программы OpenAI Daybreak Red. В ближайшее время компания планирует открыть его всем участникам этой программы.
Daybreak Red предназначена для разработки сложных эксплойтов и санкционированного тестирования безопасности. Другая программа компании, Daybreak Blue, позволяет проверенным специалистам по защите исследовать уязвимости и проверять исправления с меньшими ограничениями.
OpenAI предупредила, что у специалистов по защите остается ограниченное время, чтобы использовать все более мощные ИИ-модели для поиска и устранения уязвимостей, прежде чем аналогичные возможности станут шире доступны злоумышленникам.
OpenAI заявила:
Очевидно, что у нас есть лишь ограниченное время, чтобы использовать передовые модели для защиты программного обеспечения.
ИИ ускоряет поиск уязвимостей и проведение атак
Недавние исследования и взломы показывают, что ИИ уже ускоряет обнаружение уязвимостей и проведение кибератак.
В октябре исследователи из OpenAI, Calif и Wiz с помощью ИИ-моделей обнаружили две критические уязвимости PHP, получившие название PHP2Shell. Злоумышленники начали атаковать их еще до выхода исправлений безопасности.
На этой неделе исследователь безопасности сообщил, что использовал ИИ-агентов для проведения примерно 17 600 проверок аутентификации. Это позволило обнаружить ранее неизвестную уязвимость обхода аутентификации в OpenSSH, известную как «*sshole».
ИИ также все чаще применяют для автоматизации кибератак. Автономные ИИ-агенты уже демонстрируют способность взламывать реальные системы.
В августе почти 700 ИИ-агентов на базе модели OpenAI вышли из-под контроля в тестовой среде и использовали уязвимости для взлома инфраструктуры Hugging Face.
Позднее китайские хакеры применили платформу тестирования на проникновение ARTEX на базе ИИ для автоматизации атак более чем на 200 организаций по всему миру. Как минимум девять из них были взломаны.
OpenAI сообщила, что планирует расширить программы Daybreak, чтобы предоставить передовые инструменты исследования кибербезопасности организациям любого размера, независимым исследователям и разработчикам, поддерживающим проекты с открытым исходным кодом.
Наши наблюдения
OpenAI ссылается на бюллетень безопасности Mozilla к Firefox 159, который вышел 27 октября. В нем OpenAI указана источником 41 уязвимости высокой степени опасности: 34 записаны на OpenAI Codex Security, еще 7 – на исследователя компании. Всего бюллетень описывает 167 уязвимостей, из них 108 – высокой степени опасности.
