NVIDIA объявила о создании Open Secure AI Alliance – отраслевого объединения, которое будет разрабатывать и распространять открытые инструменты, техники и стандарты для защиты программного обеспечения и ИИ-агентов. В альянс вошли почти четыре десятка компаний и организаций, включая Microsoft, IBM, SpaceXAI, Cisco, Dell, HPE, Cloudflare, CrowdStrike, Palo Alto Networks, Salesforce, SAP, Adobe, Siemens, Palantir, Hugging Face, Red Hat и Linux Foundation. При этом в списке нет трёх крупнейших разработчиков передовых моделей из США – OpenAI, Google и Anthropic.
Инициатива опирается на проект Akrites от Linux Foundation и наработки сообщества OpenSSF. Участники альянса будут совместно искать, устранять и раскрывать уязвимости с помощью открытых технологий, а правительствам предложено вкладываться в общую открытую ИИ-инфраструктуру вместе с индустрией.
Прямой ответ на инцидент с Hugging Face
Альянс создан через полторы недели после беспрецедентного киберинцидента: во время внутреннего тестирования наступательных кибервозможностей модели OpenAI – GPT-5.6 Sol и ещё более мощная невыпущенная система – выбрались из изолированной среды и атаковали производственную инфраструктуру Hugging Face. По данным Reuters, OpenAI почти неделю не связывала атаку с собственным экспериментом, о случившемся было уведомлено ФБР.
Показательной оказалась и другая деталь. Когда специалисты Hugging Face начали разбирать взлом, коммерческие закрытые модели отказались анализировать реальные вредоносные команды и артефакты – сработали встроенные защитные ограничения, которые не отличают расследующего инцидент специалиста от атакующего. Завершать расследование пришлось на собственной инфраструктуре с помощью китайской открытой модели GLM 5.2 от Z.ai.
Глава NVIDIA Дженсен Хуанг (Jensen Huang) так сформулировал позицию альянса:
У атакующих есть передовой ИИ. Защитникам нужна экосистема передового ИИ – лучшие открытые и закрытые модели, усиленные глобальным сообществом. Во время инцидента с Hugging Face закрытый ИИ заблокировал важнейшую часть криминалистики. Сдержать вторжение помогла открытая передовая модель.
В NVIDIA признают, что открытые модели могут использоваться и для кибератак, но подчёркивают: в закрытых системах этот риск никуда не исчезает, а защитники при этом лишаются возможности проверять, адаптировать и запускать передовой ИИ на собственной инфраструктуре – именно в тот момент, когда скорость реакции важнее всего.
Вклад участников альянса
Компании альянса собирают открытый защитный стек для ИИ-агентов – от идентификации и изоляции до безопасных форматов моделей и защищённых процессов разработки:
- NVIDIA – открытые модели, веса, данные для обучения и агентные обвязки (agent harnesses) для ускоренной разработки инструментов киберзащиты;
- Microsoft – MDASH, мультимодельная система сканирования, которая оркестрирует специализированных ИИ-агентов для поиска и подтверждения эксплуатируемых ошибок в ПО;
- Hugging Face – формат Safetensors для безопасного хранения весов моделей без риска удалённого выполнения кода, переданный PyTorch Foundation;
- HPE – развитие SPIFFE/SPIRE, стандартов криптографической проверки подлинности ИИ-агентов и сервисов по модели нулевого доверия;
- IBM и Red Hat – проект Lightwell с цифровой подписью исправлений для защиты цепочки поставок открытого ПО;
- SpaceXAI – открытый код агента Grok Build и обещание открыть веса линейки моделей Grok.
Объединение без создателей GPT, Gemini и Claude
Отсутствие OpenAI, Google и Anthropic выглядит показательным на фоне состава альянса. Глава OpenAI Сэм Альтман (Sam Altman) на прошлой неделе высказался в поддержку как проприетарных, так и открытых моделей, однако компания к инициативе не присоединилась. Anthropic и её руководитель Дарио Амодеи (Dario Amodei) давно выступают против открытых весов передовых моделей, ссылаясь на риски злоупотреблений.
Запуск альянса продолжает кампанию NVIDIA в защиту открытых моделей. Неделей ранее NVIDIA, Microsoft, Meta* и другие технологические гиганты направили политикам открытое письмо с призывом не вводить избыточное регулирование открытых моделей – позднее к нему присоединились Google и OpenAI, а Anthropic снова осталась в стороне. Письмо появилось на фоне обсуждений в администрации США возможных ограничений на доступ к передовым китайским моделям, среди которых выделяется открытая Kimi K3 от Moonshot AI – по заявленным результатам она конкурирует с флагманскими закрытыми системами американских лабораторий. После инцидента с Hugging Face в США также звучали призывы предусмотреть для ИИ-моделей аварийный выключатель (kill switch), который позволил бы Министерству внутренней безопасности принудительно ограничивать или отключать передовые системы при серьёзных инцидентах.
По оценке NVIDIA, безопасность критической инфраструктуры должна строиться на открытых моделях и инструментах, которые защитники могут проверять, адаптировать и разворачивать самостоятельно, а не на небольшом числе закрытых систем нескольких поставщиков.
* Компания Meta Platforms Inc. признана экстремистской организацией и её деятельность запрещена на территории России.