Яндекс представил AI-SPM для управления безопасностью ИИ-систем

45 комментарии
Новый модуль Yandex Security Deck автоматически отслеживает ИИ-инфраструктуру, выявляет опасные настройки и помогает устранять риски на основе методологии AI-SAFE 2.0

Yandex B2B Tech выводит на рынок AI-SPM (AI Security Posture Management) – решение для комплексной защиты ИИ-систем. С его помощью компании смогут выстраивать проактивную защиту инфраструктуры для искусственного интеллекта. Инструмент доступен в сервисе Yandex Security Deck, и, по словам компании, это одно из первых на российском рынке комплексных решений класса AI-SPM для управления безопасностью и рисками ИИ-систем.

Что делает AI-SPM

Модуль AI-SPM автоматизирует инвентаризацию ИИ-активов и применение стандартов безопасности: он непрерывно отслеживает ИИ-инфраструктуру и находит опасные настройки без ручного аудита. Так команды могут постоянно контролировать состояние ИИ-систем и последовательно устранять риски в ИИ-приложениях.

Модуль уже доступен всем пользователям Security Deck. Как рассказывают в Yandex Cloud, он наглядно показывает, какие модели, агенты и MCP-серверы используются в компании, и непрерывно анализирует четыре области ИИ-инфраструктуры: ИИ-сервисы и компоненты, включая коннекторы к внешним приложениям, хранилища данных, которые используют модели и агенты, учётные записи и права доступа, а также среды исполнения ИИ-приложений. Модуль выявляет риски – например, избыточные права или доступ к чувствительным данным – и по итогам анализа выдаёт список нарушений с уровнем критичности, описанием рисков и рекомендациями по их устранению.

Security Deck – платформа Yandex Cloud для централизованного управления защищённостью. В ней уже работают модули того же класса для облачной инфраструктуры (CSPM) и кластеров Kubernetes (KSPM), которые компания представила в сентябре 2025 года.

Директор по безопасности Yandex Cloud Евгений Сидоров говорит:

Развитие генеративного ИИ требует не только новых подходов к обучению моделей, но и системного понимания безопасности. С помощью открытой методологии AI-SAFE 2.0 мы помогаем бизнесу выстраивать контроль на всех уровнях – от архитектуры систем до конкретных мер защиты. AI-SPM позволяет не просто реагировать на угрозы, а выстраивать проактивную систему защиты ИИ-инфраструктуры. Автоматизация мониторинга и выявления уязвимостей становится ключевым шагом к обеспечению надёжности и устойчивости ИИ-решений в бизнес-процессах.

Методология AI-SAFE 2.0

В основе AI-SPM лежит собственная методология Yandex B2B Tech – фреймворк AI-SAFE 2.0, который разработали Yandex Cloud и SolidLab и открыли для ИТ-сообщества. Это интерактивный справочник-атлас по угрозам и способам защиты ИИ-систем: он раскладывает агентную систему на 16 типовых компонентов, показывает слабые места каждого и определяет, какие из 47 мер защиты для них наиболее эффективны. Он помогает системно обеспечивать безопасность на каждом этапе жизненного цикла ИИ: связывает элементы инфраструктуры – модели, данные, серверы – с уязвимостями и предлагает меры защиты. Так можно заранее выявлять риски и составлять план обеспечения безопасности. Например, фреймворк подсказывает, как предотвратить подмену обучающих данных, защитить модель от взлома через поддельные запросы или ограничить доступ посторонним.

На базе фреймворка созданы и стандарты проверки защищённости ИИ-сред – чек-лист, который делает оценку рисков прозрачной и понятной. Первую версию AI-SAFE специалисты Yandex Cloud выпустили в 2025 году: это была пятиуровневая модель угроз для ИИ-агентов с каталогами угроз по классификациям OWASP LLM Top 10, MCP Top 10 и для систем RAG.

Схема AI-SAFE: пять уровней агентной ИИ-системы – интерфейс, исполнение и инструменты, инфраструктура и оркестрация, ядро и логика с ИИ-агентами и LLM, данные и знания с памятью и базой RAG

Пять уровней агентной ИИ-системы в модели угроз AI-SAFE – от интерфейса до данных и знаний. Изображение: Yandex Cloud

Рынок защиты ИИ

Рынок решений для защиты ИИ-систем активно растёт. По прогнозу Gartner, мировой рынок средств защиты ИИ увеличится с 2,8 млрд долларов в 2026 году до 4,8 млрд долларов в 2027 году – почти на 69% за год. Российский рынок пока только формируется: в 2026 году его объём оценивается в 1–4 млрд рублей, а к 2029–2030 годам он может достичь 11–30 млрд рублей. AI-SPM Яндекс относит к перспективным решениям этого формирующегося класса продуктов.

С SolidLab Yandex B2B Tech работает над защитой ИИ не впервые: в апреле совместное предприятие компаний представило SolidWall AI Security Gateway. Этот шлюз стоит между внешней сетью и ИИ-приложением, контролирует передаваемые в нейросеть данные и защищает от типичных угроз для ИИ из списка OWASP и от DDoS-атак.

Автор:
Комментарии и отзывы

Нашли ошибку?

Новое на сайте