Microsoft предупреждает: «Экспериментальные функции агента» в Windows 11 несут риски утечки данных и скрытых действий ИИ

Компания выпустила подробное предупреждение о рисках, связанных с экспериментальными компонентами будущей «агентной ОС». Эти функции появятся в Windows 11 в ближайших предварительных сборках, но будут по умолчанию отключены. Включить их сможет только администратор устройства — и только осознав последствия.

Что такое агентные функции Windows и почему они опасны

В течение последних месяцев Microsoft продвигала идею трансформации Windows 11 в «agentic OS» — систему, где ИИ-агенты получают возможность самостоятельно запускать приложения, анализировать данные, выполнять задачи и взаимодействовать с окружением. Это вызвало неоднозначную реакцию среди пользователей, но компания продолжает реализацию концепции.

Согласно документации, при включении опции «Экспериментальные функции агента» Windows создаёт локальные учётные записи для разных ИИ-агентов. Им открывается ограниченный доступ к данным пользователя — к папкам Документы, Загрузки, Рабочий стол, Видео, Изображения и Музыка.

«Эта настройка может быть включена только пользователем-администратором. После включения она действует для всех пользователей устройства».

Параметр «Экспериментальные функции агента» находится в разделе Настройки > Система > Компоненты ИИ в Windows 11 Preview Build 26220.7272

Агенты работают в отдельных защищённых рабочих средах, но имеют доступ к приложениям и файлам владельца компьютера. Именно это открывает потенциальные векторы атак.

Главная угроза: cross-prompt injection (XPIA)

Microsoft подчёркивает, что агентные функции несут новые типы рисков, ранее не характерных для операционных систем. Наиболее серьёзный из них — cross-prompt injection.

«Злоумышленники могут внедрять вредоносный контент в UI-элементы или документы, заставляя агента нарушать свои инструкции, что может привести к утечке данных или установке вредоносного ПО».

В отличие от классических уязвимостей, XPIA эксплуатирует слабости логики ИИ: агент считывает подменённые подсказки или элементы интерфейса и принимает их за команды пользователя.

Защитные меры: аудит, прозрачность и обязательное подтверждение действий

Microsoft заявляет, что придерживается принципа обязательной наблюдаемости ИИ и необходимости контроля человеком. Агент не сможет выполнять опасные задачи без подтверждения, а система будет вести защищённый журнал действий:

«Агенты должны уметь генерировать логи своей активности. Windows должна проверять эти действия с помощью защищённого аудита».

Компания утверждает, что эти принципы лягут в основу всей архитектуры агентных возможностей Windows.

Когда появятся агентные функции и что поддерживается сейчас

Первые сборки Windows 11 с поддержкой агентного режима уже распространяются среди участников программы Windows Insider. На данный момент ни одно приложение пока не использует новую платформу.

Microsoft подтверждает, что Copilot вскоре станет первым ИИ-агентом, который получит доступ к агентным рабочим пространствам Windows. Другие приложения присоединятся позднее.

Вы можете получить доступ к ИИ-агентам через новую функцию Ask Copilot на панели задач Windows 11. Изображение: Microsoft.

Эра «агентной Windows» официально началась — нравится это пользователям или нет.