Microsoft: ИИ-функция Recall в Windows 11 не будет делать скриншоты всей вашей активности по умолчанию

Компания Microsoft сообщает, что новая функция Recall в Windows 11 по умолчанию не будет делать скриншоты всей пользователей активности. Редмонд впервые представил функцию Recall в качестве эксклюзивной функции ПК Copilot+ в мае. С тех пор защитники конфиденциальности и эксперты по безопасности предупреждали, что Recall в текущей реализации может стать «катастрофой» для кибербезопасности.

Функция Recall будет отключена по умолчанию

Microsoft прислушалась к жалобам и вносит ряд изменений перед запуском ПК Copilot+, который состоится 18 июня. Изначально Microsoft планировала включить Recall по умолчанию, но теперь компания сообщает, что предложит возможность отключить эту спорную ИИ-функцию во время процесса настройки новых ПК Copilot+.

Руководитель Windows Паван Давулури (Pavan Davuluri) заявил:

Если вы не выберете ее [Recall] включение, функция будет отключена по умолчанию.

Для Recall нужна аутентификация

Для использования Recall также нужно будет активировать службу Windows Hello. Пользователям придется аутентифицироваться с помощью лица, отпечатка пальца или PIN-кода. Давулури отметил, что «для просмотра вашей временной шкалы и поиска в Recall также требуется подтверждение присутствия». Таким образом, постороннее лицо не сможет выполнять поиск по вашей временной шкале без аутентификации.

Давлури пояснил, что аутентификация также будет применяться к защите данных, собираемых Recall:

Мы добавляем дополнительные уровни защиты данных, включая «just in time» (JIT) дешифрование, защищенное системой Enhanced Sign-in Security (ESS) Windows Hello, чтобы снимки Recall расшифровывались и были доступны только при аутентификации пользователя. Кроме того, мы зашифровали базу данных поискового индекса.

Локальные модели вместо облачных серверов

Recall будет использовать локальные ИИ-модели для создания скриншотов почти всего, что вы видите или делаете на своем компьютере, а затем предоставит возможность искать и находить все активности за секунды. Временная шкала позволяет легко прокручивать эти снимки, чтобы вспомнить, что вы делали в определенный день на вашем ПК. Все данные в Recall остаются локальными и приватными на устройстве и не используются для обучения ИИ-моделей Microsoft.

Проблемы первоначальной реализации Recall

Изменения Microsoft в способе хранения и доступа к базе данных появились после того, как эксперт по кибербезопасности Кевин Бомонт (Kevin Beaumont ) обнаружил, что данная ИИ-функция в настоящее время сохраняет данные в базе данных в открытом виде. Это могло упростить создание инструментов для извлечения базы данных и ее содержимого авторами вредоносного ПО. За последние несколько дней появились несколько инструментов, обещающих извлекать данные Recall.

Например, инструмент TotalRecall извлекает базу данных Recall, чтобы вы могли легко просмотреть, какие тексты и скриншоты были созданы функцией Microsoft. Еще один инструмент NetExec, по всей видимости, скоро получит собственный модуль Recall, который сможет получить доступ к папкам Recall и выгружать их содержимое, чтобы вы могли легко просматривать скриншоты. Эти инструменты стали возможными, потому что в настоящее время полное шифрование и защита базы данных Recall не предусмотрена.

Главный приоритет — безопасность

Microsoft разработала функцию Recall в рамках своей новой «Инициативы безопасного будущего» (Secure Future Initiative, SFI), которую компания внедрила для пересмотра своей программной безопасности после крупных атак на облако Azure. В последние годы у Microsoft было много инцидентов в области кибербезопасности, и SFI призвана сосредоточиться в первую очередь на безопасности.

Генеральный директор Microsoft Сатья Наделла (Satya Nadella ) недавно призвал сотрудников сделать безопасность главным приоритетом компании:

Если вы сталкиваетесь с выбором между безопасностью и другим приоритетом, ваш ответ ясен: выбирайте безопасность.

В некоторых случаях это будет означать приоритет безопасности над другими нашими задачами, такими как выпуск новых функций или предоставление постоянной поддержки для устаревших систем.

Давулури ссылается на принципы инициативы SFI Microsoft, отмечая, что компания предпринимает действия для улучшения безопасности Recall. Но кажется, что изменения произошли благодаря исследователям безопасности, которые указывали на эти проблемы, а не принципам безопасности Microsoft, поскольку эти проблемы должны были быть выявлены собственными силами задолго до анонса.

Microsoft также подчеркивает, что функция Recall будет доступна только на новых ПК Copilot+, которые разработаны как ПК с безопасным ядром с передовыми средствами защиты прошивки и процессором безопасности Pluton, предназначенным для защиты от кражи личных данных с ПК.

Давулури также заявил:

Как всегда, мы будем продолжать учиться у наших клиентов, включая потребителей, разработчиков и предприятия, чтобы развивать наш опыт в значимых для них направлениях.

Мы продолжим создавать новые возможности и опыт для наших клиентов, приоритезируя конфиденциальность, безопасность и защиту в первую очередь. Мы остаемся благодарны активному сообществу клиентов, которые продолжают делиться с нами своими отзывами.