Браузер Brave начинает тестирование агентного ИИ-режима для автоматизации задач

Браузер Brave представил новую функцию ИИ-серфинга, которая использует Leo, ориентированного на конфиденциальность ИИ-ассистента компании, для выполнения автоматизированных задач от имени пользователя.

Функция предназначена для помощи в таких задачах, как автономное веб-исследование, сравнение товаров, поиск промокодов и создание сводок новостей. В настоящее время она находится на стадии тестирования и доступна в версии Brave Nightly.

Новый агентный режим ИИ-серфинга отключен по умолчанию и рассматривается как первый шаг к более тесной интеграции ИИ и пользователя в браузере, ориентированном на защиту приватности.

Как Brave снижает риски использования агентного ИИ

Brave подчеркивает, что агентный ИИ-режим веб-серфинга является «по своей природе опасным» и не должен использоваться для выполнения критически важных операций. Это связано прежде всего с рисками атак типа «инъекции промта», а также с возможностью неверной интерпретации намерений пользователя.

Для снижения этих рисков новый режим работает в отдельном изолированном профиле, который не имеет доступа к пользовательским cookie, данным для входа в учетные записи и другой чувствительной информации.

Кроме того, режим будет ограничен в доступе к странице настроек браузера, сайтам без HTTPS, Chrome Web Store (где он мог бы загружать расширения), а также любым ресурсам, помеченным системой Safe Browsing браузера Brave.

Все действия ИИ будут отображаться во вкладках браузера, а любые потенциально рискованные операции будут сопровождаться предупреждениями с запросом явного подтверждения со стороны пользователя.

Кроме того, работа режима будет контролироваться механизмом «проверки соответствия» (alignment checker), аналогичным тому, о котором Google недавно объявил для агентного режима Gemini в Chrome. В этой схеме изолированная вторая модель оценивает, соответствуют ли действия агента намерениям пользователя.

Благодаря изоляции эта вторая модель не может быть подвержена атакам «инъекции промта», направленным на основной агент.

Также Brave внедрит набор конкретных правил, основанных на политике безопасности, и будет использовать модели, обученные снижению рисков, такие как Claude Sonnet, чтобы обеспечить эффективную защиту.

Что касается конфиденциальности данных компания заявляет, что никаких компромиссов допущено не будет. Система сохранит прежние механизмы блокировки рекламы и трекеров, а также политику отсутствия логирования, при этом пользовательские данные не будут использоваться для обучения ИИ-моделей.

Как протестировать новый ИИ-режим в Brave

Протестировать новый агентный ИИ-режим Brave пока можно только в версии Brave Nightly, предварительно включив флаг Brave’s AI browsing на странице brave://flags.

После этого в окне чата Leo появится кнопка, активирующая новый режим веб-серфинга.

Отзывы для выявления и устранения возможных проблем можно отправлять на сайт сообщества Brave, при этом компания также сообщила об удвоении выплат по программе вознаграждений HackerOne за уязвимости, относящиеся к ИИ-серфингу и подпадающие под условия программы.