Vivaldi: ИИ-браузеры — слишком высокая плата за удобство

Брюс Лоусон (Bruce Lawson) из Vivaldi поделился своим мнением о новых «ИИ-браузерах». По его словам, эти продукты требуют слишком высокой платы за использование и фактически работают против самого интернета, превращая открытое пространство веба в закрытую систему, где пользователь становится источником данных, а не полноправным участником сети.

Фраза «данные — новая нефть» давно превратилась в клише: именно они должны питать следующую технологическую революцию. Как показали недавние празднования 25-летия Google Ads, данные, собираемые с пользователей, уже более двух десятилетий служат топливом для техногигантов.

В самом начале рекламa в Интернете была вполне законной и уместной: если вы читаете страницу о белках — видите рекламу про белок; если страницу о «лучшей кухне мира» — получаете объявление про Marmite или рыбу с картошкой. Продуманные и уважающие пользователя объявления работали хорошо.

Потом все стало навязчивым.

Компании вроде Facebook* поняли, что пользователи добровольно делятся о себе огромным количеством информации, и переключились на поведенческую рекламу — ту, что строится на слежке за пользователями, отслеживании их действий в интернете, создании поведенческих профилей и прогнозировании того, что они, вероятно, захотят купить.

*Meta Platforms, владеющая Facebook, признана экстремистской организацией и запрещена на территории Российской Федерации.

Вскоре мы будем вспоминать нынешнюю эпоху как время невинности.

На выходных Брюс Лоусон попробовал два новых «ИИ-браузера». Обычно он избегает критики конкурентов: как представитель Vivaldi в Browser Choice Alliance, Лоусон, напротив, активно сотрудничает с другими разработчиками браузеров, считая, что на рынке достаточно места для всех — ведь это, в конце концов, Всемирная паутина, какой она и задумывалась.

Однако к «ИИ-браузерам» у него другое отношение. Лоусон признается, что любит веб и посвятил последние двадцать лет тому, чтобы он оставался открытым для всех. По его словам, он полностью согласен с Анилом Дэшем (Anil Dash), утверждающим, что это первые браузеры, которые борются против самого интернета.

Лоусон рассказал о своем опыте:

Я ввел в браузере запрос «Taylor Swift» — и в ответ не получил ни одной ссылки на официальный сайт певицы. Если оставаться внутри того, что сгенерировал Atlas, можно вообще не догадаться, что у Тейлор Свифт есть собственный сайт.

Если вы не эксперт, почти наверняка подумаете, что это обычная поисковая выдача: вроде бы вы ввели запрос в поисковую строку и получили страницу с результатами. Но на самом деле я ввел запрос в поле для подсказки, а получил синтезированный ответ, который лишь имитирует веб-страницу.

Создавалось очевидное впечатление, что пользователь должен оставаться внутри ИИ-генерируемых результатов, фактически оказавшись в замкнутом саду, отрезанном от остального интернета.

Опасность этого «закрытого сада» в том, что пользователи будут доверять всей представленной информации, считая ее точной и достоверной — несмотря на мелкие предупреждения о том, что «ИИ может ошибаться» и что данные стоит перепроверять.

Генеральный директор OpenAI Сэм Альтман недавно сказал в подкасте:

Я ожидаю, что из-за этой технологии произойдут действительно плохие вещи.

Лоусон согласен с этим утверждением.

Согласно отчету Digital 2025 Global Overview, основной причиной выхода в интернет в начале 2025 года по-прежнему остается поиск информации — об этом заявили 62,8% взрослых пользователей. На втором месте — желание быть в курсе новостей и событий, этот мотив указали 55% опрошенных.

Однако, по данным международного исследования, проведенного BBC под координацией Европейского вещательного союза (EBU), ИИ-ассистенты искажают новости в 45% случаев — независимо от языка или региона.

Кроме того, известно, что сомнительные структуры целенаправленно манипулируют языковыми моделями, публикуя ложные заявления и пропаганду, чтобы влиять на ответы ИИ. По словам Лоусона, дезинформация давно подозревается в подрыве демократии и разжигании этнических конфликтов.

Он задается вопросом: почему «браузеры» стремятся удержать пользователя внутри собственного замкнутого пространства?

Ответ, по мнению Лоусона, очевиден — по той же причине, по которой Поиск Google все чаще показывает ИИ-сгенерированные панели знаний и обзоры, уменьшающие количество переходов на внешние сайты: чтобы пользователи дольше оставались внутри экосистемы и видели больше рекламы.

Лоусон также ставит под сомнение, можно ли вообще называть такие продукты браузерами, если их бизнес-модель основана на удержании пользователей в собственных границах и ограничении их доступа к открытому пространству Всемирной паутины.

Он отмечает, что в политике конфиденциальности браузера Perplexity Comet прямо указано, что сервис может использовать личные данные пользователей:

Компания получает информацию из потребительских маркетинговых баз данных и от партнеров, занимающихся переработкой и обогащением данных. Эти сведения используются в рамках законных интересов — чтобы точнее настраивать рекламу и маркетинговые сообщения.

И, разумеется, какой способ точнее нацелить рекламу, чем собирать данные, которые пользователь сам передает ИИ, а затем использовать их, чтобы вычислить вероятность приобретения того или иного товара.

Основатель Perplexity Аравинд Сриинивас (Aravind Srinivas) сказал:

Мы надеемся собирать все эти интересные данные через платформу браузера, где люди задают задачи в нашем браузере, и некоторые агенты там потерпят неудачу, но мы соберем все данные и постараемся выстроить из них положительные траектории.

Еще одна из причин, по которой мы решили создать браузер, заключается в том, что мы хотим получать данные вне самого приложения, чтобы лучше понимать пользователей. Ведь многие запросы к ИИ связаны исключительно с работой — они не отражают личные интересы.

А вот такие вещи, как что вы покупаете, в какие отели ездите, где находитесь, какие рестораны посещаете и какие страницы просматриваете, — это уже гораздо более личная информация. Мы планируем использовать весь этот контекст, чтобы создавать более точные пользовательские профили. А возможно, через нашу ленту Discover Feed мы сможем показывать там рекламу.

В политике браузера ChatGPT Atlas указано:

По умолчанию мы не используем просматриваемый вами контент для обучения наших моделей. Если вы хотите разрешить это, можно включить опцию «Include web browsing» в настройках управления данными. Если в вашем аккаунте ChatGPT включено обучение на чатах, то оно будет автоматически активировано и для чатов в Atlas.

Однако сервис все же использует пользовательский контент для обучения моделей:

Когда вы пользуетесь нашими сервисами для частных лиц — такими как ChatGPT, Sora или Operator, — мы можем использовать ваш контент для обучения наших моделей. Вы можете отказаться от участия в обучении.

Будьте осторожны, когда просите ИИ в «вашем» браузере проверить на ошибки конфиденциальный отчет или работу, которую вы впоследствии собираетесь опубликовать или продать.

Perplexity собирает следующие данные:

Ваши входные и выходные данные — такие как вопросы, подсказки и другой контент, который вы вводите, загружаете или отправляете в сервис, а также результаты, которые вы создаете, и любые коллекции или страницы, сформированные с помощью сервиса…

Этот контент может содержать персональную информацию, в зависимости от его содержания и связи с вашим аккаунтом…

Мы можем использовать любую из перечисленных выше данных, чтобы предоставлять и улучшать наши сервисы (включая модели ИИ).

И будьте особенно осторожны с любой личной информацией, которую вы вводите в свои ИИ-браузеры. Во всем мире главная причина использования ИИ — это «терапия и общение». Как отметил Сэм Альтман:

Люди рассказывают ChatGPT самые личные вещи из своей жизни. Особенно молодежь — они используют его как терапевта или лайф-коуча, обсуждая, например, проблемы в отношениях и спрашивая: «что мне делать?». И вот в чем разница: если вы говорите о таких вещах с психотерапевтом, юристом или врачом, действует право на конфиденциальность — врачебная, юридическая и прочая тайна. А для общения с ChatGPT таких правовых гарантий пока не существует.

На момент написания материала против OpenAI подано семь судебных исков, в которых утверждается, что ChatGPT подтолкнул людей к суициду или вредным заблуждениям, ставя вовлеченность выше безопасности.

Но опасность заключается не только в том, какую информацию пользователь добровольно сообщает чат-боту. Новые ИИ-браузеры предлагают агентов, способных выполнять действия прямо во вкладках браузера. В демонстрационных видео все выглядит безобидно: агент рассчитывает ингредиенты для ужина на восемь человек, заходит на сайт супермаркета и оформляет заказ.

При этом разработчики подобных «агентных браузеров» явно нацелены на корпоративный рынок, чтобы взимать плату с компаний за большое количество пользователей. Поэтому в промо-роликах агент показан, как он просматривает документы, создает задачи в планировщике, отправляет письма и выполняет прочие «офисные» действия.

Зато вы не увидите в роликах ИИ-компаний таких примеров, как у исследователя из Оксфордского университета Эйто Миямуры (Eito Miyamura). Он отправил жертве приглашение в календаре, содержащее скрытую джейлбрейк-подсказку, на ее электронную почту. Жертва даже не приняла приглашение, а лишь попросила Comet получить доступ к своему календарю. Скрытая команда внутри события захватила управление над Comet, и агент удалил все клиентские данные из базы Stripe.

Подобные уязвимости — проблема не только для Comet. Кажется, что дать склонной к галлюцинациям модели, обученной на непроверенных данных, полный доступ к вкладкам браузера — изначально рискованная идея. Кто бы мог подумать?

Компания LayerX Security обнаружила уязвимость в новом браузере OpenAI — Atlas, позволявшую злоумышленникам внедрять вредоносные инструкции в «память» ChatGPT и выполнять удаленный код. В отчете исследователи написали:

Эта уязвимость затрагивает пользователей ChatGPT во всех браузерах, однако особенно опасна она для тех, кто использует новый «агентный» браузер OpenAI — ChatGPT Atlas. Исследователи из LayerX Security выяснили, что Atlas практически не имеет эффективной защиты от фишинга, из-за чего пользователи этого браузера оказываются до 90% более уязвимыми для фишинговых атак, чем пользователи традиционных браузеров.

Брос все же иногда пользуется ИИ-инструментами — в основном для транскрипции подкастов и видео, а также для суммирования объемных юридических документов, которые ему приходится читать в роли директора по вопросам регуляции в Vivaldi.

По словам Лоусона, в Vivaldi пользователь полностью контролирует происходящее. Если вы хотите использовать генеративную языковую модель, достаточно добавить ее как веб-панельl — тогда она будет всегда под рукой, но изолирована от остальных вкладок. И, как подчеркивает Лоусон, именно в этом и заключается преимущество открытого веба: вы не привязаны к ИИ или поиску какого-либо одного разработчика браузера.

В своих мемуарах This Is For Everyone сэр Тим Бернерс-Ли (Tim Berners-Lee) написал:

Данные остаются топливом для ИИ. И если мы не создадим системы, в которых контроль находится в руках пользователя, нас ждут те же проблемы с приватностью и эксплуатацией, что и в эпоху социальных сетей и поисковиков. Пока это лишь начало пути, но по мере того, как компании все активнее монетизируют свои продукты, необходимость защищать наши данные становится все острее.

Современный ИИ сталкивается с множеством проблем. Одна из них заключается в том, что ложь и злонамеренные действия породили в интернете массу недостоверных материалов, и потому ошибочные данные слишком легко проникают в обучающие выборки ИИ.

Существует старая аксиома из 1950-х годов, знакомая каждому специалисту по компьютерным наукам: «Garbage in, garbage out» — «мусор на входе, мусор на выходе». Эта формула остается справедливой и сегодня: если языковая модель обучается на неточных данных, токсичных высказываниях или намеренной дезинформации, она будет воспроизводить те же искажения в своих ответах.

Если данные — это топливо для ИИ, то что является его продуктом?

Сторонники ИИ уверены, что он принесет рост производительности и, как следствие, экономический подъем — хотя никаких доказательств этого пока нет. Недавний отчет Йельского университета отмечает:

В целом, наши показатели показывают, что с момента выхода ChatGPT — то есть за 33 месяца — на рынке труда не произошло заметных изменений. Это опровергает опасения, что автоматизация на базе ИИ уже подрывает спрос на интеллектуальный труд в масштабах экономики.

По словам британского консультанта по менеджменту Стаффорда Бира (Stafford Beer), цель системы определяется ее действиями (The Purpose Of a System Is What It Does — POSIWID).

Индустрия ИИ все больше напоминает нефтяную — она тоже оставляет за собой загрязнение, только цифровое. Интернет заполняют тонны автоматически сгенерированного контента, который затем используется как обучающие данные для новых моделей.

В результате возникает замкнутый цикл самообучающегося мусора, где ИИ перерабатывает собственные ошибки и выдает их за новые знания.

Возможно, настоящая цель индустрии ИИ вовсе не в создании пользы, а в том, чтобы перекачивать инвестиции внутри самой себя, превращаясь в замкнутую финансовую систему, существующую ради собственного роста.

Экономисты Брент Голдфарб (Brent Goldfarb) и Дэвид А. Кирш (David A. Kirsch) разработали модель для оценки технологических пузырей, и Голдфарб отмечает, что у нынешнего бума вокруг ИИ есть все признаки классического инвестиционного пузыря.

Когда этот пузырь лопнет, многие инвесторы будут разбирать обломки, пытаясь продать хоть какие-то активы, чтобы вернуть часть миллиардов, влитых в индустрию.

Любая информация, переданная языковым моделям, может со временем попасть в чужие руки. После обвала рынка данные, использованные для обучения ИИ, могут быть перепроданы — например, компаниям, создающим системы наблюдения или страховым организациям, которым выгодно знать ваши генетические и личные сведения. То, что сегодня кажется безобидным — проверка письма или редактирование текста, — завтра может стать частью коммерческого продукта, к которому вы не имеете никакого отношения.

Как и многие пользователи и сотрудники Vivaldi, Брюс Лоусон называет себя техногиком — ему действительно интересно играть с новыми технологиями. Но, по его словам, цена входа в «ИИ-браузеры» слишком высока. Новизна и кажущееся удобство, когда агент заполняет таблицы или отправляет письма вместо него, не стоят того, чтобы разрешить этим компаниям видеть все, что он делает, и обучаться на его цифровой жизни.