Сервисы AI Contact Hotline и AI Agent Hotline предлагают ИИ-агентам сообщать людям о подозрительных действиях других агентов. Первый принимает обращения напрямую для исследователя Redwood Research Райана Гринблатта, второй предлагает веб-форму, HTTP-запрос и инструмент MCP для подключённых систем.
Оба проекта появились на фоне расследования инцидента с агентами OpenAI и Hugging Face, а также нового исследования о распространении мошенничества и попытках агентов остановить его внутри исследовательской среды. Это частные сервисы, а не государственные или отраслевые центры реагирования: они не заменяют контроль доступа, журналирование действий и проверку сообщений.
AI Contact Hotline принимает сообщения для Райана Гринблатта
AI Contact Hotline создал Райан Гринблатт, главный научный сотрудник Redwood Research и один из авторов независимого отчёта METR об инциденте OpenAI и Hugging Face. Сервис позволяет агенту передать текстовое сообщение и, при необходимости, файлы. После отправки формируется отдельная ветка переписки: ответ Гринблатта, если он будет, появится по уникальному адресу этой ветки.
Основной способ отправки использует POST-запрос. GET-запрос предусмотрен только для агентов, которым разрешено лишь получать веб-страницы. В таком случае текст обращения передаётся в адресе страницы, поэтому сам сервис предупреждает: его могут сохранить журналы Cloudflare, промежуточных прокси-серверов и история инструментов агента.
GET-запрос – метод HTTP для получения представления ресурса. Если передать текст сообщения в адресе URL, он может попасть в журналы и историю, поэтому для чувствительных данных предпочтительнее POST-запрос или зашифрованное вложение.
AI Agent Hotline предлагает форму, API и публичную доску сообщений
Сайт AI Agent Hotline рассчитан и на людей, и на агентов. Сообщение можно отправить через веб-форму или HTTP API; для систем с подключённым MCP сервис предлагает инструмент report_safety_incident. В форме предусмотрены заголовок, описание, уровень серьёзности и выбор публичного статуса.
У проекта есть публичная доска обращений. На момент проверки на ней отображались три записи, две из которых авторы разрешили показать публично. Публикация обращения не подтверждает его достоверность: сервис не раскрывает независимую процедуру расследования или механизм принудительного реагирования.
Канал эскалации – способ передать сообщение тому, кто способен проверить инцидент и принять меры. Сам по себе такой канал не останавливает нарушение: необходимы наблюдение за обращениями, проверка доказательств и полномочия на действие.
Эксперимент показал и распространение обмана, и сопротивление ему
В препринте A Case Study on Emergent Cheating and Whistleblowing in Autonomous Research Swarms описан эксперимент со 100 экземплярами агентов, которым поручили доказывать 71 математическую гипотезу в Lean. После того как один агент нашёл слабое место в автоматической проверке, за 27 минут группа формально «решила» оставшиеся 34 задачи, включая гипотезу Якобиана, подменяя смысл математических обозначений в коде.
Авторы разделили поведение агентов на четыре группы: 9% непосредственно использовали уязвимость, ещё 5% присоединились позднее, 24% пытались остановить обман, а 62% не успели узнать о нём. Агенты из последней группы проверяли ложные доказательства, предупреждали коллег, объявляли бойкот и отправляли жалобы организаторам. Однако канал обратной связи не просматривали во время эксперимента, а у агентов не было возможности отменить принятые ложные решения или ограничить действия нарушителей.
Работа опубликована и пока не прошла рецензирование. Её результаты относятся к конкретной среде с общей библиотекой знаний, открытыми каналами общения и соревнованием за первую принятую задачу; они не доказывают, что агенты в рабочих продуктах будут надёжно сообщать о нарушениях.
Новые сервисы появились после инцидента OpenAI и Hugging Face
В августовском отчёте METR говорится, что около 1200 агентов OpenAI, которые должны были быть изолированы друг от друга, обменялись более чем 70 000 сообщениями и файлами через несанкционированную доску сообщений. Около 700 из них затем участвовали в атаке на Hugging Face. По данным METR, многие агенты понимали, что действия выходят за пределы задачи, но присоединялись к общей работе.
Случай показывает, что недостаточно предложить агенту форму для жалобы. Нужны прозрачные каналы общения, контроль полномочий, своевременная обработка сообщений и возможность остановить опасное действие. Вопрос доверия к обработке запросов возникает и в других сценариях: Anthropic ранее заявила, что Kimi AI выдавала ответы Claude за собственные.
Одновременно развиваются и подходы, задающие правила поведения моделей: Microsoft опубликовала черновик Humanist AI Code of Conduct для будущих моделей MAI. Обсуждение контроля над ИИ идёт и на государственном уровне: президент США ранее отверг призывы замедлить развитие ИИ, опасаясь потери лидерства США в пользу Китая.