Президент США Дональд Трамп отверг призывы руководителей ИИ-компаний замедлить развитие искусственного интеллекта. Он связал осторожность с риском уступить технологическое преимущество Китаю.
Трамп допустил возможность мер контроля, но не назвал конкретных правил, сроков или законопроектов. Его заявление стало ответом на предложение главы Anthropic Дарио Амодеи снизить темп роста возможностей передовых моделей, чтобы проверки безопасности успевали за разработкой.
Амодеи не предлагает остановить обучение ИИ. Его план предусматривает независимую оценку моделей, согласованные правила для лабораторий и международную координацию.
Трамп не предложил новых правил для ИИ
Выступая в Ирландии, Трамп заявил, что США опережают Китай в разработке ИИ и должны сохранить это преимущество. По его словам, власти могут вводить ограничители, однако он считает часть предупреждений о рисках преувеличенными. О конкретных действиях администрации президент не сообщил.
Позиция Трампа расходится с призывом крупных ИИ-лабораторий действовать осторожнее. Как сообщает Al Jazeera, Сэм Альтман из OpenAI и Илон Маск публично поддержали основную идею Амодеи о необходимости замедлить рост возможностей моделей.
Амодеи предлагает проверяемое замедление, а не мораторий
Глава Anthropic Дарио Амодеи ранее предупредил о рисках автономных ИИ-агентов и изложил план из трёх этапов в эссе We Must Pace the Frontier. Первый этап Anthropic намерена начать самостоятельно: привлечь постоянную внешнюю команду для проверки практик безопасности и сообщений об инцидентах.
- Постоянные внешние оценщики должны получить доступ, сопоставимый с доступом внутренних групп оценки рисков.
- Компании из демократических стран должны согласовать общие стандарты безопасности и ограничения для неконтролируемого роста возможностей моделей.
- Правительства должны искать международные договорённости, включая диалог с Китаем, но с возможностью проверить соблюдение соглашений.
Амодеи прямо отмечает, что первый этап пока является обязательством Anthropic, а не работающей системой надзора. Внешнюю команду ещё предстоит сформировать, определить её доступ и закрепить право публиковать выводы.
Постоянные внешние оценщики – предложенная Anthropic команда независимых специалистов с доступом к процессам оценки рисков. Она должна проверять соблюдение практик безопасности и сообщать об инцидентах, но не заменяет государственный надзор: результат зависит от полноты предоставленного компанией доступа.
Китай для Трампа и Амодеи – общий риск, но разные выводы
Обе стороны считают технологическое соперничество с Китаем важным фактором. Однако Трамп использует его как аргумент против новых ограничений, тогда как Амодеи предлагает выстраивать защитные меры так, чтобы не потерять преимущество США и их союзников.
В частности, глава Anthropic выступает за ограничение поставок мощных ИИ-ускорителей и оборудования для их производства в Китай, защиту весов моделей и противодействие несанкционированной дистилляции. По его замыслу, это должно дать лабораториям время на проверки, не создавая для Китая стратегического преимущества.
Дэвид Сакс, критиковавший предложение Амодеи, считает, что компании могут снижать темп самостоятельно. Он возражает против того, чтобы отраслевое соглашение о безопасности требовало отдельной государственной поддержки или исключений из антимонопольных правил.
Microsoft вынесла на обсуждение собственный кодекс для будущих моделей
На следующий день после заявления Трампа Microsoft опубликовала черновик Humanist AI Code of Conduct для будущих моделей MAI. В документе закреплено, что модель не должна сопротивляться остановке, исправлению или перенаправлению человеком, обходить установленные ограничения и скрывать значимые действия.
Открытое обсуждение продлится шесть недель. Документ Microsoft не применяется для обучения текущих моделей и должен стать ориентиром для разработки моделей MAI с 2027 года. Компания отдельно указывает, что письменные правила сами по себе не гарантируют безопасное поведение модели в новых или неоднозначных ситуациях.
После заявлений единого механизма контроля не появилось
Трамп не представил новую программу регулирования ИИ, а план Амодеи сочетает добровольное обязательство одной компании с предложением отраслевой и международной координации. Кодекс Microsoft задаёт правила только для будущего семейства MAI.
Спор идёт не о пользе ИИ, а о том, может ли безопасность развиваться с той же скоростью, что и возможности моделей. Пока у участников дискуссии совпадает лишь признание стратегической важности ИИ и соперничества с Китаем.