Почему Пентагон исключил Claude: суд оценил ограничения модели

59 комментарии
Anthropic отказалась разрешить применение Claude для массовой слежки внутри США и полностью автономного летального оружия. Апелляционный суд поддержал решение Пентагона исключить модель из закупок по статье 4713. При этом ранее калифорнийский суд признал незаконными отдельные меры властей, рассмотренные по другому закону

Апелляционный суд США по округу Колумбия отклонил жалобы Anthropic на решение Пентагона исключить Claude из своих закупок. Большинство судей сочло, что ограничения, заложенные разработчиком в ИИ-модель, могут представлять риск для военных систем, даже если Anthropic не намеревалась причинить вред. Решение касается использования Claude ведомством и его подрядчиками при выполнении контрактов для Пентагона. При этом ранее другой федеральный суд признал незаконными отдельные меры властей против компании.

Почему Пентагон отказался от Claude

Поводом для спора стал отказ Anthropic разрешить использование Claude для массовой слежки внутри США и полностью автономного применения летального оружия. Пентагон потребовал включить в договор разрешение на все законные способы применения модели. После отказа компании министр обороны Пит Хегсет 3 марта оформил решение об исключении Claude из закупок ведомства. О конфликте и постановлении апелляционного суда сообщило Ars Technica.

Судьи Грегори Катсас и Неоми Рао приняли довод ведомства: ограничения могут помешать Claude выполнять задачи, которые военные считают разрешёнными договором. Согласно постановлению, модель уже отказывалась выполнять отдельные запросы государственных пользователей. Большинство судей также указало, что Anthropic может задавать ограничения при поставке новых версий модели. Подробнее о том, как Anthropic задаёт правила поведения Claude, COMSS.ru рассказывал ранее.

Ограничения Claude – Anthropic не может удалённо изменить или отключить версию модели, уже развёрнутую в закрытых системах Пентагона. В данном споре суд оценивал в том числе ограничения, которые компания может встроить в следующие поставляемые версии.

Распоряжение Пентагона предусматривает удаление продуктов Anthropic из систем ведомства и запрещает подрядчикам использовать их при выполнении работ для него. Использование Claude этими же компаниями в других проектах под действие рассмотренного судом решения не подпадает.

Почему два суда пришли к разным выводам

В августе федеральный суд Северного округа Калифорнии признал незаконными другие меры администрации против Anthropic. Судья Рита Лин сочла решение по статье 3252 раздела 10 Свода законов США необоснованным и установила, что власти ответили на публичную позицию компании незаконными ограничениями.

Апелляционный суд рассматривал решение Пентагона по статье 4713 раздела 41. По мнению большинства судей, её определение риска для цепочки поставок шире и не требует доказать злой умысел поставщика. Судьи прямо отметили, что не оспаривают вывод калифорнийского суда об отсутствии такого умысла у Anthropic.

Два правовых основания – в калифорнийском деле суд оценивал полномочия ведомства по статье 3252 раздела 10, а апелляционный суд проверял действия по статье 4713 раздела 41. Различие в определении риска для цепочки поставок стало одной из причин разных выводов.

Судья Карен Хендерсон не согласилась с большинством. По её мнению, закон о безопасности закупок направлен на действия, умышленно препятствующие работе поставленной государству технологии. Она сочла, что открыто заявленные условия использования продукта не следует относить к таким действиям.

Что решение означает для пользователей Claude

Постановление не вводит общего запрета Claude и не меняет доступ к потребительским или коммерческим версиям сервиса вне работ для Пентагона. В частности, речь не идёт об отзыве недавно выпущенной Claude Opus 5.5. Anthropic заявила, что не согласна с решением апелляционного суда и рассматривает дальнейшие способы его пересмотра.

Автор:
Комментарии и отзывы

Нашли ошибку?

Новое на сайте