Правительство США потребовало от Anthropic отключить две ИИ-модели из соображений нацбезопасности

Anthropic экстренно отключила две свои новейшие модели — Claude Fable 5 и Mythos 5 — после того как в пятницу, 21 мая в 17:21 по восточному времени, получила письмо от правительства США с требованием приостановить доступ к ним по соображениям национальной безопасности. Компания не стала ограничиваться буквой приказа и заблокировала обе модели для всех клиентов без исключения — хотя директива формально касалась только иностранных граждан.

Событие беспрецедентно: это первый известный случай, когда американские власти в режиме реального времени потребовали снять с публичного доступа уже выпущенную коммерческую ИИ-систему. Инцидент происходит на фоне затяжного противостояния Anthropic с администрацией Трампа, которое в последние месяцы приобрело открыто конфликтный характер.

Как развивался конфликт между Anthropic и Белым домом

Напряжение между компанией и федеральными структурами нарастало с начала года. Министерство обороны США присвоило Anthropic статус «риска для цепочки поставок» после того, как компания попыталась установить ограничения на использование своих технологий американскими военными. Этот статус фактически закрыл Anthropic доступ к государственным контрактам и заказчикам из числа подрядчиков Пентагона. В ответ компания подала судебные иски против администрации.

Во вторник, 20 мая, Anthropic публично выпустила Claude Fable 5 — версию модели Mythos с расширенными защитными фильтрами, блокирующими ответы на вопросы в области кибербезопасности, биологии и химии. По заявлению компании, релиз проходил в координации с правительством США. До этого, в апреле, ограниченный доступ к модели Mythos Preview получили отдельные организации — для тестирования её возможностей в сфере киберзащиты.

Цель раннего доступа состояла в том, чтобы дать компаниям инструмент для выявления уязвимостей в собственных системах, одновременно снизив риск того, что мощные возможности модели окажутся в руках злоумышленников. Именно эта логика теперь оказалась под сомнением.

Что именно испугало правительство — и что на это отвечает Anthropic

В своём блог-посте компания раскрыла суть претензий: по данным властей, был обнаружен метод обхода защитных фильтров модели — так называемый джейлбрейк. Однако Anthropic оспаривает серьёзность угрозы.

««Наше понимание ситуации таково: правительство считает, что ему стал известен способ обхода защиты Fable 5. Мы изучили демонстрацию этой конкретной техники — она позволила выявить небольшое число ранее известных, незначительных уязвимостей. Все они выглядят относительно простыми, и мы установили, что другие общедоступные модели способны обнаружить их без какого-либо обхода защиты», — говорится в заявлении компании.»

По версии Anthropic, речь идёт об узком и неуниверсальном джейлбрейке, суть которого сводится к тому, чтобы попросить модель прочитать конкретную кодовую базу и исправить программные ошибки. Компания настаивает: такой метод не даёт потенциальному злоумышленнику сколько-нибудь значимого преимущества по сравнению с использованием любой другой публично доступной модели.

При этом письмо от властей, по словам Anthropic, не содержало конкретных деталей относящихся к угрозе национальной безопасности. Представители Белого дома и Министерства торговли на запросы журналистов не ответили.

CEO компании Дарио Амодеи буквально на этой неделе опубликовал программное эссе, в котором заявил о поддержке «справедливого, структурированного и прозрачного государственного процесса» блокировки небезопасных ИИ-систем. Однако в пятничном заявлении Anthropic прямо указала, что полученный приказ «не соответствует этим принципам».

Что это означает для рынка и регуляторного ландшафта

Инцидент обнажает фундаментальное противоречие в подходе США к регулированию ИИ. С одной стороны, администрация Трампа последовательно снимала ограничения на развитие искусственного интеллекта, позиционируя их как барьер для конкурентоспособности страны. С другой — именно она впервые применила инструмент экспортного контроля для экстренного отзыва коммерческой модели.

Для глобального рынка это создаёт новый тип регуляторного риска: компании, разрабатывающие мощные ИИ-системы, теперь должны учитывать возможность того, что уже выпущенный продукт может быть принудительно отозван в любой момент — без публичного объяснения причин и без заблаговременного предупреждения.

Для белорусских IT-компаний, работающих с американскими ИИ-провайдерами через ПВТ или зарубежные юрлица, этот прецедент имеет практическое измерение. Если подобная практика закрепится, провайдеры могут начать вводить в пользовательские соглашения оговорки о праве на экстренное отключение по требованию регуляторов — что потребует пересмотра архитектурных решений для критически важных сервисов, завязанных на внешние ИИ-модели.

Ситуация продолжает развиваться: Anthropic не сообщила, когда и при каких условиях модели могут быть возвращены в доступ, а судебные разбирательства с администрацией Трампа продолжаются.

— По материалам Wired: оригинальная статья. Перевод и адаптация — редакция Digital Business.