Глава Amazon предупредил Вашингтон об уязвимостях Anthropic — и это привело к запрету двух моделей

Глава Amazon Энди Джасси мог стать источником тревожных сигналов, которые привели к одному из самых резонансных регуляторных решений в истории генеративного ИИ. По данным The Wall Street Journal, Джасси лично сообщил министру финансов США Скотту Бессенту и другим чиновникам, что исследователи Amazon получили от модели Claude Fable 5 информацию, пригодную для организации кибератак. Вслед за этим американское правительство ввело экспортные ограничения сразу на две модели Anthropic — Fable 5 и Mythos 5, а компания была вынуждена отключить к ним доступ по всему миру.

Amazon является одним из крупнейших инвесторов Anthropic, что делает ситуацию особенно неоднозначной: стратегический партнёр фактически инициировал регуляторное давление на портфельную компанию. Представитель Amazon в официальном заявлении подтвердил, что компания «нередко консультирует правительства по потенциальным рискам безопасности», однако детали таких обсуждений не раскрывает. Отдельно было отмечено, что сервис AWS также пострадал от отключения моделей.

Версии сторон расходятся

Аналогичные данные об участии Amazon в передаче информации властям опубликовали The Information и Reuters. Однако наиболее детальную картину событий представил Дэвид Сакс — бывший советник Трампа по ИИ, ныне сопредседатель Президентского совета по науке и технологиям.

По словам Сакса, к властям обратился «высококредитный доверенный партнёр как Anthropic, так и правительства США» с информацией о конкретном методе обхода защиты модели — так называемом джейлбрейке. Сакс утверждает, что администрация потребовала от Дарио Амодеи, CEO Anthropic, либо устранить уязвимость, либо вывести модель из эксплуатации, и добавил: «Дарио отказался».

Сама Anthropic в официальном блог-посте заняла иную позицию. Компания указала, что возможности, вызвавшие беспокойство властей, уже присутствуют в других общедоступных моделях на рынке. Это косвенно ставит под сомнение избирательность введённых ограничений.

Что стоит за конфликтом

История обнажает структурное противоречие, которое давно зреет в американской ИИ-индустрии. Amazon вложил в Anthropic миллиарды долларов и одновременно является её крупнейшим облачным партнёром через AWS. Ситуация, при которой инвестор сигнализирует регулятору об угрозах со стороны портфельной компании, создаёт прецедент с далеко идущими последствиями для всей экосистемы венчурного финансирования в секторе ИИ.

Экспортный контроль как инструмент регулирования ИИ-моделей применяется впервые в таком масштабе. До сих пор подобные механизмы использовались преимущественно в отношении полупроводников и аппаратного обеспечения — достаточно вспомнить ограничения на поставки чипов Nvidia в Китай. Распространение этой логики на программные модели означает качественный сдвиг в подходе Вашингтона к регулированию ИИ.

Для белорусских компаний, работающих с API Anthropic через AWS или напрямую, отключение Fable 5 и Mythos 5 — это сигнал о новом уровне геополитических рисков при выборе поставщиков ИИ-инфраструктуры. Резиденты ПВТ, интегрирующие сторонние языковые модели в продукты, всё чаще сталкиваются с ситуацией, когда доступность ключевого компонента зависит не от технических, а от политических решений.

Открытым остаётся вопрос о том, насколько описанная Anthropic ситуация действительно уникальна. Если аналогичные возможности есть у конкурирующих моделей, то избирательный запрет лишь перераспределяет риски, не устраняя их. Это противоречие, вероятно, станет центральным в дальнейших дискуссиях между индустрией и регуляторами.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business.