Anthropic выпустила Claude Fable 5 и Mythos 5: публичная версия с ограничениями, закрытая — для избранных

Компания Anthropic в конце мая представила сразу две модели — Claude Fable 5 и Claude Mythos 5. Обе построены на одном базовом движке, но распространяются принципиально по-разному: первая доступна широкой аудитории, вторая — только ограниченному кругу партнёров. Причина такого разделения — опасения, что передовые возможности модели могут быть использованы для создания хакерских инструментов.

Модель Mythos впервые появилась в апреле в рамках закрытой программы Project Glasswing — консорциума технологических компаний, которые получили ранний доступ, чтобы успеть подготовить собственные системы защиты до широкого релиза. Теперь к ним добавились «отдельные исследователи в области биологии», а сам Anthropic подчёркивает, что координирует расширение доступа совместно с правительством США.

Как работают «предохранители» в публичной версии

Claude Fable 5 получил механизм автоматической переадресации запросов. Если система определяет, что вопрос касается кибербезопасности, биологии или химии — он уходит не к Fable 5, а к более старой модели Claude Opus 4.8. Аналогичная логика применяется к попыткам дистилляции: если Anthropic подозревает, что пользователь пытается обучить собственную компактную модель на ответах Fable 5, такие запросы тоже перехватываются.

Глава продуктового направления Anthropic Дайан Пенн признаёт, что текущий фильтр намеренно настроен на избыточную осторожность. Это означает, что часть совершенно безобидных запросов также попадёт под ограничения — просто потому, что классификатор не может с уверенностью отличить легитимный вопрос от потенциально опасного.

««Мы стараемся делать улучшения так, чтобы они приносили пользу, даже если у нас пока нет идеального решения для каждого сценария использования. Из всех подходов этот оказался наиболее жизнеспособным», — говорит Пенн.»

Со временем компания планирует повысить точность классификаторов, однако признаёт: на сегодня это единственный способ выпустить модель в открытый доступ без неприемлемых рисков.

Почему Mythos считается опасным для открытого релиза

Ключевая проблема — способность Claude Mythos самостоятельно находить уязвимости в программном обеспечении, в том числе в устаревших системах, и генерировать эксплойты. Это принципиально новый уровень возможностей: раньше подобный анализ требовал высококвалифицированных специалистов и значительного времени.

Антропик прямо признаёт, что надёжных защитных механизмов для такой модели пока не существует — ни у самой компании, ни, по её данным, у других разработчиков ИИ. В обновлении по Project Glasswing компания написала: «Мы работаем настолько быстро, насколько это возможно, чтобы безопасно выпустить возможности уровня Mythos в общий доступ. Для этого нам нужны надёжные защитные механизмы, которые предотвратят злоупотребление кибервозможностями модели — механизмы, которые мы пока не разработали».

При этом Anthropic открыто говорит о неизбежности: конкуренты — как коммерческие, так и разработчики открытых моделей — рано или поздно выйдут на тот же уровень возможностей. Именно поэтому Project Glasswing задумывался как инструмент для того, чтобы дать индустрии фору во времени.

Что это означает для IT-рынка и кибербезопасности

Для белорусских IT-компаний и специалистов по информационной безопасности ситуация с Mythos — наглядная иллюстрация того, как быстро меняется ландшафт угроз. Если ещё год назад автоматизированный поиск уязвимостей был уделом государственных хакерских группировок и хорошо финансируемых APT, то теперь речь идёт о коммерческом ИИ-продукте.

Компании, работающие в ПВТ и обслуживающие международных клиентов, уже сейчас должны учитывать, что их заказчики — в первую очередь в США и ЕС — будут пересматривать требования к безопасности кода и инфраструктуры. Стандарты penetration testing и bug bounty программ, скорее всего, будут ужесточаться по мере того, как ИИ-инструменты такого класса станут доступнее.

Отдельный вопрос — дистилляция. Anthropic специально блокирует попытки «снять» знания Fable 5 для обучения собственных моделей. Это прямо затрагивает компании и исследователей, которые строят собственные ИИ-решения на основе ответов крупных моделей — практика, широко распространённая в стартап-среде как способ удешевить разработку.

В целом стратегия Anthropic — разделить один продукт на «безопасную» и «полную» версии с разными уровнями доступа — вероятно, станет шаблоном для всей отрасли. Регуляторы в ЕС уже обсуждают обязательную классификацию ИИ-моделей по уровню риска в рамках AI Act. Подход Anthropic фактически предвосхищает эту логику, только реализует её добровольно и на собственных условиях.

— По материалам Wired: оригинальная статья. Перевод и адаптация — редакция Digital Business.