Anthropic призвал заморозить гонку ИИ-моделей по аналогии с ядерным оружием

Anthropic — стартап с наибольшей рыночной оценкой в сфере искусственного интеллекта — публично выступил за введение отраслевой паузы в создании новых нейросетевых моделей. Сооснователь компании Джек Кларк опубликовал соответствующее обращение в корпоративном блоге; о нём сообщило агентство Bloomberg. Призыв прозвучал на фоне рекордных инвестиций в ИИ-технологии по всему миру.

Позиция Кларка принципиальна: он убеждён, что современные модели достигли той точки развития, за которой риски для человечества становятся системными, а не гипотетическими. Речь идёт не об абстрактных сценариях из фантастики, а о конкретном технологическом пороге.

Почему Anthropic говорит об опасности именно сейчас

Кларк обозначил ключевой триггер: если модели приобретут способность самостоятельно порождать собственных «потомков» — то есть создавать и обучать новые системы без участия человека, — вопросы безопасности, мониторинга и управления поведением выйдут на принципиально иной уровень сложности. Контроль над такими системами потребует механизмов, которых сегодня попросту не существует.

В качестве ориентира Кларк предложил модель международного регулирования ядерного оружия. Параллель выбрана намеренно: ядерный нераспространительный режим строился десятилетиями и опирался на верифицируемые физические ограничения — сложно скрыть строительство ракетной шахты. С ИИ всё иначе: как признаёт сам Кларк, «скрыть обучение новой модели намного проще, чем строительство ракетной шахты». Это делает любое потенциальное регулирование значительно более сложным технически.

Anthropic намерен перевести дискуссию из публичного пространства в переговорный формат: компания хочет организовать предметный диалог с политиками, независимыми исследователями и другими игроками отрасли.

Кто и когда уже поднимал этот вопрос

Первая волна публичной тревоги вокруг неконтролируемого ИИ поднялась ещё в 2023 году. Тогда открытое письмо с призывом приостановить разработку мощных моделей подписали более тысячи человек — среди них Илон Маск, сооснователь Apple Стив Возняк и глава Stability AI Эмад Мостак. Параллельно тогдашний президент США Джо Байден провёл встречи с руководителями Microsoft, Google, OpenAI и самой Anthropic.

Тем не менее гонка не замедлилась — она ускорилась. Инвестиции в ИИ-инфраструктуру в 2024–2025 годах достигли исторических максимумов, а количество новых моделей, выпускаемых ведущими лабораториями, продолжает расти. На этом фоне повторный призыв Anthropic звучит иначе: не как абстрактное предостережение, а как сигнал от инсайдера, который видит происходящее изнутри.

Примечательно, что сама компания находится в двойственном положении. Её флагманский ассистент Claude достиг уровня, при котором 80% нового кода в продукте генерируется самим ИИ — то есть система в значительной мере воспроизводит себя. При этом Anthropic последовательно позиционирует себя как «ответственного» участника рынка, делая акцент на безопасности как конкурентном преимуществе. Компания также недавно подала заявку на IPO, что добавляет к её публичным высказываниям дополнительный контекст: репутация «безопасного» игрока напрямую влияет на оценку при размещении.

Что это означает для рынка и регуляторов

Призыв к паузе от одного из лидеров отрасли — не то же самое, что аналогичный призыв от академического сообщества или НКО. Anthropic располагает реальными ресурсами, политическим весом и доступом к данным о том, как именно развиваются современные модели. Если компания решила говорить об этом публично — значит, внутренняя оценка рисков достаточно серьёзна, чтобы вынести её за пределы закрытых совещаний.

Вместе с тем скептики укажут на очевидное противоречие: Anthropic сама активно разрабатывает новые версии Claude и привлекает миллиардные инвестиции. Призыв к паузе в такой ситуации легко интерпретировать как попытку зафиксировать текущее положение на рынке — пока компания сама находится в числе лидеров.

Для белорусского IT-рынка эта дискуссия имеет практическое измерение. Резиденты ПВТ, работающие в сфере разработки ИИ-продуктов или интеграции моделей в бизнес-процессы, уже сейчас сталкиваются с нарастающей неопределённостью в регуляторной среде — особенно при выходе на рынки ЕС, где Акт об ИИ (EU AI Act) вступает в силу поэтапно. Если международное давление в пользу регулирования усилится, это напрямую затронет продуктовые решения и требования к документированию моделей.

Пока неясно, найдёт ли инициатива Anthropic реальный отклик у конкурентов — прежде всего у OpenAI, Google DeepMind и Meta. Исторический прецедент 2023 года показал: открытые письма создают медийный шум, но не меняют траекторию разработок. Чтобы пауза стала реальностью, потребуется либо жёсткое государственное регулирование, либо консенсус крупнейших игроков — оба сценария пока выглядят маловероятными.

— По материалам Office Life: https://officelife.media/news/72406-kak-s-yadernym-oruzhiem-samyy-dorogoy-ii-startap-v-mire-prizval-zamedlit-razvitie-neyrosetey/. Полная ссылка на оригинал обязательна согласно редакционной политике для беларуских источников. Адаптация — редакция Digital Business.