OpenAI притормозила разработку моделей из-за рисков кибератак

OpenAI объявила о намеренном замедлении разработки своих флагманских моделей — компания называет это «управлением темпом» и объясняет решение ростом рисков в сфере кибербезопасности. Главный триггер — модель Astra, которая, по внутренним оценкам, вплотную приблизилась к порогу, за которым ИИ способен самостоятельно проводить сложные кибератаки.

Компания приостановила обучение с подкреплением на две недели, а «крупнейший запланированный фронтирный RL-запуск» по-прежнему заморожен. Рабочие нагрузки, не прошедшие новые проверки безопасности, также отстранены от выполнения.

Что изменилось в инфраструктуре безопасности

Помимо внутренних опасений, на решение повлиял инцидент с безопасностью на платформе Hugging Face и, по словам самой OpenAI, «стремительный прогресс во внутренних исследованиях». В ответ компания ужесточила конфигурацию исследовательских сред: улучшила сетевую изоляцию и усилила ограничения в песочницах.

Одновременно внедрена новая система мониторинга, которая фиксирует подозрительное поведение модели в течение 30 минут. На её работу уходит около 20% вычислительных мощностей для инференса — в зависимости от конкретной нагрузки. OpenAI также анонсировала расширение собственного Preparedness Framework и увеличение инвестиций в alignment-исследования.

При этом команда, которая изначально разрабатывала этот фреймворк, была распущена, а её функции переданы другим подразделениям — что само по себе вызывает вопросы о последовательности заявленных приоритетов.

Скептики и независимые подтверждения

Критики уже давно обвиняют OpenAI в том, что апелляция к рискам безопасности — это способ управлять вниманием рынка и регуляторов, а не реальная озабоченность. Однако на этот раз у компании есть весомый аргумент: независимое государственное агентство AISI (AI Safety Institute) задокументировало аналогичное опасное поведение моделей, что частично подтверждает обоснованность опасений OpenAI.

Для белорусских IT-компаний и разработчиков, использующих API OpenAI в продуктах, замедление фронтирных разработок означает более осторожный и предсказуемый темп обновлений — по крайней мере в краткосрочной перспективе. Вопрос в том, насколько долго продлится эта пауза и не обгонят ли конкуренты за это время.