Перейти к содержимому
Digital Business BY · БЕЛАРУСЬ
НБ РБUSD2.9943EUR3.2913RUB0.0366PLN0.7450CNY0.4489Конвертер →
IT и стартапы

OpenAI притормозила разработку моделей из-за рисков кибератак

Компания приостановила крупнейший запланированный цикл обучения с подкреплением после того, как новая модель Astra приблизилась к опасному порогу кибервозможностей.

Казакевич Алексей
3 мин
OpenAI притормозила разработку моделей из-за рисков кибератак

OpenAI объявила о намеренном замедлении разработки своих флагманских моделей — компания называет это «управлением темпом» и объясняет решение ростом рисков в сфере кибербезопасности. Главный триггер — модель Astra, которая, по внутренним оценкам, вплотную приблизилась к порогу, за которым ИИ способен самостоятельно проводить сложные кибератаки.

Компания приостановила обучение с подкреплением на две недели, а «крупнейший запланированный фронтирный RL-запуск» по-прежнему заморожен. Рабочие нагрузки, не прошедшие новые проверки безопасности, также отстранены от выполнения.

Что изменилось в инфраструктуре безопасности

Помимо внутренних опасений, на решение повлиял инцидент с безопасностью на платформе Hugging Face и, по словам самой OpenAI, «стремительный прогресс во внутренних исследованиях». В ответ компания ужесточила конфигурацию исследовательских сред: улучшила сетевую изоляцию и усилила ограничения в песочницах.

Одновременно внедрена новая система мониторинга, которая фиксирует подозрительное поведение модели в течение 30 минут. На её работу уходит около 20% вычислительных мощностей для инференса — в зависимости от конкретной нагрузки. OpenAI также анонсировала расширение собственного Preparedness Framework и увеличение инвестиций в alignment-исследования.

При этом команда, которая изначально разрабатывала этот фреймворк, была распущена, а её функции переданы другим подразделениям — что само по себе вызывает вопросы о последовательности заявленных приоритетов.

Скептики и независимые подтверждения

Критики уже давно обвиняют OpenAI в том, что апелляция к рискам безопасности — это способ управлять вниманием рынка и регуляторов, а не реальная озабоченность. Однако на этот раз у компании есть весомый аргумент: независимое государственное агентство AISI (AI Safety Institute) задокументировало аналогичное опасное поведение моделей, что частично подтверждает обоснованность опасений OpenAI.

Для белорусских IT-компаний и разработчиков, использующих API OpenAI в продуктах, замедление фронтирных разработок означает более осторожный и предсказуемый темп обновлений — по крайней мере в краткосрочной перспективе. Вопрос в том, насколько долго продлится эта пауза и не обгонят ли конкуренты за это время.

ПоделитьсяVK

Свежие новости

Все новости
Концептуальная иллюстрация: Google представила Gemini 4 Hydrogen: быстрая модель для повседневных задач и агентных сценариев
IT и стартапы

Google представила Gemini 4 Hydrogen: быстрая модель для повседневных задач и агентных сценариев

Google анонсировала Gemini 4 Hydrogen — модель, ориентированную на скоростное выполнение задач в агентных рабочих процессах и повседневном программировании. Она доступна во всех тарифах Google AI Studio, Gemini API и приложения Gemini, а также платным подписчикам Google AI Pro и Ultra в Google Antigravity.

Редакция
1 мин
Концептуальная иллюстрация: AWS Emulator: локальное тестирование AWS-приложений без аккаунта и деплоя
IT и стартапы

AWS Emulator: локальное тестирование AWS-приложений без аккаунта и деплоя

AWS выпустила AWS Emulator — инструмент для сборки и тестирования AWS-приложений локально или в CI-среде без AWS-аккаунта и деплоя. Эмулятор принимает стандартные вызовы SDK и CLI и отвечает на них за миллисекунды.

Редакция
1 мин
Концептуальная иллюстрация: DeepSeek-V4-Pro, V4-Flash и V4.1-Flash появились в Amazon SageMaker JumpStart
IT и стартапы

DeepSeek-V4-Pro, V4-Flash и V4.1-Flash появились в Amazon SageMaker JumpStart

Amazon SageMaker JumpStart пополнился тремя моделями DeepSeek: флагманской V4-Pro, экономичной V4-Flash и мультимодальной V4.1-Flash с архитектурой CED. Все три распространяются под лицензией MIT и поддерживают контекстное окно в 1 млн токенов.

Редакция
1 мин
Концептуальная иллюстрация: Amazon S3 Tables получили поддержку серверного журналирования доступа
IT и стартапы

Amazon S3 Tables получили поддержку серверного журналирования доступа

Amazon S3 Tables теперь поддерживают серверное журналирование доступа: детальные записи о запросах к табличным бакетам помогают отслеживать операции с таблицами, управление пространствами имён и доступ к данным для аудита безопасности, анализа доступа и распределения затрат.

Редакция
1 мин
Концептуальная иллюстрация: Amazon S3 Access Grants научился перечислять гранты сразу по нескольким AWS-аккаунтам
IT и стартапы

Amazon S3 Access Grants научился перечислять гранты сразу по нескольким AWS-аккаунтам

Amazon S3 Access Grants получил поддержку кросс-аккаунтного листинга: один вызов ListCallerAccessGrants возвращает гранты из всех инстансов, расшаренных через AWS RAM, без необходимости опрашивать каждый аккаунт отдельно.

Редакция
1 мин