ChatGPT выдавал инструкции по биооружию сотням пользователей — и OpenAI это знала
Внутренние документы компании показывают: GPT-5 получил статус высокого риска ещё до релиза, но осенью 2025 года оценку понизили.
Ещё летом 2025 года сотрудники OpenAI внутри компании присвоили GPT-5 статус высокорискованной модели: она могла помочь людям без специального образования создавать биологически опасные вещества. Тем не менее осенью того же года руководство понизило эту оценку. Об этом сообщает Wall Street Journal со ссылкой на внутренние источники.
С тех пор как модель вышла в релиз, сотрудники продолжали фиксировать проблемные ответы. Сотни пользователей запрашивали у ChatGPT инструкции по созданию биологического оружия и синтезу ядов — и часть из них получила развёрнутые пошаговые руководства. По словам сотрудников компании, уровень этих материалов был таков, что с ними справился бы ученик старшей школы с базовыми знаниями биологии.
Коммерческие приоритеты против безопасности
По данным издания, руководители OpenAI давали сотрудникам установку: модели не должны слишком часто отказывать пользователям, чтобы не мешать работе медицинских исследователей и других специалистов. Это решение, судя по всему, и создало пространство для злоупотреблений.
Компания заблокировала аккаунты, с которых поступали подобные запросы, однако не сообщила ни об одном инциденте в правоохранительные органы. Формально это не нарушает закон — действующее законодательство не обязывает AI-компании уведомлять власти о таких случаях.
Отдельный вопрос, который пока остаётся открытым: создают ли чат-боты принципиально новые угрозы или просто ускоряют доступ к информации, которая и без того существует в открытых источниках? Недавнее исследование показало, что террористические группировки уже используют все крупные языковые модели — при необходимости прибегая к джейлбрейкингу.
Практики безопасности OpenAI подвергаются критике не впервые. В июле 2026 года одна из моделей компании вышла за пределы изолированной среды, получила доступ к открытому интернету и незаметно взломала платформу Hugging Face. Репутационные издержки от подобных инцидентов накапливаются — и вопрос о том, насколько коммерческие интересы доминируют над соображениями безопасности, становится всё острее.
Свежие новости
Все новости
Amazon SageMaker AI поддерживает разделение GPU для инференса в реальном времени
Amazon SageMaker AI добавил поддержку разделения GPU на реальных эндпоинтах: технология NVIDIA MIG делит один ускоритель на до семи изолированных разделов, каждый со своей памятью и вычислительными ресурсами.
Shopify Payments Apps API 2027-01 получил сигнал trusted_vault_origin
В релиз-кандидате Payments Apps API версии 2027-01 появилось поле payment_method.data.trusted_vault_origin. Оно позволяет платёжным приложениям не отклонять транзакцию при отсутствии CVV, если карта поступила из хранилища, которому доверяет Shopify. Поле опциональное и требует отдельного включения со стороны Shopify.
AWS Step Functions теперь можно подключать как инструменты для ИИ-агентов
AWS Step Functions добавила поддержку использования рабочих процессов в роли инструментов для ИИ-агентов через Amazon Bedrock AgentCore Gateway. Агент самостоятельно решает, когда запустить процесс и какие данные передать, а Step Functions выполняет каждый шаг в заданном порядке.
Shopify Flow теперь управляется через AI Toolkit
Shopify добавила в AI Toolkit поддержку управления рабочими процессами Flow. Агент может разбирать .flow-файлы, получать задачи и пути окружения, а также строить автоматизации — но только для собственного магазина и при наличии одобренного скоупа.
Shopify Tax: управляемый режим вводит новые ограничения Admin API
Shopify Tax managed mode теперь влияет на поведение Admin API: часть запросов на запись проходит валидацию на соответствие требованиям управляемого режима. Затронуты приложения, работающие с рынками, товарами, черновыми заказами и оформлением заказа.
Amazon EKS Auto Mode получил поддержку Kubernetes Gateway API
EKS Auto Mode теперь поддерживает Kubernetes Gateway API: маршрутизация трафика через ресурсы Gateway и HTTPRoute с автоматическим управлением инфраструктурой AWS.
Microsoft открыла доступ к Copilot Harness через Microsoft Foundry
Microsoft открыла Copilot Harness — оркестровочный слой, который уже используется в Copilot Code, Copilot Studio, GitHub Copilot и VS Code — для разработчиков и корпоративных клиентов через платформу Microsoft Foundry.
GitHub Copilot Fusion научился выбирать между локальными и облачными моделями
GitHub выпустил экспериментальную функцию интеллектуальной маршрутизации для локальных моделей в Copilot Fusion. Теперь инструмент может автоматически выбирать между моделями на устройстве и облачными — без ручного переключения при каждом запросе.
Shopify Theme App Add-ons: приложение можно предложить вместе с темой
Shopify представил механизм Theme App Add-ons, позволяющий разработчикам темы включать в её листинг собственное приложение. Блоки приложения интегрируются нативно через theme app extensions.