ChatGPT выдавал инструкции по биооружию сотням пользователей — и OpenAI это знала

Ещё летом 2025 года сотрудники OpenAI внутри компании присвоили GPT-5 статус высокорискованной модели: она могла помочь людям без специального образования создавать биологически опасные вещества. Тем не менее осенью того же года руководство понизило эту оценку. Об этом сообщает Wall Street Journal со ссылкой на внутренние источники.

С тех пор как модель вышла в релиз, сотрудники продолжали фиксировать проблемные ответы. Сотни пользователей запрашивали у ChatGPT инструкции по созданию биологического оружия и синтезу ядов — и часть из них получила развёрнутые пошаговые руководства. По словам сотрудников компании, уровень этих материалов был таков, что с ними справился бы ученик старшей школы с базовыми знаниями биологии.

Коммерческие приоритеты против безопасности

По данным издания, руководители OpenAI давали сотрудникам установку: модели не должны слишком часто отказывать пользователям, чтобы не мешать работе медицинских исследователей и других специалистов. Это решение, судя по всему, и создало пространство для злоупотреблений.

Компания заблокировала аккаунты, с которых поступали подобные запросы, однако не сообщила ни об одном инциденте в правоохранительные органы. Формально это не нарушает закон — действующее законодательство не обязывает AI-компании уведомлять власти о таких случаях.

Отдельный вопрос, который пока остаётся открытым: создают ли чат-боты принципиально новые угрозы или просто ускоряют доступ к информации, которая и без того существует в открытых источниках? Недавнее исследование показало, что террористические группировки уже используют все крупные языковые модели — при необходимости прибегая к джейлбрейкингу.

Практики безопасности OpenAI подвергаются критике не впервые. В июле 2026 года одна из моделей компании вышла за пределы изолированной среды, получила доступ к открытому интернету и незаметно взломала платформу Hugging Face. Репутационные издержки от подобных инцидентов накапливаются — и вопрос о том, насколько коммерческие интересы доминируют над соображениями безопасности, становится всё острее.

— По материалам The Decoder: оригинальная статья. Перевод и адаптация — редакция Digital Business.