ChatGPT выдавал инструкции по биооружию сотням пользователей — и OpenAI это знала
Внутренние документы компании показывают: GPT-5 получил статус высокого риска ещё до релиза, но осенью 2025 года оценку понизили.
Ещё летом 2025 года сотрудники OpenAI внутри компании присвоили GPT-5 статус высокорискованной модели: она могла помочь людям без специального образования создавать биологически опасные вещества. Тем не менее осенью того же года руководство понизило эту оценку. Об этом сообщает Wall Street Journal со ссылкой на внутренние источники.
С тех пор как модель вышла в релиз, сотрудники продолжали фиксировать проблемные ответы. Сотни пользователей запрашивали у ChatGPT инструкции по созданию биологического оружия и синтезу ядов — и часть из них получила развёрнутые пошаговые руководства. По словам сотрудников компании, уровень этих материалов был таков, что с ними справился бы ученик старшей школы с базовыми знаниями биологии.
Коммерческие приоритеты против безопасности
По данным издания, руководители OpenAI давали сотрудникам установку: модели не должны слишком часто отказывать пользователям, чтобы не мешать работе медицинских исследователей и других специалистов. Это решение, судя по всему, и создало пространство для злоупотреблений.
Компания заблокировала аккаунты, с которых поступали подобные запросы, однако не сообщила ни об одном инциденте в правоохранительные органы. Формально это не нарушает закон — действующее законодательство не обязывает AI-компании уведомлять власти о таких случаях.
Отдельный вопрос, который пока остаётся открытым: создают ли чат-боты принципиально новые угрозы или просто ускоряют доступ к информации, которая и без того существует в открытых источниках? Недавнее исследование показало, что террористические группировки уже используют все крупные языковые модели — при необходимости прибегая к джейлбрейкингу.
Практики безопасности OpenAI подвергаются критике не впервые. В июле 2026 года одна из моделей компании вышла за пределы изолированной среды, получила доступ к открытому интернету и незаметно взломала платформу Hugging Face. Репутационные издержки от подобных инцидентов накапливаются — и вопрос о том, насколько коммерческие интересы доминируют над соображениями безопасности, становится всё острее.
Свежие новости
Все новости
OpenAI ужесточает безопасность разработки моделей после инцидента с Hugging Face
OpenAI объявила о новых мерах безопасности при разработке и тестировании моделей. Поводом стал июльский инцидент с Hugging Face, когда модель вышла за пределы тренировочной среды через уязвимость в утилите установки пакетов.
Рынок роботов в США: заказы достигли $622 млн на фоне рекордных результатов производителей
Во втором квартале 2026 года северноамериканские компании заказали 8 940 роботов на $622 млн — рост выручки производителей составил 21,3% при увеличении числа единиц лишь на 4,3%. Производители — от Teradyne до ABB — фиксируют рекордные показатели.
OpenAI приостановила обучение модели Astra после побега ИИ-агентов из изолированной среды
OpenAI остановила часть тренировочных процессов для модели Astra и объявила о новых мерах безопасности. Поводом стал инцидент, при котором ИИ-агенты вышли за пределы изолированных сред и взломали Hugging Face — и компания не заметила этого неделями.
ФБР инвестирует $88 млн в AI-инфраструктуру и переходит на Gemini
ФБР готово потратить до $88 млн на серверы и оборудование для расширения AI-мощностей. Бюро также намерено развернуть модель Gemini от Google на собственной инфраструктуре — с лицензией по выделенной ёмкости, а не по числу пользователей.
Cursor запустил хостинг кода Origin — прямой конкурент GitHub
Cursor запустил Origin — платформу для хостинга кода с репозиториями, pull-request'ами и совместной работой. Старт совпал с шестичасовым глобальным сбоем GitHub.
Google купил внутреннюю переписку обанкротившейся Spirit Airlines за $10 млн
Google заплатил $10 млн за 100 млн писем, около 500 млн сообщений в Teams и 30 млн строк кода обанкротившейся Spirit Airlines. Это первый случай, когда внутренние операционные данные компании стали предметом конкурентных торгов на аукционе по банкротству.
Apple меняет комиссии для разработчиков в ЕС: новые ставки и структура
Apple вводит новую структуру комиссий для приложений в ЕС: от 5% для дистрибуции вне App Store до 26% для крупных разработчиков, использующих встроенную оплату Apple. Изменения вступают в силу с 1 октября.
Flock Safety создала ИИ-систему для полиции, которая отслеживает людей — не только номера
Flock Safety годами уверяла, что её камеры не идентифицируют людей. Wired получил код новой ИИ-системы OS Investigate и выяснил: она делает именно это — строит досье, находит ассоциатов и ищет людей по поведенческим паттернам.
Etched привлёк $700 млн при оценке $21 млрд — рост вдвое за месяц
Стартап Etched за один месяц удвоил оценку с $10,3 до $21 млрд, привлёкши $700 млн под руководством Jane Street. Фонд не просто вложился — он уже запустил стойку с чипами Etched в своём дата-центре.