OpenAI запустила Lockdown Mode для защиты корпоративных данных от prompt injection

OpenAI анонсировала новый защитный режим для ChatGPT — Lockdown Mode. Он призван снизить вероятность утечки чувствительных данных через атаки типа prompt injection, когда злоумышленники прячут вредоносные инструкции прямо в веб-страницах или других источниках контента, которые читает модель.

Функция уже начала поэтапно раскатываться на аккаунты ChatGPT Business с самостоятельным подключением, а также на ряд личных аккаунтов, соответствующих критериям компании.

Что именно блокирует Lockdown Mode

Включение режима существенно ограничивает возможности ChatGPT. Отключаются: живой веб-браузинг (доступен только кэшированный контент), загрузка и отображение изображений из интернета, режим глубоких исследований (deep research) и агентный режим (agent mode). При этом генерация изображений остаётся доступной — запрет касается только подтягивания картинок из внешних источников.

Логика здесь понятна: каждый из отключаемых инструментов предполагает обращение к внешним данным, которые потенциально могут содержать скрытые команды. Чем меньше внешних источников обрабатывает модель, тем меньше поверхность атаки.

Полной защиты режим не гарантирует

OpenAI честно предупреждает: даже при активном Lockdown Mode ChatGPT не застрахован от prompt injection полностью. Вредоносные инструкции могут проникнуть, например, через кэшированный веб-контент или загруженный пользователем файл — и всё равно повлиять на поведение модели или точность ответа.

Компания формулирует цель режима осторожно: не устранить угрозу, а снизить вероятность того, что чувствительные данные окажутся скомпрометированы в процессе работы. Это важное уточнение для тех, кто рассчитывает на абсолютную защиту.

««Lockdown Mode предназначен не для всех. Он разработан для людей и организаций, которые работают с чувствительными данными и хотят более строгой защиты от рисков утечки данных, связанных с prompt injection», — говорится в официальном заявлении OpenAI.»

Проблема prompt injection актуальна именно сейчас, когда языковые модели всё активнее используются в агентных сценариях: они самостоятельно просматривают сайты, читают документы, выполняют многошаговые задачи. Каждый такой шаг — потенциальная точка входа для атаки.

Почему это важно для белорусского IT-рынка

Для белорусских IT-компаний и резидентов ПВТ, которые интегрируют ChatGPT в корпоративные процессы или разрабатывают продукты на базе OpenAI API, появление Lockdown Mode — сигнал к пересмотру политик безопасности. Особенно это касается команд, работающих с персональными данными клиентов, финансовой документацией или кодом под NDA.

Агентные сценарии — автоматический анализ переписки, обработка договоров, работа с внутренними базами знаний — уже используются в ряде белорусских продуктовых компаний. Именно такие кейсы наиболее уязвимы к атакам через внешний контент, и именно для них Lockdown Mode может оказаться практически полезным инструментом.

Важно учитывать и регуляторный контекст: белорусское законодательство о защите персональных данных, а также требования международных заказчиков к информационной безопасности делают подобные инструменты не просто удобством, но и элементом compliance-стратегии.

Пока Lockdown Mode доступен только для ChatGPT Business — корпоративного тарифа с управлением через административную панель. Когда и в каком объёме функция появится в API-доступе, OpenAI не уточняет. Это означает, что разработчики, строящие собственные продукты поверх моделей компании, пока вынуждены реализовывать аналогичную защиту самостоятельно — на уровне архитектуры приложения и фильтрации входящего контента.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business.