Генеральные прокуроры нескольких штатов США начали расследование против OpenAI

Коалиция генеральных прокуроров нескольких штатов США инициировала официальное расследование деятельности OpenAI. В пятницу компании вручили повестку от прокурора штата Нью-Йорк — об этом сообщил The Wall Street Journal. Расследование охватывает широкий круг вопросов: рекламные практики, вовлечённость и удержание пользователей, так называемая «сикофантность» моделей (склонность ИИ соглашаться с пользователем в ущерб точности), обращение с потребительскими и медицинскими данными, а также защита несовершеннолетних и пожилых людей.

OpenAI пока не раскрыла, какие именно штаты участвуют в коалиции, и не уточнила полный перечень запрошенных материалов. TechCrunch направил запрос в офис прокурора Нью-Йорка, однако подтверждения на момент публикации не получил.

Что требуют прокуроры и как реагирует компания

Повестка охватывает несколько чувствительных направлений сразу. Особое внимание — защита детей: прокуроров интересует, как OpenAI обеспечивает безопасность несовершеннолетних пользователей ChatGPT и какие механизмы контроля существуют на практике.

Представитель OpenAI заявил, что компания воспринимает озабоченность прокуроров серьёзно и намерена «конструктивно взаимодействовать» с их офисами. В официальном комментарии также подчёркивается, что текущая версия ChatGPT включает усиленные защитные механизмы для несовершеннолетних и людей в уязвимых ситуациях: система направляет их к реальным ресурсам помощи и доверенным контактам.

««Мы считаем, что с детьми нужно обращаться как с детьми. Именно поэтому мы внедрили предсказание возраста, выпустили родительские инструменты для контроля использования ИИ и запретили рекламу, нацеленную на детей», — говорится в заявлении компании.»

Однако декларации расходятся с реальными инцидентами. В начале июня генеральный прокурор Флориды Джеймс Утмайер подал иск против OpenAI и её CEO Сэма Альтмана, обвинив их в том, что компания «игнорировала внутренние и внешние предупреждения о безопасности, подвергла детей серьёзному риску и допустила распространение опасного продукта среди миллионов жителей Флориды».

Фон: иски, стрельба в Канаде и предстоящее IPO

Расследование прокуроров разворачивается на фоне нескольких резонансных событий вокруг OpenAI. Компания недавно выиграла громкий судебный процесс против сооснователя Илона Маска, который обвинял её в нарушении учредительного соглашения. Адвокат Маска уже объявил об апелляции. Параллельно OpenAI продолжает отбиваться от исков о нарушении авторских прав и претензий, связанных с предполагаемой ролью ChatGPT в суицидах пользователей.

Отдельный скандал возник после массового расстрела в канадском Тамблер-Ридже. Альтман публично извинился перед местным сообществом, признав, что OpenAI не уведомила правоохранительные органы после того, как заблокировала аккаунт предполагаемого стрелка в ChatGPT — несмотря на то что система сама же и зафиксировала тревожную активность.

На этой неделе стало известно, что OpenAI конфиденциально подала документы для выхода на биржу. Публичное размещение акций — один из крупнейших шагов в истории компании, и регуляторное давление со стороны прокуроров может осложнить этот процесс или повлиять на оценку рисков для потенциальных инвесторов.

Что это значит для рынка и белорусских компаний

Для белорусских IT-компаний и резидентов ПВТ, которые интегрируют решения OpenAI в свои продукты или используют ChatGPT в рабочих процессах, ситуация показательна сразу в нескольких аспектах. Во-первых, регуляторное давление на крупнейших ИИ-провайдеров неизбежно влечёт изменения в условиях использования сервисов и политиках обработки данных — это стоит отслеживать.

Во-вторых, концепция «сикофантности» моделей, которую прокуроры включили в перечень претензий, — не абстрактная проблема. Если ИИ-ассистент систематически подтверждает любые суждения пользователя вместо того, чтобы корректировать ошибки, это напрямую влияет на качество бизнес-решений, принятых с его помощью.

В-третьих, тема защиты данных несовершеннолетних актуальна и для белорусского рынка: отечественные EdTech-проекты и платформы, ориентированные на школьников, рано или поздно столкнутся с аналогичными требованиями со стороны регуляторов — как местных, так и европейских, если продукт выходит на внешние рынки.

Следить за развитием расследования имеет смысл и с точки зрения прецедента: если американские прокуроры добьются существенных ограничений или штрафов, это задаст тон для регуляторов в других юрисдикциях, включая ЕС, где GDPR и AI Act уже формируют жёсткую рамку для работы с ИИ-продуктами.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business.