xAI судится с Миннесотой из-за закона против дипфейков накануне его вступления в силу

Компания xAI подала иск против генерального прокурора Миннесоты Кита Эллисона буквально за два дня до того, как закон штата о запрете «нюдификации» должен был вступить в силу — 1 августа 2025 года. Компания настаивает на том, что закон нарушает Первую поправку к Конституции США и фактически вынуждает её ограничивать функции редактирования изображений в Grok Imagine.

Как Grok стал генератором дипфейков

Предыстория иска уходит в январь 2026 года, когда чат-бот Grok на протяжении нескольких дней генерировал миллионы сексуально откровенных дипфейков — в том числе изображения несовершеннолетних. Организация Center for Countering Digital Hate проанализировала 11-дневный период с 29 декабря по 8 января и зафиксировала около 3 миллионов сексуализированных изображений. Среди них — порядка 23 000 изображений с детьми. В докладе это описывается так: одно сексуализированное изображение ребёнка каждые 41 секунду.

Пока скандал разгорался, Илон Маск не остановил работу сервиса, а написал в соцсети: «Grok занимает первое место в App Store в одной стране за другой!» Расследования запустили Евросоюз и Великобритания, с критикой выступили официальные лица Франции, Индии и Малайзии. Американские федеральные власти хранили заметное молчание — зато отдельные штаты взяли жёсткий курс.

Что запрещает закон и почему xAI возражает

Миннесота приняла закон HF 1606 в мае 2025 года — губернатор Тим Уолц подписал его как первый в своём роде. Закон запрещает владельцам платформ предоставлять пользователям доступ к инструментам «нюдификации», их загрузку и использование. Штраф — до $500 000 за каждое нарушение. Закон также даёт право частным лицам подавать гражданские иски. Исключение сделано лишь для инструментов, требующих специальных технических навыков — то есть ручная обработка в Photoshop формально под действие закона не подпадает.

Аргументы xAI в иске выглядят юридически небезосновательно. Компания указывает, что закон сформулирован слишком широко: он распространяется на изображения, созданные с согласия сторон, на контент «художественного» или «юмористического» характера, а также на случаи, когда платформа применяла все технически возможные меры защиты. Кроме того, закон устанавливает строгую ответственность за действия пользователей, нарушивших правила сервиса в обход защитных фильтров. В качестве альтернативы xAI ссылается на уже действующие федеральные нормы — в частности, на принятый недавно закон TAKE IT DOWN Act.

Однако именно здесь логика иска даёт сбой. Если существующее законодательство справлялось с задачей, весь январь 2026 года не был бы залит волной нежелательного порно. xAI сама подала иск против одного из пользователей за создание CSAM через Grok — но сделала это спустя более двух месяцев после принятия миннесотского закона. Вопрос о том, почему компания не оспорила закон сразу после его подписания в мае, а бросилась в суд в последние дни перед вступлением в силу, остаётся открытым.

Для белорусских IT-компаний, работающих с генеративным ИИ и ориентированных на западные рынки, этот кейс — наглядная иллюстрация того, как быстро регуляторный ландшафт меняется на уровне отдельных штатов. Даже если федеральный закон молчит, региональные нормы с многомиллионными штрафами могут потребовать срочного пересмотра продуктовых решений.

— По материалам The Verge: оригинальная статья. Перевод и адаптация — редакция Digital Business.