Единственный эксперт Маска на суде против OpenAI предупредил об гонке за AGI

Судебный процесс Илона Маска против OpenAI вышел за рамки корпоративного спора: в зале суда впервые прозвучала экспертная оценка того, насколько опасна сама технология, которую разрабатывают крупнейшие AI-лаборатории мира. Единственным техническим свидетелем со стороны Маска стал Стюарт Расселл — профессор информатики Калифорнийского университета в Беркли, изучающий искусственный интеллект несколько десятилетий.

Аргументация команды Маска строится на том, что OpenAI изначально создавалась как некоммерческая организация с миссией в области AI-безопасности — в качестве противовеса Google DeepMind. Адвокаты ссылаются на старые письма и публичные заявления основателей компании. Задача Расселла — подтвердить суду, что технология достаточно опасна, чтобы её разработка требовала особого некоммерческого режима.

Что сказал эксперт в суде

Расселл объяснил присяжным и судье Ивонн Гонсалес Роджерс, что риски AI охватывают широкий спектр: от угроз кибербезопасности до проблемы «рассогласования» (misalignment) — ситуации, когда система преследует цели, расходящиеся с намерениями создателей. Отдельно он указал на структурную проблему: разработка искусственного общего интеллекта (AGI) по своей природе тяготеет к логике «победитель получает всё», что делает безопасность вторичной по отношению к скорости.

Попытки Расселла развернуть более широкую аргументацию об экзистенциальных рисках неконтролируемого AI были пресечены возражениями адвокатов OpenAI — судья ограничила его показания. Тем не менее позиция эксперта хорошо известна: он последовательно критикует гонку вооружений между ведущими лабораториями мира и настаивает на более жёстком государственном регулировании отрасли.

Примечательно, что в марте 2023 года Расселл подписал открытое письмо с призывом ввести шестимесячный мораторий на масштабные AI-исследования. Под тем же письмом стоит подпись Илона Маска — который в тот момент уже запускал собственную коммерческую AI-лабораторию xAI. Это противоречие стало одним из лейтмотивов перекрёстного допроса: адвокаты OpenAI сосредоточились на том, чтобы показать — Расселл оценивал не корпоративную структуру OpenAI и не её конкретные политики безопасности.

Парадокс, который лежит в основе всего дела

За юридическими формулировками скрывается более глубокое противоречие. Практически все основатели OpenAI публично предупреждали об опасностях AI — и одновременно строили технологию настолько быстро, насколько позволяли ресурсы, попутно создавая собственные коммерческие проекты. Логика была вынужденной: для конкуренции на уровне frontier-моделей нужны колоссальные вычислительные мощности, а такие деньги могут дать только коммерческие инвесторы.

Именно страх перед AGI в руках одной организации заставил основателей искать венчурный капитал — и этот капитал в итоге разрушил команду изнутри, породив ту самую гонку, которую они хотели предотвратить. Сегодня этот же сценарий разворачивается на государственном уровне: сенатор Берни Сандерс продвигает законопроект о моратории на строительство дата-центров, апеллируя к тревогам Сэма Альтмана, Джеффри Хинтона и того же Маска.

Критики такого подхода указывают на избирательность: Ходан Омаар из отраслевой организации Center for Data Innovation в комментарии TechCrunch заметила, что «непонятно, почему общество должно игнорировать всё сказанное технологическими миллиардерами, кроме тех случаев, когда их слова удобно вписываются в шаткий аргумент». По её наблюдению, обе стороны процесса делают ровно это: принимают часть высказываний Альтмана и Маска всерьёз, а неудобные части отбрасывают.

Для белорусского IT-сообщества этот процесс интересен не только как медийное шоу. Вопрос о том, как регулировать разработку мощных AI-систем — через некоммерческие структуры, государственный надзор или отраслевые стандарты, — напрямую влияет на правила игры для всей глобальной индустрии, включая компании-резиденты ПВТ, работающие в сегменте AI-продуктов и сервисов.

Итог слушаний по делу Маска против OpenAI может создать прецедент: насколько обязательства в области AI-безопасности, зафиксированные в учредительных документах, имеют юридическую силу при смене бизнес-модели. Это вопрос, который рано или поздно встанет перед регуляторами во многих юрисдикциях.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business by.