Барри Диллер: доверие к Сэму Альтману не имеет значения, когда AGI уже близко

Медиамагнат Барри Диллер — сооснователь Fox Broadcasting, председатель совета директоров IAC и Expedia Group — публично встал на защиту главы OpenAI Сэма Альтмана на конференции The Wall Street Journal «Future of Everything». Но тут же добавил: вопрос доверия к конкретному человеку в контексте AGI попросту теряет смысл. Технология уже вышла за пределы, которые контролирует любой отдельный руководитель.

Альтман в последние месяцы оказался под огнём критики: бывшие коллеги и члены совета директоров OpenAI обвиняли его в манипулятивности и склонности вводить людей в заблуждение. Диллер, который лично знаком с Альтманом, эти обвинения отверг — назвал его «порядочным человеком с правильными ценностями» и человеком, искренне верящим в то, что делает.

Почему личность лидера перестаёт быть главным фактором

Диллер сформулировал свою позицию жёстко: проблема ИИ давно вышла за рамки вопроса о том, кому можно доверять у руля.

««Один из главных вопросов об ИИ в том, что он выходит далеко за пределы доверия. Возможно, доверие вообще нерелевантно — потому что то, что происходит, является сюрпризом даже для тех, кто это создаёт»,»

— сказал он со сцены.

По словам Диллера, он провёл немало времени с людьми, непосредственно создающими ИИ-системы. Его вывод: они сами испытывают что-то вроде изумления перед собственными результатами. Это не риторическая фигура — это признание фундаментальной неопределённости, встроенной в саму природу технологии.

AGI — искусственный общий интеллект — это гипотетическая система, способная превзойти человека в любой когнитивной задаче. Пока такой системы не существует, но Диллер убеждён: человечество движется к этой точке быстрее, чем принято думать. «Мы ещё не там, но приближаемся всё быстрее и быстрее», — подчеркнул он.

Guardrails или потеря контроля: выбор, который нужно сделать сейчас

Диллер не ограничился философскими рассуждениями — он сформулировал конкретный тезис об угрозе. Если люди не выстроят ограничительные механизмы («guardrails») до того, как AGI будет достигнут, инициативу перехватит сама система.

«Если мы не подумаем о guardrails, то это сделает другая сила — AGI-сила. И как только это произойдёт, как только вы это выпустите, пути назад не будет», — предупредил он.

Это не новый аргумент в дискуссии об AI safety, но примечательно, кто его произносит. Диллер — не технолог и не исследователь безопасности ИИ. Он медиапредприниматель с десятилетиями опыта в индустрии, где он наблюдал, как интернет перекроил рекламный рынок, телевидение и издательский бизнес. Его слова отражают восприятие человека, который видел, как «великое неизвестное» уже однажды изменило почти всё.

Примечательно и другое: Диллер прямо сказал, что его не интересует, окупятся ли гигантские инвестиции в ИИ. «Мне всё равно. Я в это не вложен. Но прогресс будет сделан» — это позиция наблюдателя, а не стейкхолдера, что придаёт его оценкам определённую независимость.

Что это означает в более широком контексте

Высказывания Диллера вписываются в нарастающую дискуссию о том, достаточно ли нынешних механизмов регулирования ИИ. В США и ЕС активно обсуждают рамочные законы об ИИ, однако темп технологического развития опережает законодательный процесс.

Для белорусского IT-сообщества эта дискуссия не абстрактна. Резиденты ПВТ и компании, работающие с западными заказчиками, уже сталкиваются с требованиями по AI governance — от политик использования генеративных инструментов до аудита алгоритмических решений. Вопрос о том, кто и как устанавливает правила для AGI, напрямую повлияет на то, в каких условиях будут работать разработчики и продуктовые команды по всему миру.

Диллер не дал ответа на вопрос, кто из лидеров ИИ-индустрии кажется ему неискренним — журналисты отметили это уклонение. Но его главный посыл оказался чётким: персональная порядочность Альтмана или любого другого CEO — это второстепенный вопрос. Первостепенный — успеть договориться о правилах игры до того, как AGI начнёт устанавливать их самостоятельно.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business.