Tencent выпустил открытую модель Hy3: 295 млрд параметров и конкуренция с моделями в 5 раз крупнее

Tencent официально открыл доступ к языковой модели Hy3 — одной из наиболее эффективных по соотношению размера к производительности среди публично доступных решений. Модель построена на архитектуре Mixture-of-Experts и распространяется под лицензией Apache 2.0, то есть доступна для коммерческого использования без ограничений. Это прямой вызов как западным лабораториям, так и другим китайским игрокам, активно публикующим открытые веса.

Архитектура: много параметров, мало вычислений

Hy3 содержит 295 миллиардов параметров в совокупности, однако при обработке каждого запроса задействуются лишь 21 миллиард из них. Дополнительно модель включает слой MTP (Multi-Token Prediction) с 3,8 млрд параметрами, который ускоряет генерацию текста за счёт предсказания нескольких токенов одновременно.

Такой подход — суть архитектуры MoE: вместо того чтобы прогонять каждый запрос через всю нейросеть целиком, система активирует только релевантные «эксперты». Это радикально снижает вычислительные затраты при инференсе. Именно поэтому Tencent утверждает, что Hy3 конкурирует с моделями, чей активный размер в 2–5 раз больше.

Контекстное окно модели составляет 256 000 токенов — это примерно 200 тысяч слов или несколько объёмных технических документов одновременно. Для корпоративных задач вроде анализа договоров, кодовых баз или длинных переписок это принципиально важная характеристика.

Бенчмарки и уровень галлюцинаций

В слепом тестировании с участием 270 экспертов Hy3 набрала 2,67 балла из 4, опередив конкурента GLM-5.1, который получил 2,51 балла. Это не нейтральный академический бенчмарк — оценку выставляли живые специалисты, что делает результат более прикладным, хотя и менее воспроизводимым.

Отдельного внимания заслуживает динамика галлюцинаций. По внутренним данным Tencent, показатель снизился с 12,5% до 5,4% по сравнению с предыдущими версиями. Для задач, где точность критична — юридический анализ, финансовая аналитика, медицина — это существенный сдвиг. Впрочем, внутренние тесты производителя всегда стоит воспринимать с поправкой на методологию.

Модель уже интегрирована в собственные продукты Tencent: корпоративный ассистент WorkBuddy, потребительский чат-бот Yuanbao, мессенджер WeChat и игровой помощник для Path of Exile: Advent. Это означает, что Hy3 прошла не только лабораторное тестирование, но и нагрузку реальных пользователей.

Доступность и инфраструктура

Веса модели опубликованы на Hugging Face, ModelScope и GitHub. Параллельно доступна версия с квантизацией FP8 — она занимает меньше памяти и быстрее работает на потребительском железе при незначительной потере точности. Tencent также анонсировал поддержку платформ OpenRouter и Cline, хотя конкретные сроки не названы.

Для белорусских IT-команд и стартапов из ПВТ это означает практически нулевой порог входа: модель можно развернуть локально или через облако без лицензионных отчислений. FP8-версия снижает требования к GPU-памяти, что актуально при ограниченном бюджете на инфраструктуру.

Что это значит для рынка открытых моделей

Выход Hy3 продолжает тенденцию, которую задали DeepSeek и Qwen: китайские компании последовательно публикуют конкурентоспособные модели в открытом доступе, создавая давление на закрытые коммерческие решения. Для разработчиков это расширяет выбор — теперь есть несколько сопоставимых по качеству открытых альтернатив GPT-4o-класса.

Архитектура MoE с активацией малой доли параметров становится де-факто стандартом для больших моделей: её используют Mixtral, DeepSeek-V3, теперь Hy3. Это не случайно — именно такой подход позволяет масштабировать возможности модели без пропорционального роста стоимости инференса.

Для белорусских компаний, работающих с AI-продуктами или встраивающих языковые модели в сервисы, появление Hy3 расширяет пространство выбора. Лицензия Apache 2.0 снимает юридические вопросы при коммерческом использовании, а открытые веса дают возможность дообучения под специфические задачи — например, под белорусскоязычный контент или узкоотраслевые корпусы данных.

— По материалам The Decoder: оригинальная статья. Перевод и адаптация — редакция Digital Business.