GitHub Copilot Fusion научился выбирать между локальными и облачными моделями

GitHub Copilot Fusion получил экспериментальную поддержку интеллектуальной маршрутизации локальных моделей. Функция работает в Copilot CLI, приложении Copilot и Visual Studio Code и позволяет использовать вычислительные ресурсы устройства без ручного выбора модели для каждого запроса.

Как включить и настроить

Функция opt-in и требует отдельной активации в каждом инструменте. В Copilot CLI нужно включить экспериментальный режим и открыть `/model` для настройки. В приложении Copilot следует настроить провайдера Windows ML в разделе настроек, включить автоматическую маршрутизацию в разделе экспериментов и начать новую сессию — на Windows локальные модели через Windows ML включены по умолчанию. В VS Code достаточно активировать флаг `chat.copilot.localModel.enabled`.

После настройки нужно выбрать режим Standard в Copilot Fusion — тогда система сама решает, какую модель использовать. Можно также явно выбрать локальную модель для сессии.

Поддерживаемые модели и платформы

На поддерживаемых устройствах Windows доступна загрузка модели MAI Code 1.1 Flash через провайдер Windows ML. Управляемая загрузка работает только на Windows. Маршрутизация в Copilot CLI также поддерживает модели, настроенные вручную через локальный OpenAI-совместимый сервер, — на Windows, macOS и Linux. Через такой сервер можно подключить MAI Code 1.1 Flash или Qwen3.8 Flash Next, однако управление загрузкой и средой выполнения остаётся за пользователем, а устройство должно располагать достаточными ресурсами.

Ограничения

Локальный инференс не делает сессию офлайн: решения о маршрутизации по-прежнему принимаются в облаке. Локальные модели могут отличаться по уровню защиты от облачных моделей Copilot. Добавление модели через конфигурацию BYOK не делает её автоматически доступной для маршрутизации Copilot Fusion. Приложение Copilot поддерживает подключение локальных моделей через BYOK и их прямой выбор, однако интеллектуальная маршрутизация в нём пока работает только с управляемыми моделями Windows ML.