Cloud Pathways для GKE перешёл в статус GA
Распределённая среда выполнения ML, разработанная для обучения Gemini, теперь доступна всем клиентам Google Cloud
Google Cloud объявил о переходе Cloud Pathways на Google Kubernetes Engine в статус общей доступности (GA). Среда выполнения изначально создана в Google DeepMind для обучения и обслуживания фронтирных моделей, включая Gemini, и рассчитана на масштабные гетерогенные парки ускорителей. За последние 90 дней ведущие AI-компании и крупные предприятия обработали через Pathways на GKE более 130 миллионов чип-часов Cloud TPU разных поколений.
Что получают клиенты
Теперь каждый клиент Google Cloud получает доступ к той же архитектуре единого контроллера, совмещённым Python-сайдкарам и эластичной отказоустойчивости, которые используются во внутренних AI-нагрузках Google. Единый JAX-клиент через JAX_PLATFORMS=proxy и pathwaysutils управляет несколькими большими TPU-срезами, охватывающими тысячи чипов, как если бы они были подключены локально. Эластичное обучение позволяет продолжать задание при отказе отдельного среза: с помощью снимков в памяти хоста система динамически перераспределяет нагрузку на N-1 срезов без остановки клиента. Совмещённые Python-сайдкары с поддержкой общей памяти дают возможность запускать вычислительно интенсивную логику — загрузку данных и чекпоинтинг — непосредственно на TPU-хостах.
Сценарии применения и интеграции
Среди подтверждённых сценариев — гиперштабный инференс и RL-циклы на десятках тысяч чипов TPU v5p, Trillium и Ironwood, а также эластичное предобучение научных фундаментальных моделей с использованием MaxText и Tunix на мультисрезовых кластерах Trillium. Дополнительно анонсирован предварительный просмотр (Preview) интеграции с Cluster Director для расширения Cloud Pathways на Slurm-кластеры с поддержкой единого многосрезового выполнения JAX, эластичного обучения и интерактивных ноутбуков.
Свежие новости
Все новости
Google открыла TPU Sync: библиотека для управления KV-кэшем и весами моделей на TPU
Google выпустила TPU Sync — открытую C++-библиотеку, которая организует передачу тензоров между HBM, оперативной памятью хоста, локальными SSD и сетевым хранилищем как единой иерархией памяти. Для MoE-моделей от 235B до 480B параметров библиотека сокращает задержку передачи KV-кэша и время до первого токена в среднем на 90% по сравнению с работой без TPU Sync.
NVIDIA Dynamo получил рецепты развёртывания для ведущих корейских открытых моделей
NVIDIA выпустила оптимизированные рецепты развёртывания на базе Dynamo для четырёх корейских открытых моделей. Конфигурации рассчитаны на GPU NVIDIA B200 и заявляют до двукратного прироста производительности из коробки.
Copilot Impact Dashboard теперь показывает Chat и VS Code Agents
GitHub обновил Copilot Impact Dashboard: диаграмма принятия теперь охватывает девять функций, включая Copilot Chat и окно VS Code Agents. Когорта «Passive users» переименована в «Chat-first users».
AWS Agent Registry стал доступен в регионе GovCloud (US-West)
Amazon Bedrock AgentCore расширил географию: AWS Agent Registry теперь доступен в регионе AWS GovCloud (US-West), предназначенном для организаций государственного сектора США и их партнёров.
AWS Elemental MediaConvert получил встроенную генерацию субтитров на базе ИИ
AWS Elemental MediaConvert интегрировал Smart Subtitles — решение на основе ИИ и современных моделей распознавания речи. Функция автоматически транскрибирует аудио и встраивается непосредственно в VOD-пайплайны без внешних сервисов субтитрования.
Vercel CLI получил флаг автоудаления новых проектов
В Vercel CLI v65.12.0 появился флаг --delete-project-after: при создании нового проекта через vercel deploy можно задать срок, по истечении которого проект удалится автоматически.
Vercel AI Gateway получил инструменты DeepSeek Search и DeepSeek Fetch
Vercel добавил в AI Gateway два инструмента DeepSeek: Search для поиска релевантных страниц и Fetch для получения их содержимого в формате Markdown. Оба работают с любой моделью, поддерживающей вызов инструментов.
Google Cloud перевёл серверы Z4M в общую доступность
Google Cloud объявил об общей доступности серии Z4M — машин с оптимизированным хранилищем, доступных как виртуальные машины и bare-metal инстансы. Серия предлагает до 192 vCPU, 1 536 GiB памяти и 400 Gbps RDMA-сети с поддержкой GPUDirect и TPUDirect Storage.
GitHub Copilot Usage Metrics API: новые поля для анализа code review
API метрик использования Copilot получил новый объект copilot_code_review в построчных отчётах repos-1-day для организаций и предприятий. Теперь можно отслеживать, как разработчики реагируют на замечания Copilot, и считать addressed rate по каждому репозиторию.