Osaurus: Mac-приложение, которое объединяет локальные и облачные ИИ-модели в одном интерфейсе

Стартап Osaurus выпустил одноимённый open source LLM-сервер для macOS, который позволяет запускать языковые модели прямо на компьютере пользователя или подключаться к облачным провайдерам — и всё это через единый интерфейс. За неполный год с момента запуска приложение скачали более 112 000 раз. Проект участвует в акселераторе Alliance в Нью-Йорке и уже присматривается к корпоративному рынку.

От «ИИ-скрепки» до полноценного LLM-сервера

Идея Osaurus выросла из другого продукта основателей — десктопного ИИ-компаньона Dinoki, который сооснователь Теренс Пэ описывал как «Clippy на стероидах». Пользователи Dinoki задавали закономерный вопрос: зачем платить за приложение, если всё равно нужно тратить деньги на токены облачных провайдеров?

Этот вопрос подтолкнул Пэ — бывшего инженера Tesla и Netflix — к идее запускать ИИ локально. «Ты можешь делать на Mac практически всё: просматривать файлы, работать с браузером, менять системные настройки. Я понял, что это отличная позиция для персонального ИИ», — рассказал он изданию TechCrunch. Проект с самого начала развивался в открытом доступе: фичи добавлялись публично, баги фиксились на виду у сообщества.

Сооснователем проекта также выступает Сэм Ю. Оба сейчас проходят программу акселератора Alliance.

Что умеет Osaurus и чем отличается от конкурентов

По своей архитектуре Osaurus — это так называемый harness, управляющий слой, который соединяет разные ИИ-модели, инструменты и рабочие процессы через один интерфейс. Похожую роль играют OpenClaw и Hermes, однако те продукты ориентированы преимущественно на разработчиков, умеющих работать с терминалом. Кроме того, некоторые из них имеют задокументированные уязвимости в безопасности.

Osaurus позиционирует себя иначе: простой интерфейс для обычного пользователя плюс аппаратно-изолированная виртуальная песочница, которая ограничивает доступ ИИ к системе и защищает данные. Приложение поддерживает локальные модели — MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4 и другие, включая фирменные on-device модели Apple и семейство LFM от Liquid AI. В облаке доступны OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama и LM Studio.

Приложение реализует полноценный MCP-сервер (Model Context Protocol), что позволяет любому совместимому клиенту получать доступ к инструментам пользователя. В комплекте идут более 20 нативных плагинов: Mail, Calendar, Vision, Browser, Git, Filesystem, XLSX, PPTX, Music, Search и другие. Недавно добавили голосовые возможности.

Главное преимущество такой архитектуры — возможность выбирать модель под конкретную задачу. Разные LLM имеют разные сильные стороны, и пользователь не привязан к одному провайдеру.

Аппаратные требования и перспективы локального ИИ

Запуск языковых моделей на собственном железе пока остаётся ресурсоёмким занятием. Для базовой работы с локальными моделями нужно минимум 64 ГБ оперативной памяти. Для крупных моделей вроде DeepSeek V4 Пэ рекомендует системы с 128 ГБ RAM — то есть речь идёт о Mac Studio или Mac Pro верхних конфигураций, которые стоят от нескольких тысяч долларов.

Однако основатель убеждён, что порог входа будет снижаться. «Интеллект на ватт — ключевая метрика для локального ИИ — растёт очень быстро. Год назад локальный ИИ едва мог закончить предложение, а сегодня он запускает инструменты, пишет код, работает с браузером и может заказать товар на Amazon», — говорит Пэ.

Конкуренты Osaurus на рынке локальных LLM-клиентов — Ollama, Msty, LM Studio и ряд других. Osaurus отличается прежде всего ориентацией на массового пользователя, а не только на разработчиков, и гибридным подходом: локальные и облачные модели в одном окне.

Корпоративный рынок и снижение нагрузки на дата-центры

Следующий шаг для команды — выход на B2B-сегмент. В первую очередь рассматриваются отрасли с высокими требованиями к конфиденциальности: юридические компании и здравоохранение. Локальный запуск LLM позволяет обрабатывать чувствительные данные без передачи их в облако — что критично для соблюдения регуляторных требований.

Долгосрочная ставка команды — на децентрализацию ИИ-инфраструктуры. «Вместо того чтобы полагаться на облако, компания может развернуть Mac Studio on-prem. Это потребует значительно меньше электроэнергии, но сохранит все возможности облачного ИИ без зависимости от дата-центра», — объясняет Пэ.

Для белорусского рынка этот тренд актуален по нескольким причинам. Компании из ПВТ, работающие с персональными данными клиентов из ЕС, сталкиваются с требованиями GDPR и ограничениями на трансграничную передачу данных. Локальный запуск LLM на собственном железе — один из способов соответствовать этим требованиям без отказа от ИИ-инструментов. Кроме того, волатильность курса доллара делает подписки на облачные API-сервисы менее предсказуемыми по стоимости, тогда как разовая покупка железа фиксирует затраты.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business.