Mantis
AI / ML
Описание
Сервис для развертывания собственного LLM-шлюза в облаке AWS одной командой. Для небольших команд на ранних этапах разработки.
Original (EN)
A self-hosted LLM gateway — Hey HNers - Riz here.I got together with a few guys and we built an LLM gateway.It's designed for small teams working on early-stage products, and can be deployed to AWS using a single command (i.e. `mantis deploy`).It's self-hosted, and is designed to belong to you.
Проблема
Сложность самостоятельного развертывания LLM-инфраструктуры для небольших команд.
Решение
Self-hosted шлюз для работы с LLM, разворачиваемый в AWS одной командой.
Для кого
Небольшие команды на ранних стадиях разработки продуктов.
Идея для адаптации в РБ
1. Интеграция с резидентами Парка высоких технологий для быстрого развертывания приватных LLM-решений в локальных проектах (например, для автоматизации документооборота через e-doc.by или чат-ботов для ERIP). 2. Адаптация под белорусские IT-команды, работающие с госсектором — развертывание на локальных облачных сервисах (например, beCloud) для обработки данных без выхода за пределы юрисдикции РБ.
⚠ AI-черновик. Используй как seed для собственных идей — конкретные цифры, ниши и партнёров проверяй сам.