Oodle.ai
AI / ML
Описание
Стартап предлагает решение для хранения и анализа данных наблюдения за LLM-агентами с высокой производительностью и низкой стоимостью.
Original (EN)
$10 per million agent traces — Hi HN, we're Kiran and Vijay!Over the past two years, we have built a columnar storage engine for observability: logs, metrics, and traces. Today, it's exciting for us to show what we've built on top of that foundation: LLM Agent Observability.Given how non-deterministic agents are, storing all traces without sampling was critical for us. But these traces tend to be in the MBs, sometimes GBs - we needed to store them inexpensively. We also needed the queries and analyses to be fast. To meet both these goals, we store them in S3 in our own parquet-l
Проблема
Высокая стоимость и низкая скорость хранения и анализа больших объемов данных трассировки LLM-агентов.
Решение
Собственный columnar storage engine для эффективного хранения данных в S3 в формате parquet с быстрыми запросами.
Для кого
Команды, работающие с LLM-агентами и observability.
Идея для адаптации в РБ
1. Интеграция с ПВТ-резидентами для мониторинга AI-агентов в IT-продуктах: например, логирование и анализ недетерминированных действий чат-ботов для белорусских сервисов (Tut.by, Onliner, банковские чат-боты ВТБ-РБ/Беларусбанка). 2. Оптимизация хранения трейсов для локальных e-commerce (евроопт, 21vek.by) — дешёвый мониторинг AI-рекомендательных систем с привязкой к ERIP-платежам или ParkBy.
⚠ AI-черновик. Используй как seed для собственных идей — конкретные цифры, ниши и партнёров проверяй сам.