Lelu
Другое
Описание
Стартап предлагает решение для контроля действий AI-агентов OpenAI на основе уровня уверенности и защиты от prompt injection.
Original (EN)
gate OpenAI agent actions on confidence and prompt injection
Проблема
AI-агенты OpenAI могут выполнять нежелательные действия из-за низкой уверенности или уязвимости к prompt injection.
Решение
Система автоматически блокирует действия агентов при низком уровне уверенности или обнаружении попыток prompt injection.
Для кого
Разработчики, использующие OpenAI API
Идея для адаптации в РБ
1. Интеграция с белорусскими банками (Беларусбанк, ВТБ-РБ) для автоматизации обработки клиентских запросов через чат-ботов с защитой от prompt injection, особенно при работе с финансовыми данными. 2. Использование в IT-компаниях ПВТ для контроля качества ответов AI-ассистентов в корпоративных системах, например, при обработке внутренних документов через e-doc.by.
⚠ AI-черновик. Используй как seed для собственных идей — конкретные цифры, ниши и партнёров проверяй сам.