Microsoft выпустила открытый стандарт для управления поведением AI-агентов

Microsoft опубликовала открытую спецификацию Agent Control Specification (ACS) — стандарт, который позволяет разработчикам, специалистам по безопасности и комплаенс-командам задавать единые политики поведения для AI-агентов. Инструмент решает проблему, с которой сталкиваются компании при масштабировании агентных систем: разрозненные, трудно аудируемые механизмы контроля, которые сложно переносить между разными окружениями и фреймворками.

Появление ACS — прямой ответ на растущее число инцидентов, когда AI-агенты выполняли непредусмотренные действия: неправильно использовали инструменты, запускали цепочки операций с непредсказуемыми последствиями или обходили ограничения, прописанные в системных промптах. Индустрия пока справляется с этим вручную, и Microsoft предлагает системный подход.

Как работает Agent Control Specification

Спецификация вводит концепцию «точек перехвата» — моментов в жизненном цикле задачи агента, когда применяются политики. Проверки происходят до получения входных данных, перед вызовом инструмента, после получения результата от инструмента и перед отправкой финального ответа пользователю.

Каждая политика описывает, что агент вправе делать, что ему запрещено, в каких случаях требуется одобрение человека и какие события нужно логировать для последующего аудита. Политика может разрешить действие, заблокировать его, скрыть чувствительные данные или поставить операцию на паузу до подтверждения оператором.

Разработчики могут встраивать в политики классификаторы входных и выходных данных — для категоризации информации, прогнозирования результатов или выбора нужного поведения агента. Также поддерживается подключение LLM в роли «судьи», который оценивает соответствие действий агента заданным правилам. Отдельно предусмотрена логика проверки вызовов инструментов, точности входных данных и корректности ответов.

Ключевое архитектурное решение — политики хранятся в виде отдельных файлов и могут поставляться вместе с агентом. Это означает, что правила безопасности «следуют» за агентом при переносе между фреймворками и средами развёртывания, а не привязаны к конкретной инфраструктуре.

Поддерживаемые фреймворки и практическое применение

ACS поставляется в виде SDK с готовыми плагинами для большинства популярных агентных фреймворков: LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI и инструментов на базе MCP. Охват фактически включает весь основной стек, который сегодня используют команды при построении агентных систем.

До появления подобных стандартов разработчики решали задачу контроля тремя способами: прописывали инструкции в системном промпте, добавляли кастомные проверки непосредственно в код приложения или использовали классификаторы для фильтрации проблемных входных и выходных данных. Каждый из подходов рабочий, но в совокупности они порождают фрагментированную систему контроля, которую сложно аудировать и практически невозможно переиспользовать в разных системах.

ACS переводит эти контроли в единый governance-слой, отделённый от бизнес-логики агента. Для enterprise-компаний это принципиально: появляется возможность централизованно управлять политиками, версионировать их и проводить аудит без погружения в код каждого отдельного агента.

Что это значит для белорусских разработчиков

Для IT-компаний из ПВТ и Hi-Tech Park, которые активно строят агентные решения для зарубежных заказчиков, появление ACS — сигнал о формировании нового слоя требований со стороны enterprise-клиентов. Крупные корпоративные покупатели в США и Европе всё чаще включают в тендерную документацию требования к аудируемости и управляемости AI-систем.

Компании, которые сегодня разрабатывают агентные продукты на LangChain, AutoGen или OpenAI SDK, могут начать тестировать ACS уже сейчас — спецификация открытая, SDK доступен публично. Это также означает, что специализация в области AI governance и безопасности агентных систем становится востребованной компетенцией на рынке труда.

Важно понимать контекст: ACS пока не является отраслевым стандартом де-факто — это инициатива Microsoft, пусть и оформленная как open source. Насколько широко её примет сообщество, во многом зависит от того, присоединятся ли к экосистеме другие крупные игроки. Тем не менее поддержка SDK для всех ключевых фреймворков с самого старта существенно снижает барьер для adoption.

— По материалам TechCrunch: оригинальная статья. Перевод и адаптация — редакция Digital Business.