Как госучреждениям внедрить ИИ без облачных сервисов

Государственный сектор попал под давление внедрять ИИ, но не может использовать стандартные решения частных компаний. По исследованию Capgemini, 79% руководителей госучреждений обеспокоены безопасностью данных при работе с ИИ. Проблема в том, что государственные данные требуют максимальной защиты и часто не могут покидать локальную сеть. Кроме того, многие госорганизации работают в условиях ненадёжного или отсутствующего интернета, что делает облачные решения невозможными.

В отличие от частного сектора, который полагается на облачную инфраструктуру и готов к определённым рискам, государство требует полного контроля над информацией, её верифицируемости и минимальных перебоев в работе. Исследование Elastic показало, что 65% руководителей госучреждений испытывают трудности с обработкой данных в реальном времени и в масштабе. Добавьте к этому нехватку GPU-ресурсов (государство редко закупает мощные видеокарты в отличие от IT-компаний), и становится ясно: большие языковые модели типа ChatGPT здесь просто не работают.

Решение — компактные специализированные языковые модели (SLM), которые используют миллиарды параметров вместо сотен миллиардов. Они работают локально, требуют меньше вычислительных ресурсов и дешевле в содержании. Исследования показывают, что SLM работают не хуже, а иногда лучше, чем большие модели. Данные хранятся защищённо вне модели и извлекаются только при запросе. Такой подход позволяет госучреждениям использовать чувствительную информацию эффективно, избегая сложности управления огромными моделями в облаке.

Самое интересное — SLM открывают возможности, о которых часто забывают при обсуждении ИИ. Государство накопило горы неструктурированных данных: технические отчёты, документы закупок, протоколы, счета. Современный ИИ может индексировать всё это (включая PDF, сканы, изображения, таблицы, аудиозаписи) и давать точные ответы на естественном языке. Это радикально улучшает поиск информации и помогает чиновникам принимать решения на основе данных. По прогнозу Gartner, к 2027 году специализированные SLM будут использоваться в три раза чаще, чем большие модели.

Дополнительный плюс — прозрачность и соответствие регуляциям. SLM-алгоритмы можно документировать и сертифицировать, они соответствуют GDPR и другим требованиям конфиденциальности. Локальное хранение данных минимизирует риски, а целевое обучение модели на специфических данных снижает ошибки и «галлюцинации» ИИ. Совет экспертов простой: начните не с чат-бота, а с улучшения поиска. Большая часть ИИ-интеллекта — это просто умение найти нужную информацию из правильных источников.

— По материалам MIT Technology Review: оригинальная статья. Перевод и адаптация — редакция Digital Business by.