AI Observability расширяет Smart Monitor до полной наблюдаемости AI-инфраструктуры: её состояния, стоимости и надёжности. Модуль собирает телеметрию LLM-сервисов, GPU, AI-агентов и локальных AI-клиентов в единое окно состояния, расходов и производительности с готовыми сценариями для команд эксплуатации, ML и FinOps.
Для кого: ML/AI-платформенные инженеры и DevOps, FinOps, CTO и руководители AI-направления.
Шесть сценариев наблюдаемости AI-контура — от GPU до расходов на LLM.
Сводная операционная картина всего AI-контура с переходом к состоянию GPU в один клик.
Контроль потребления и стоимости LLM-запросов по моделям и провайдерам.
Разбор поведения AI-агентов и структуры запросов на уровне отдельных спанов.
Наблюдаемость AI-инструментов разработчиков на примере Claude Code.
Наблюдение за производительностью inference и AI-сервисов на уровне runtime-метрик.
Шесть готовых глобальных метрик включают AI-контур в ресурсно-сервисную модель здоровья.
AI Observability — контентный модуль. Работает поверх платформы Smart Monitor. Требуется базовый модуль Core; глобальные метрики здоровья публикуются в модуль МАЯК.
Выпуски платформы с изменениями, которые затрагивают модуль.
Первый выпуск модуля в составе Smart Monitor 6.1. Реализованы дашборды наблюдаемости AI-инфраструктуры и сквозной анализ AI-запросов по трассировкам. Добавлена наблюдаемость GPU: загрузка, память, температура и аппаратные ошибки видеокарт, инвентаризация GPU-парка. Реализована прозрачность расходов на LLM: токены и стоимость по моделям и провайдерам. Настроен сбор телеметрии со всего AI-стека с использованием OpenTelemetry GenAI. Глобальные метрики здоровья AI-инфраструктуры публикуются в модуль МАЯК.
