AI Security: Угрозы LLM

Дашборд мониторинга угроз LLM из модуля AI Security. Показывает сработки правил детектирования атак на LLM-приложения в терминах OWASP LLM Top 10: промпт-инъекции (LLM01) и утечки конфиденциальной информации (LLM06) — по пользователям, агентам и паттернам.

Что внутри

• KPI-панели по числу сработок и инцидентов.
• Сработки по правилам и по пользователям и агентам.
• Динамика сработок по OWASP-категориям, анализ сработок.
• OWASP LLM01: промпт-инъекции по подкатегориям, последние промпт-инъекции.
• OWASP LLM06: утечки по категориям, сработки по паттернам, последние утечки конфиденциальных данных, детали утечки.

Фильтр: временной диапазон.

Требования

• Smart Monitor: >=6.1
• Источники данных: события LLM в индексах gen_ai_events* — конфигурация сбора opentelemetry_gen_ai; зарегистрированные инциденты — системный индекс .smos_incident-* (наполняется правилами модуля AI Security).
• Панели анализа используют справочники prompt_injection_patterns и llm_warning_keywords, которые поставляются с модулем AI Security: без модуля соответствующие панели останутся пустыми.

Установка

Загрузите архив ai_security_threats-<версия>.zip в меню «Управление контентом» и установите дашборд.

Поток данных

Конфигурации сбора данных