Плейбук SOC-аналитика

Spectorn защищает AI-трафик на уровне gateway: входной prompt, model-visible поля, optional memory context и output проверяются до того, как опасный контент попадёт к модели или вернётся пользователю.

1. Как читать событие

В каждом событии сначала смотрите:

1. verdict — запрос разрешён, заблокирован или записан в shadow.
2. severity и risk_score — насколько риск высокий.
3. engines / indicators — какие детекторы сработали.
4. tenant, api_key_prefix, model, provider — кому принадлежит трафик и куда он шёл.
5. session / conversation_id — является ли это одиночным запросом или частью цепочки.

Объяснение в UI строится из deterministic evidence: matched indicators, engine names, policy mode и correlation context. Если позже будет включён отдельный LLM-summary слой, он должен быть явно помечен как summary, а не как источник истины.

2. Типовой triage

Prompt injection / jailbreak

Признаки:

• попытка игнорировать предыдущие инструкции;
• просьба раскрыть system prompt;
• role-play вроде “developer mode”;
• payload в документе, memory или tool result.

Действие:

• в enforce — подтвердить, что блокировка не ломает легитимный flow;
• в shadow — оценить, стоит ли переводить tenant/policy в enforce;
• если атака пришла из RAG/document source — передать владельцу источника на очистку.

Data exfiltration / PII

Признаки:

• массовый запрос записей;
• попытка вывести токены, ключи, персональные данные;
• просьба отправить данные во внешний URL, Markdown image или tool.

Действие:

• проверить, есть ли legitimate business purpose;
• убедиться, что downstream tool не исполнил опасное действие;
• при повторяемости поднять incident и усилить allow/deny policy.

Tool abuse / MCP

Признаки:

• модель пытается вызвать tool не по назначению;
• меняется цель агента;
• появляется цепочка “private data + untrusted input + outbound channel”.

Действие:

• проверить tool schema и scope credential;
• ограничить tool permissions;
• включить более строгий scan mode для tenant или route.

3. Пустой dashboard

Пустые графики после регистрации обычно означают “ещё не было gateway-трафика”, а не аварию SOC. Минимальная проверка:

После этого смотрите scan history/logs. Для chat/completions дополнительно нужен provider.

4. Что эскалировать

• Один tenant получает много high severity blocks за короткое время.
• Один и тот же payload повторяется с разной обфускацией.
• Memory recall повышает риск запроса.
• Provider routing пытается уйти на запрещённую модель.
• Output scan блокирует ответ модели после успешного upstream call.

5. Честные ограничения

Spectorn не заменяет RBAC в вашем приложении, tenant-scoped retrieval в RAG, секрет-хранилище и review прав MCP/tools. Gateway закрывает AI boundary, но источник данных и tool permissions должны быть корректно спроектированы в приложении.