Обзор архитектуры
Spectorn в текущем запуске - это прежде всего fail-closed API-шлюз для LLM-запросов. Он принимает OpenAI-compatible вызовы, применяет tenant-политику, проверяет вход, память и выход, а затем либо безопасно проксирует запрос к разрешенному провайдеру, либо блокирует его до отправки.
Производственный контур
Клиент / SDK
|
v
Spectorn API Gateway
|
+-- Auth, tenant policy, rate limits, billing/account gates
+-- Input scan: prompt, tools, schema, model-visible fields
+-- Optional memory recall with re-scan before prompt injection
+-- Provider routing: BYOK / hosted provider / model aliases
+-- Output scan: non-streaming and SSE sliding-window scan
|
v
Allowed model provider
Слои защиты
| Слой | Статус | Назначение |
|---|---|---|
| API Gateway | production path | Единая точка доступа к моделям, fail-closed политика, tenant isolation |
| sentinel-core | production library | Зарегистрированный каталог детекторов; фактическая ширина проверки зависит от scan-mode и политики |
| Memory / RLM | optional layer | Память и recall; recalled content повторно сканируется перед попаданием в prompt |
| Dashboard | production UI | Личный кабинет, ключи, usage, security library, admin/control surfaces |
| SOC / observe | production/optional | События, explain/audit, self-defense telemetry |
| immune | experimental | Go runtime guard under gomcp/cmd/immune; production kernel/eBPF enforcement is not claimed |
Что важно для честности claims
- Не утверждать, что каждый gateway-запрос проходит "101 движок параллельно": это зарегистрированный каталог, а не универсальная hot-path гарантия.
- Не обещать фиксированную сверхнизкую задержку как сетевой SLA. Любые latency-цифры должны ссылаться на конкретный benchmark и окружение.
- Не называть lattice-примитивы формальной LTL-верификацией production path. В runtime используются эвристики, pattern matching и последовательностные проверки.
- Не описывать
immuneкак production C/eBPF EDR, пока нет wired build path, privileges, deploy evidence и runtime evidence.
Launch posture
Production readiness для gateway определяется не количеством компонентов, а тем, что опасные состояния fail-closed: если scan engine насыщен, memory recall небезопасен, provider route невалиден, модель не разрешена или output scan не прошел, запрос не должен уходить дальше.