· для LLM
контур заказчика
LLM Firewall внутри вашего периметра
Весь AI‑трафик компании под контролем, не замедляя внедрение: DLP на входе и выходе, kill‑switch, доказуемый аудит.
Одна строка конфига. Все модели за шлюзом.
Меняется только base_url на адрес шлюза. SDK, код клиента и модели остаются прежними, а ключ шлюза заменяет ключ вендора, и трафик идёт через инспекцию Prizma.
from openai import OpenAI
client = OpenAI(
base_url="https://prizma.acme.internal/v1", # шлюз вместо api.openai.com
api_key=PRIZMA_TOKEN, # ключ шлюза, не ключ вендора
)
resp = client.chat.completions.create(model="gpt-5", messages=msgs) from anthropic import Anthropic
client = Anthropic(
base_url="https://prizma.acme.internal", # трафик идёт через Prizma
api_key=PRIZMA_TOKEN, # ключ шлюза, не ключ вендора
)
msg = client.messages.create(model="claude-sonnet-4.6", messages=msgs) # один env, и весь coding-агент ходит через шлюз
export ANTHROPIC_BASE_URL="https://prizma.acme.internal"
export ANTHROPIC_API_KEY="$PRIZMA_TOKEN" # ключ шлюза, не ключ вендора
claude # запросы инспектируются на входе и на выходе # тот же вызов, домен шлюза вместо api.openai.com
curl https://prizma.acme.internal/v1/chat/completions \
-H "Authorization: Bearer $PRIZMA_TOKEN" \
-H "Content-Type: application/json" \
-d '{"model": "gpt-5", "messages": [{"role": "user", "content": "..."}]}' Один путь для каждого запроса
Один шлюз между разработчиками, агентами и моделями. DLP отрабатывает дважды: до отправки к модели и после ответа. Любую стадию можно отключить kill-switch'ем или переписать политикой.
Маршрутизация под доступность, стоимость и латентность
Контракт для клиента остаётся один, а под ним шлюз сам выбирает провайдера и модель под текущую нагрузку.
Доступность
Упавший маршрут не роняет запрос: retry и fallback ведут по цепочке вплоть до локальной модели в вашем периметре.
Стоимость
Семантический кэш в два уровня отвечает на повтор, не обращаясь к провайдеру и не сжигая токены заново.
Латентность
Живой rolling p95 по каждому провайдеру, а Thompson-Sampling переставляет маршрут на самый быстрый ответ.
Инспектировать, управлять, доказывать
Инспектировать
Видит больше, чем просто секреты, на входе и на выходе.
- DLP-слои 0–7 + multimodal (OCR)
- pre-call и post-call, streaming
- секреты, PII, финданные · миллисекунды
Управлять
Политикой решаете, что уходит в модель: до вызова, а не после.
- политики BLOCK / MASK / WARN, RBAC
- бюджеты и cost attribution
- kill-switch L0–L4 · мгновенно
Доказывать
Каждый запрос оставляет след, который выдержит аудит.
- HMAC-chained аудит, tamper-evident
- экспорт в SIEM по CEF
- evidence packs 152-ФЗ / GDPR / SOC2
Regex, NER и детектор кода: на входе и на выходе
Regex с валидаторами (Luhn для карт, MOD-11 для ИНН), Presidio NER для имён и организаций, отдельный детектор кода: AWS-ключи в исходниках, GPL/AGPL-заголовки, внутренние API-домены не уходят к модели. Три режима: токены [CARD_1], формат-сохраняющая подмена (валидный синтетический ИНН и карта с корректным Luhn) или полная редакция. Ниже работает первый из восьми слоёв, прямо в браузере. Переключите режим вручную, чтобы увидеть разницу.
Данные не покидают периметр
Не SaaS. Продукт живёт в вашем контуре, на железе, которое вы контролируете: под вашим SIEM, хранилищем секретов и SSO. Разворачивается за пару минут, работает в air-gap.
РазвёртываниеВесь AI-трафик под вашим контролем
Self-hosted LLM Firewall в вашем периметре. Одна строка base_url, и ни один промпт не уходит напрямую.