Защита ИИ-помощника от вредоносных входящих сообщений

Сценарий проверяет любой внешний текст до того, как он попадёт к ИИ-помощнику: ищет попытки манипуляции, сканирует ссылки, считает риск и блокирует опасное.

  • Опасный текст не доходит до помощника
  • Ссылки проверяются отдельно — не только слова
  • Каждая попытка записывается в журнал
  • Команда безопасности узнаёт сразу, в чате
Webhook
Поставить себеScriptera

Как это работает

Уведомления из Stackby в devino настраиваются готовым сценарием: он ловит событие и сразу шлёт сообщение.

  1. Запуск: Принять внешний ввод
  2. Затем: Эвристика паттерна Filter
  3. Затем: Извлечь URL для сканирования
  4. Затем: Сканировать URL через API
  5. Затем: LLM защитный оценщик
  6. Затем: Рассчитать оценку риска
  7. Проверка: Маршрутизатор уровня риска
  8. Если да — Записать попытку атаки
  9. Запуск: Ответить безопасно
  10. Если нет — Slack оповещение SOC
  11. Запуск: Ответить блокировкой

Эту интеграцию Stackby и devino можно запустить в Scriptera: опишите задачу словами — сценарий соберут, запустят и будут следить, чтобы он работал.

Похожие сценарии