Защита ИИ-помощника от вредоносных входящих сообщений

Сценарий проверяет любой внешний текст до того, как он попадёт к ИИ-помощнику: ищет попытки манипуляции, сканирует ссылки, считает риск и блокирует опасное.

  • Опасный текст не доходит до помощника
  • Ссылки проверяются отдельно — не только слова
  • Каждая попытка записывается в журнал
  • Команда безопасности узнаёт сразу, в чате
Webhook
Поставить себеScriptera

Как это работает

Чтобы получать уведомления из Microsoft SQL в botHelp, не нужен программист: готовый сценарий следит за событиями и присылает сообщения сам.

  1. Запуск: Принять внешний ввод
  2. Затем: Эвристика паттерна Filter
  3. Затем: Извлечь URL для сканирования
  4. Затем: Сканировать URL через API
  5. Затем: LLM защитный оценщик
  6. Затем: Рассчитать оценку риска
  7. Проверка: Маршрутизатор уровня риска
  8. Если да — Записать попытку атаки
  9. Запуск: Ответить безопасно
  10. Если нет — Slack оповещение SOC
  11. Запуск: Ответить блокировкой

Настроить такую автоматизацию (Microsoft SQL + botHelp) можно в Scriptera — без кода: опишите задачу, остальное сделают за вас.

Похожие сценарии