Защита ИИ-помощника от подложных команд — на входе

Сценарий досматривает каждый входящий текст: ищет спрятанные команды и вредное содержимое, чистит или отклоняет опасное и пропускает к ИИ только безопасное.

  • Опасный текст отсеивается на входе
  • Спрятанные команды находятся
  • При угрозе — оповещение на почту
  • К ИИ доходит только безопасное
Webhook
Поставить себеScriptera

Как это работает

Чтобы связать Microsoft Outlook и Webhook, не нужен программист: готовый сценарий соединяет их за пару минут.

  1. Запуск: Вебхук
  2. Затем: Извлечь данные
  3. Затем: Текстовые нарушения
  4. Затем: Проверить trueCategories
  5. Проверка: Проверить успех
  6. Если да — Слияние
  7. Затем: Проверка ввода и обнаружение шаблонов
  8. Проверка: Тот rejected?
  9. Если да — Сообщить об отклонении
  10. Затем: EMAIL
  11. Затем: Пользовательское сообщение
  12. Запуск: Ответить на вебхук
  13. Если нет — Очистка и нейтрализация контента
  14. Проверка: ОТКЛОНЕНО?
  15. Если нет — Форматировать контент
  16. Затем: Финальное QA и готовность к доставке
  17. Проверка: Слияние1
  18. Затем: Задать поля
  19. Проверка: Переключить

Такой сценарий можно запустить в Scriptera: задача описывается обычными словами, сборка и запуск — на стороне сервиса.

Похожие сценарии