Модерация пользовательского контента с журналом решений

Сценарий проверяет входящий контент, отсекает явные нарушения, спорное разбирает по ролям — оценка, апелляция, мера — и фиксирует каждое решение с обоснованием.

  • Разбор идёт круглосуточно и без снижения планки к вечеру
  • У каждого решения есть обоснование — можно объяснить автору
  • Апелляция встроена в процесс, а не живёт в почте
  • Полный журнал решений хранится и доступен для проверки
Webhook
Поставить себеScriptera

Как это работает

Интеграция Microsoft SQL и devino собирается из готового сценария — вот как он устроен по шагам.

  1. Запуск: Модерация контента Webhook
  2. Затем: Настройки сценария
  3. Затем: Агент контента Signal
  4. Проверка: Маршрут по статусу валидации
  5. Если да — Сохранить валидный контент
  6. Проверка: Объединить все пути
  7. Затем: Подготовить данные для аудита
  8. Затем: Журнал аудита
  9. Если нет — Управлять агентом
  10. Проверка: Маршрутизировать по типу действия
  11. Если да — Сохранить помеченный контент
  12. Если нет — Сохранить действия по принуждению
  13. Проверка: Проверить необходимость эскалации
  14. Если да — Уведомить команду модерации
  15. Если да — Эскалационное письмо
  16. Затем: OpenAI Model - Контент Signal
  17. Затем: Структурированный вывод - Контент Signal
  18. Затем: OpenAI Model - Управление
  19. Затем: Структурированный вывод - Управление
  20. Затем: Инструмент агента проверки
  21. Затем: OpenAI Model - Инструмент проверки
  22. Затем: Структурированный вывод - Инструмент проверки
  23. Затем: Инструмент агента апелляции
  24. Затем: OpenAI Model - Инструмент апелляции
  25. Затем: Структурированный вывод - Инструмент апелляции
  26. Затем: Инструмент агента принудительных мер
  27. Затем: OpenAI Model - Инструмент принудительных мер
  28. Затем: Структурированный вывод - Инструмент принудительных мер

Такой сценарий можно запустить в Scriptera: задача описывается обычными словами, сборка и запуск — на стороне сервиса.

Похожие сценарии