Кэш ответов ИИ по смыслу — меньше расходов

Как это работает

Интеграция Monday.com и Redis Chat Memory собирается из готового сценария — вот как он устроен по шагам.

1. Запуск: Новое сообщение в чате
2. Затем: Проверить похожие промпты
3. Затем: Анализировать результаты из хранилища
4. Проверка: Попадание в кэш?
5. Если да — Ответить в чат (из семантического кэша)
6. Если нет — Агент LLM
7. Затем: Сохранить запись в кэш
8. Затем: Ответить в чат (из LLM)
9. Затем: Модель чата OpenAI
10. Затем: Память чата Redis
11. Затем: Добавить ответ как метаданные
12. Затем: Рекурсивный разделитель текста по символам
13. Затем: Векторизация HuggingFace Inference
14. Затем: Векторизация HuggingFace Inference1
15. Запуск: Запуск вручную
16. Затем: Инициализировать хранилище Redis
17. Затем: Обработать образец данных
18. Затем: Использовать Huggingface для эмбеддингов
19. Затем: Рекурсивный разделитель текста по символам1

Такой сценарий можно запустить в Scriptera: задача описывается обычными словами, сборка и запуск — на стороне сервиса.