Как это работает
Чтобы данные из cloudMailRu автоматически попадали в Databricks, достаточно готового сценария — без выгрузок руками.
- Запуск: Каждые 2 минуты
- Затем: Получить строки из таблицы
- Проверка: Если устарело
- Если да — Удалить файл из векторного хранилища
- Затем: Отметить строку как удаленную
- Если нет — Filter новые файлы
- Проверка: Обработать по одному
- Проверка: Маршрутизировать по источнику файла
- Если да — Скачать из Google Drive
- Затем: Загрузить файл в OpenAI
- Затем: Добавить файл в векторное хранилище
- Затем: Подождать 30 секунд
- Затем: Опросить статус файла в векторном хранилище
- Проверка: Маршрутизировать по статусу эмбеддинга
- Если да — Отметить строку как активную
- Если нет — Отметить строку как ошибку
- Если нет — Скачать из S3
- Если нет — Скачать через HTTP
Настроить такую автоматизацию (cloudMailRu + Databricks) можно в Scriptera — без кода: опишите задачу, остальное сделают за вас.