Сценарий по расписанию забирает новые файлы с Databricks и пачками загружает их в Dropbox, сохраняя имена.
Перенос данных из Databricks в Dropbox делается готовым сценарием: он сам замечает новое и переносит его.
Настроить такую автоматизацию (Databricks + Dropbox) можно в Scriptera — без кода: опишите задачу, остальное сделают за вас.