По расписанию сценарий сравнивает два хранилища, находит новые и изменившиеся документы и переносит только их в Databricks, ведя учёт в Snowflake и supabase.
Перенос данных из Snowflake в Databricks делается готовым сценарием: он сам замечает новое и переносит его.
Настроить такую автоматизацию (Snowflake + Databricks) можно в Scriptera — без кода: опишите задачу, остальное сделают за вас.