Чтобы данные из Databricks автоматически попадали в Scraper Api, достаточно готового сценария — без выгрузок руками.
Эту интеграцию Databricks и Scraper Api можно запустить в Scriptera: опишите задачу словами — сценарий соберут, запустят и будут следить, чтобы он работал.