Перенос данных из Airtop в Databricks делается готовым сценарием: он сам замечает новое и переносит его.
Эту интеграцию Airtop и Databricks можно запустить в Scriptera: опишите задачу словами — сценарий соберут, запустят и будут следить, чтобы он работал.