Сценарий следит за очередью в таблица, удаляет устаревшие документы и загружает новые из Databricks, express или по ссылке, отмечая статус каждого.
Перенос данных из Databricks в express делается готовым сценарием: он сам замечает новое и переносит его.
Настроить такую автоматизацию (Databricks + express) можно в Scriptera — без кода: опишите задачу, остальное сделают за вас.