Сценарий запускает нужный, проверяет, прошёл он или упал, и складывает отчёт файлом в Databricks, обновляет задачу в GitLab и пишет итог в Google Sheets.
Перенос данных из Databricks в GitLab делается готовым сценарием: он сам замечает новое и переносит его.
Настроить такую автоматизацию (Databricks + GitLab) можно в Scriptera — без кода: опишите задачу, остальное сделают за вас.