Сайт целиком — в текстовую базу для нейросети

Сценарий обходит сайт, собирает ссылки, забирает текст страниц, приводит его в аккуратный вид и раскладывает по таблице.

  • Обходит сайт по ссылкам
  • Отделяет картинки от страниц
  • Забирает и приводит в порядок текст
  • Раскладывает всё по таблице

Как это работает

Чтобы данные из asproCloud автоматически попадали в , достаточно готового сценария — без выгрузок руками.

  1. Запуск: Ручной триггер
  2. Затем: Установить веб-сайт
  3. Затем: Собрать данные с главной страницы
  4. Затем: Извлечь ссылки из HTML
  5. Затем: Разделить ссылки
  6. Затем: Удалить дубликаты ссылок
  7. Проверка: Отфильтровать реальные гиперссылки
  8. Проверка: Разделить изображения и ссылки
  9. Если да — Агрегировать изображения
  10. Затем: Добавить изображения в таблицу
  11. Если нет — Агрегировать ссылки
  12. Затем: Добавить ссылки в таблицу
  13. Если нет — Собрать данные с контентных ссылок
  14. Затем: Преобразовать в Markdown
  15. Затем: Агрегировать собранный контент
  16. Затем: Добавить собранный контент в таблицу

Такой сценарий можно запустить в Scriptera: задача описывается обычными словами, сборка и запуск — на стороне сервиса.