Прокликивание пагинации

Тема в разделе "Решение различных задач по парсингу", создана пользователем Evgen_sbfactory, 11 янв 2024.

Метки:
  1. Evgen_sbfactory

    Evgen_sbfactory New Member Пользователи

    Регистрация:
    12 дек 2023
    Сообщения:
    9
    Город:
    USA
    Всем привет , смотрел по форуму эти темы. Не мой случа (
    есть сайт Ссылки недоступны для гостей
    в коде нет страниц типа page-1 и т.д чтобы собрать все страницы с тварами. Все видео что смотрел на эту тему не подходят - как кликать именно по старницам 1-2-3-4 и так до конуа, как создать цикл чтобы он прокликивал и собирал анные со всех страниц. Так как в примерах что в видео не подходят (повторюсь) буду благодарен за помощь, но не просто ищи там а если можно линк как именно это сделать или 1-5 мин видео с ноута с обяснением - спс
     
  2. kenny872012

    kenny872012 Well-Known Member Пользователи

    Регистрация:
    18 фев 2018
    Сообщения:
    324
    Привет.

    Ссылки собираются во вкладке ссылки. Через post запрос на адрес Ссылки недоступны для гостей. Основными параметрами для post запроса служат [PARAM(1)] использующий макрос {key} (Названия категорий) и [PARAM(2)] использующий макрос {num} (Страница пагинации)

    [​IMG]

    Параметры post запроса для вкладки ссылки задаются в параметрах http запросов программы:

    [​IMG]

    Для извлечения ссылок из получаемого ответа в json формате и подстановке к каждой ссылке id товара, используется правило поиск-замены для загружаемого веб документа:
    [JSON]{start}{/start}{end}{/end}{container}products{/container}|[START]{res}[/START]
    [START]{get}[/START]|[START]{multiget}[/START]
    [START]{"id":{skip},{skip}"url":"{skip}",{skip}}[/START]|"url":"{skip(3)}-id={skip(1)}"

    [​IMG]



    Далее генерируешь ссылки с динамически нарастающим num для прибавления страниц пагинации по мере парсинга:

    [​IMG]
     

    Вложения:

    • chimmed.ru.cdp
      Размер файла:
      59,7 КБ
      Просмотров:
      0
  3. Evgen_sbfactory

    Evgen_sbfactory New Member Пользователи

    Регистрация:
    12 дек 2023
    Сообщения:
    9
    Город:
    USA
    Привет - благодарю за подробности. А как к єтому прийти самому и подбирать методі в зависимости от сайта?
     
  4. kenny872012

    kenny872012 Well-Known Member Пользователи

    Регистрация:
    18 фев 2018
    Сообщения:
    324
    Смотреть какие запросы передаются на сайт при прокликивании пагинации в анализе сети в браузере или через программу fiddler и повторять эти запросы в cd
    Так же посмотрите гайды по программе на youtube, там все эти методы описаны.
     
    Последнее редактирование: 14 янв 2024
  5. Evgen_sbfactory

    Evgen_sbfactory New Member Пользователи

    Регистрация:
    12 дек 2023
    Сообщения:
    9
    Город:
    USA
    Спасибо за совет, та просмотрел уже все видео и по 2 -3 раза) есть похожие ситуации но не совсем - по этому и бывают такие затыки. Хорошо что есть фрум и добрый люди) которые помогут советом.
     

Поделиться этой страницей