Повторные попытки загрузки WEB-документов

Тема в разделе "Функции и интерфейс программы", создана пользователем yek, 21 ноя 2017.

  1. yek

    yek New Member Пользователи

    Регистрация:
    13 июн 2015
    Сообщения:
    32
    Добрый день , хотелось бы уточнить как именно работает
    "повторно пытаться загружать документы"
    Обнаружил и выделил пункты уже в процессе парсинга , будет ли оно в текущей сессии работать ?
    На данный момент "не загруженные элементы" не добавились в конец очереди ссылок
    Некоторые я добавил методом копирования в конец очереди
    Если они добавятся в конце то они будут дублироваться с теми которые я уже добавил ?
    Как отреагирует программа если в очереди две одинаковые ссылки ?
    В общем основной вопрос как в текущей сессии сразу пытаться спарсить не загруженные или с ошибками элементы каруселью исключая дубли
     
    Последнее редактирование: 21 ноя 2017
  2. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Сейчас появилась возможность указывать количество попыток загрузки документа (что делает опцию "повторно пытаться загружать документы" не актуальной).

    2017-11-22_12-04-18.png
     
  3. yek

    yek New Member Пользователи

    Регистрация:
    13 июн 2015
    Сообщения:
    32
    При периодическом сбое интернета или иных причин этот метод к сожалению не помогает
    Есть ли метод который добавляет не загруженные ссылки в конец очереди в этой же сессии
    Если пытаться спарсить их в следующей сессии то сбиваются динамические поля
     
  4. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Тогда используйте опцию "повторно пытаться загружать документы". Она в вашем случае должна подойти.

    Изменения настроек вступают в силу только при последующем запуске парсинга (настройки делать до запуска парсинга).
     
  5. yek

    yek New Member Пользователи

    Регистрация:
    13 июн 2015
    Сообщения:
    32
    1) То есть она будет добавлять ссылки в конец очереди ?
    2) В текущей сессии без этих настоек , скопировав из логов "не загруженные ссылки" и добавив их в очередь парсинга будет тот же результат ?
     
  6. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    1) Да
    2) Пополнение списка ссылок во время парсинга не желательно
     
  7. yek

    yek New Member Пользователи

    Регистрация:
    13 июн 2015
    Сообщения:
    32
    2)Чем может грозить коли такое в данном случае пришлось использовать ?
     
  8. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Процесс парсинга будет остановлен раньше, чем список ссылок опустеет.
     
  9. yek

    yek New Member Пользователи

    Регистрация:
    13 июн 2015
    Сообщения:
    32
    Есть ли какие методы в сложившейся ситуации как то принудительно пропарсить добавленные ?
     
  10. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Мы определились, что вам нужно использовать опцию "повторно пытаться загружать документы". Зачем вы вручную добавлять ссылки хотите - непонятно.
     
  11. yek

    yek New Member Пользователи

    Регистрация:
    13 июн 2015
    Сообщения:
    32
    Именно в текущей сессии без этих предварительных настроек хотел добавить ...
    Спасибо ! Буду в дальнейшем учитывать эту настройку.
     
    Root нравится это.
  12. Sssrgo

    Sssrgo New Member Пользователи

    Регистрация:
    1 сен 2019
    Сообщения:
    11
    Город:
    Москва
    Добрый день!
    Перестали добавляться незагруженные ссылки в конец очереди. с чем это может быть связано? Настройка загружать повторно установлена для обоих случаем: если не загружен документ и обязательная граница пустая.

    Ошибка: файл не сохранён: результирующий документ оказался пустым. При предпросмотре парсит
     
    Последнее редактирование: 11 сен 2019
  13. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    У меня добавляются.
     

Поделиться этой страницей