При автоматическом парсинге по некоторых сcылках не парсятся данные.

Discussion in 'Решение проблем с использованием программы' started by q457, Jun 24, 2017.

  1. q457

    q457 New Member Пользователи

    Joined:
    Jul 25, 2015
    Messages:
    40
    При автоматическом парсинге по некоторых сcылках не парсятся данные.
    Ссылки недоступны для гостей
    При ручном просмотре этих ссылок в парсере все данные присутствуют.
    Ссылки недоступны для гостей
    С чем это может быть связано?
     
  2. Root

    Root Администратор Администратор

    Joined:
    Mar 10, 2010
    Messages:
    14,818
    Город:
    Барнаул
    Здравствуйте.

    Попробуйте поставить 1 поток во вкладке "Контент" и парсить.
     
  3. q457

    q457 New Member Пользователи

    Joined:
    Jul 25, 2015
    Messages:
    40
    Уже делал, ставил в 1 поток, увеличил интервал, все равно не парсит в автомате, а в ручном режиме все данные есть
    Как вариант попробую отключить перевод яшки, может через него торможения
     
    Last edited: Jun 25, 2017
  4. Kreol

    Kreol Модератор Staff Member Модератор

    Joined:
    Jan 6, 2013
    Messages:
    2,666
    Здравствуйте!
    Обычно, это связано с тем, что неправильно настроены границы. Скорее всего есть жесткая привязка к каким-то лишним элементам.
     
  5. Root

    Root Администратор Администратор

    Joined:
    Mar 10, 2010
    Messages:
    14,818
    Город:
    Барнаул
    В таких случаях нужно прикладывать проект. Мы гаданием НЕ занимаемся.
     
  6. q457

    q457 New Member Пользователи

    Joined:
    Jul 25, 2015
    Messages:
    40
    Можна в личку? Єто комерческий проєкт, не хочется на всеобщее смотрение выставлять. Если это связано с моим не пониманием каких то процессов, готов оплатить.
     
  7. q457

    q457 New Member Пользователи

    Joined:
    Jul 25, 2015
    Messages:
    40
    Спасибо , пересмотрел вроде нет.
    Ссылки недоступны для гостей
    Плюс я сформировал список ссылок скоторых не парсятся данные, запустил еще раз их они частично спарсили данные.
     
    Last edited: Jun 25, 2017
  8. Root

    Root Администратор Администратор

    Joined:
    Mar 10, 2010
    Messages:
    14,818
    Город:
    Барнаул
    Hidden Content:
    **Hidden Content: To see this hidden content your post count must be 1 or greater.**
     
  9. Root

    Root Администратор Администратор

    Joined:
    Mar 10, 2010
    Messages:
    14,818
    Город:
    Барнаул
    Проблема оказалась в списке User Agent в окне настроек HTTP-запросов (ctrl+h). Зачем-то туда добавляют множество записей и при парсинге UserAgent меняется (вот с некоторыми UserAgent сайт не отдает нужный ответ).
     
  10. q457

    q457 New Member Пользователи

    Joined:
    Jul 25, 2015
    Messages:
    40
    Благадарю, рута
    проблема была
    "Нажать ctrl+h и в поле UserAgent оставить только Mozilla/5.0 (Windows NT 6.1; WOW64; rv:35.0)"
    а че они юзер агентов по банили?
    Я просто где то читал рекомендации чтоб агенов было несколько. Вот и пользуюсь этим списком, раньше проблем не было. Еще раз большое спасбо
     
  11. Kreol

    Kreol Модератор Staff Member Модератор

    Joined:
    Jan 6, 2013
    Messages:
    2,666
    у многих сайтов есть фиксированные списки юзерагентов, которые их могут посещать.
     
    Root and q457 like this.
  12. Root

    Root Администратор Администратор

    Joined:
    Mar 10, 2010
    Messages:
    14,818
    Город:
    Барнаул
    Пожалуйста...

    А так же у вас часть UserAgent была в одинарных кавычках (думаю, это и портило).

    PS: Помните, где вы прочитали эту рекомендацию? (нужно отредактировать)
     
  13. q457

    q457 New Member Пользователи

    Joined:
    Jul 25, 2015
    Messages:
    40
    А вы можете мне помочь на платной основе? Уважаемый Рут, подсказал какой юзер агент использовать, ровно через сутки он умер...
    Как бы парсер сделан, ссылки собраны, не могу пройти блокировку
     
  14. gans

    gans Well-Known Member Пользователи

    Joined:
    Apr 21, 2014
    Messages:
    310
    Напрочь умер? :) Не может юзер агент умереть. Попробуйте прокси.
     
    Root likes this.
  15. Kreol

    Kreol Модератор Staff Member Модератор

    Joined:
    Jan 6, 2013
    Messages:
    2,666
    по айпи банят? пробуйте прокси
     

Share This Page