Защита от парсинга на kinopoisk.ru?

Тема в разделе "Парсинг конкретных сайтов по запросу (ПЛАТНО)", создана пользователем smartay, 20 мар 2013.

  1. smartay

    smartay New Member Пользователи

    Регистрация:
    20 мар 2013
    Сообщения:
    6
    Интересная проблема вылезает - при попытке парсить Кинопоиск, во встроенном в CD браузере в текстовом (верхнем) поле вылезает куча текста, смысл которого:
    ---
    <td style="padding-left:10px">
    Если вы видите эту страницу, значит с вашего IP-адреса поступило необычно много запросов.
    Система защиты от роботов (СЗоР) решила, что вместо вас действует программа, и ограничила доступ.
    <br><br><small>Для автоматического получения рейтинга, пожалуйста используйте <a href='http://www.kinopoisk.ru/rating/462666.xml' target='_blank'>xml</a> версию.</small>
    <br/><br/>
    ---

    При этом в графической части встроенного браузера - все ОК, отображается именно нужная страничка в красивом виде.

    Пробовал подставлять разные user agent и использовать прокси - результат тот же - никаких данных спарсить не удается. При этом парсить пробую только 1 страницу (Ссылки недоступны для гостей), так что превышения запросов с 1 IP точно быть не может.

    Как так может быть?
     
  2. Rezident

    Rezident New Member Пользователи

    Регистрация:
    12 апр 2012
    Сообщения:
    19
    Во вкладке контент найдите кнопку авторизация/cookies, нажмите и в появившемся окне снизу нажмите передать cookies из webbrowser - и спокойно работайте.
     
  3. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    Укажите юзер-агент мобильника, так на практике более 40 000 выкачано было в один подход.
     
  4. smartay

    smartay New Member Пользователи

    Регистрация:
    20 мар 2013
    Сообщения:
    6
    Спасибо за подсказу! Сработало. По крайней мере, пока по 1 фильму :)
     
  5. smartay

    smartay New Member Пользователи

    Регистрация:
    20 мар 2013
    Сообщения:
    6
    Подскажите, пожалуйста, какой точно юзер-агент надо подставить?
     
  6. smartay

    smartay New Member Пользователи

    Регистрация:
    20 мар 2013
    Сообщения:
    6
    Попробовал пару найденных в интернете юзер-агентов мобил, но что-то не помогло. Банит.
    При авторизации и куках - все ок, даже со стандартным юзер агентом.
     

Поделиться этой страницей