Парсинг многостраничного документа

Тема в разделе "Парсинг конкретных сайтов по запросу (ПЛАТНО)", создана пользователем mrme, 30 дек 2015.

  1. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    Доброго времени суток!
    Возникла проблема. Например, нужно спарсить книги, много книг Ссылки недоступны для гостей но они разбиты на сайте на много страниц, соответственно программа сольет их тоже в отдельный файл=каждой странице, а при добавлении в тотже вордпресс это получатся отдельные статьи, а нужно, чтобы как на сайте доноре..Есть ли какой-либо выход?
     
  2. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    люди, хелп... прочитал тут, что нужно через макрос <GETMORECONTENT> добавлять страницы, чтобы писало в один документ...это получается каждую книгу отдельно настраивать? этож с ума сойти можно=) Нельзя ли сразу сгенерировать огромный код на все книги? и чтобы программа каждую книгу в отдельный док скачала?
     
    Последнее редактирование: 31 дек 2015
  3. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Еще не дошел до решения вашего вопроса. Кажется, придется делать специальный функционал для выполнения подобных задач.

    Постараюсь сделать это на неделе.

    С уважением к вам, Сергей.
     
  4. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    Можно сканером все страницы найти, и парсить например чтоб каждая книга была в отдельном csv
     
  5. kagorec

    kagorec Администратор Команда форума Администратор

    Регистрация:
    3 янв 2011
    Сообщения:
    4.442
    Адрес:
    Latvia
    Ссылки недоступны для гостей к примеру эта книга будет в "Я, снайпер.csv"
     
  6. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте еще раз!

    Обратите внимание на новый макрос шаблона вывода [GENERATE]
    Ссылки недоступны для гостей

    Проект настроек приложил.

    С уважением к вам, Сергей...
     

    Вложения:

    • knijky_ru.cdp
      Размер файла:
      28,3 КБ
      Просмотров:
      63
  7. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    спасибо!
    Правильно ли я понимаю, что если использовать шаблон вида

    [HTMTOTXT:h1,h2,h3,table,tr,td,tbody,p,br,b,li,ul,ol,strong,i]<CD_GRAN_3!>
    [GENERATE][FROM]1[/FROM][TO]<CD_GRAN_2!>[/TO][INC]1[/INC][SEP]{br}[/SEP]<GETMORECONTENT><URL="http://knijky.ru/books/КНИГА1?page=[VARIABLE]"><START="<table><tr><td>"><STARTCOUNT="0"><END="</table>"><ENDCOUNT="0"><PARAMS=""></GETMORECONTENT>[/GENERATE][/HTMTOTXT]

    [HTMTOTXT:h1,h2,h3,table,tr,td,tbody,p,br,b,li,ul,ol,strong,i]<CD_GRAN_3!>
    [GENERATE][FROM]1[/FROM][TO]<CD_GRAN_2!>[/TO][INC]1[/INC][SEP]{br}[/SEP]<GETMORECONTENT><URL="http://knijky.ru/books/КНИГА2?page=[VARIABLE]"><START="<table><tr><td>"><STARTCOUNT="0"><END="</table>"><ENDCOUNT="0"><PARAMS=""></GETMORECONTENT>[/GENERATE][/HTMTOTXT]

    то каждая будет в отдельный док сохранятся?
     
    Последнее редактирование: 3 янв 2016
  8. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Пожалуйста.

    Вам сделал проект, где каждая книга сохраняется в отдельный документ (как вы и хотели!). Что еще требуется, непонятно =)
     
  9. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    огромное спасибо!
     
  10. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Пожалуйста. Обращайтесь...
     
  11. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    потестил....в итоге схема все равно не получается
    1. Парсим все книжки, получаем 10к ссылок формата сайт.ру/книга_такая-то
    2. В итоге нужно под каждую книгу создавать отдельный проект в КД с шаблоном
    [HTMTOTXT:h1,h2,h3,table,tr,td,tbody,p,br,b,li,ul,o l,strong,i]<CD_GRAN_3!>
    [GENERATE][FROM]1[/FROM][TO]<CD_GRAN_2!>[/TO][INC]1[/INC][SEP]{br}[/SEP]<GETMORECONTENT><URL="http://knijky.ru/books/КНИГА1?page=[VARIABLE]"><START="<table><tr><td>"><STARTCOUNT="0"><EN D="</table>"><ENDCOUNT="0"><PARAMS=""></GETMORECONTENT>[/GENERATE][/HTMTOTXT]

    каждую ссылку парсить отдельно....
     
  12. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Господин Mrme, ну можно же догадаться!
     

    Вложения:

  13. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    вы прекрасны! благодарности нет предела!=)очень мало практики с софтом. буду учиться..еще раз спасибо. на днях куплю многопоток=)
     
  14. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Спасибо на добрых словах!

    С уважением к вам, Сергей.
     
  15. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    все получилось=) в продолжении темы, можно ли реализовать такую задачу

    Есть страница, на ней описание книги, автор, год и тд
    Ссылки недоступны для гостей

    А вот сам текст книги уже на др страничке располагается
    Ссылки недоступны для гостей

    Можно ли с первой ссылке указать парсеру, что взять и со второй ссылки, соответсвенно, забрать весь текст? И соединить это в одним документ?
     
  16. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Здравствуйте.

    Можно, используя макрос GETMORECONTENT Ссылки недоступны для гостей
     
  17. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    для подгрузки основного текста шаблон через гетмореконтент сделал, но вот для подгрузки описания не могу понять как..оно же находится на другой странице, а там определенная часть в ссылке по др прописана, через инкремент не получится сделать ведь
     
    Последнее редактирование: 5 янв 2016
  18. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    все вопрос снят=) поехал как сделать
     
  19. Root

    Root Администратор Администратор

    Регистрация:
    10 мар 2010
    Сообщения:
    14.818
    Город:
    Барнаул
    Это хорошо! Стоит только немного применить смекалку. Обращайтесь...
     
  20. mrme

    mrme New Member Пользователи

    Регистрация:
    24 апр 2015
    Сообщения:
    23
    как можно сделать ссылку на категорию и вывести ее в шаблоне?
    вот, например, макрос для вывода категории ворпресс, но чтобы в шаблоне это отобразилось как

    Раздел: Категория1 (чтобы слово "Категория1" стало ссылкой на эту категорию )

    Перерыл все макросы не нашел подобного функционала

    Пытался сделать таким видом

    Раздел: [CAT]<CD_GRAN_1!>[/CAT] в итоге при импорте статья просто заносится в категорию указанную, а строка Раздел: остается пустая
     
    Последнее редактирование: 5 янв 2016

Поделиться этой страницей