Jump to content

Recommended Posts

SimplePars - Универсальный парсер для ИМ


SimplePars - Универсальный парсер для ИМ


Модуль SimplePars предназначен для парсинга и наполнения интернет магазина. 

 

Идея модуля заключается в том что бы вы могли заварить чашечку кофе и наблюдать как ваш магазин наполняется товарами.

Ведь намного приятнее наблюдать за строкой загрузки товара, чем заполнять каждую позицию вручную ;-)
sp.gif

 

Возможности модуля SimplePars
Основные задачи которые решает модуль это парсинг данных с сайта и последующее заполнение интернет магазина.
Вы можете как парсить напрямую в интернет магазин, так и парсить в CSV файл для дальнейшей обработки. 
Так же реализовано обновления товаров при помощи парсинга сайтов доноров. 

 

В двух словах не описать что умеет делать модуль, по этому обозначу только основные моменты.

- Полноценный парсер позволяющий парсить товары со сторонних магазинов и загружать себе.

- Встроенный гибкий сборщик ссылок , который поможет собрать ссылки на необходимые товары.
- Возможен парсинг и загрузка всех элементов товара.

  • Код товара [model]
  • Артикул [sku]
  • Название
  • Цена
  • Количество
  • Производитель
  • Описание
  • Категории
  • Изображения
  • Атрибуты
  • Опций
  • Данные - товара.

Более подробно можете увидеть на скриншотах модуля.

 

- Кроме загрузки возможно настройка обновления существующих товаров, цен, остатков и многое другое.

- Идентификация товара по артикулу, модели или имени товара.
- Доступна установка наценок любой сложности.
- Парсинг / Составление SEO шаблонов и заполнение Мета данных товара, категорий, производителей. Заполнение SEO_URL

- Формировать прайс csv с данными что вы парсите. Так же прайсы можно составлять в готовом формате для загрузки через АОП или любого другого загрузчика прайс листов. 
- Поиск замена, мощный инструмент позволяющий вам налету изменять информацию. То есть, при парсинге вы можете вырезать или заменять определенные слова или целые блоки текста. Удалять или заменять в тексте названия сайта донора на ваш. И многое другое.
- Поиск замена полностью поддерживает регулярные выражения.
- Модуль способен парсить в многопоточном режиме. Что делает парсинг максимально быстрым!
- Поддерживается парсинг с авторизацией.
- Поддержка работы с прокси.
- Собственный прокси чекер, позволяющий отобрать прокси сервера котороые будут работать с конкретным донором.
- Возможна индивидуальная настройка запросов, Указание Cookies, User-Agent, Отправка собственных заголовков Headers

- Система логирования позволяющая контролировать процесс парсинга на любом этапе.

- Система кэширования сайта донора для безопасного парсинга подробнее Описание системы кеширования

- NEW Автоматический парсинг по расписанию, при помощи CRON
- NEW Встроенный редактор товаров. Редактор товаров поможет сделать финальную правку товаров. Инструкция к редактору товаров

- NEW Встроенный редактор ссылок, позволяющий группировать ссылки по спискам, и производить загрузку определенных групп ссылок. Так же отслуживать ссылки которые парсятся с ошибками.

- NEW Парсер XML/YML документов от поставщика. .

 

Вы можете указать любое количество границ парсинга, на любые данные что есть в html коде сайта донора.

SimplePars это универсальный инструмент который поможет вам наполнить ваш интернет магазин.

Обратите внимание что вы можете настроить парсинг на любые данные, и необязательно они должны быть совместимы с opencart. Вы можете парсить статьи, отзывы, блоги.

 

В данном модуле есть возможность парсить все данные в CSV файл
Можно формировать прайс листы для загрузки их через популярные загрузчики прайс листов.
 

И это малая часть тех задач которые может выполнить данный модуль.

SimplePars разрабатывается как универсальный парсер, у него нету четких задач, у него есть только набор инструментов.
А что вы построите имея эти инструменты, уже зависит только от вас.

 

Инструкция к модулю доступна по ссылке

Инструкция к модулю SimplePars

 

Видео-уроки по работе с модулем доступны по ссылке

Видео уроки по работе с модулем SimplePars

 

Демо сайт для ознакомления с интерфейсом и возможностями модуля

Обратите внимание что на демо сайте парсинг недоступен.

http://demo.simplepars.top/admin/

Логин - demo
Пароль - demo

 

Лицензионное соглашение.
Ознакомится

 

Инструкция по установке.

Установка SimplePars

1. Зайдите в директорию вашей версии модуля и скопируйте все в корень сайта с заменой.

2. Введите в строке браузера ваш_сайт/inst.php и нажмите Enter.

3. Далее перейдите в раздел Система->Пользователи->Группы пользователей->Администратор нажмите выделить все в двух разделах:

  • Разрешить просмотр
  • Разрешить редактировать

Затем нажмите сохранить.

4. Зайдите в "Модификаторы" или "Менеджер дополнений", и нажмите Обновить. 

5. После этого удалите в корне сайта файл inst.php

Все, модуль установлен.

В разделе Каталог под пунктом Производители появится пункт SimplePars это вход в модуль. 

 

Инструкция по обновлению
1. Загрузить содержимое директории c названием вашей версии  в корень сайта.

2. Выполнить ваш_сайт/inst.php

3. Удалить с корня сайта файл inst.php

 

После установки или обновления я вижу белый экран или ошибку 500

Если видите белый экран, то вам необходимо перейти в архив с модулем в директорию Other versions of PHP и там будут лежать файлы под все версии php.

Открываете папку с именем вашей версии php и загружаете содержимое в корень магазина.


  • Добавил
  • Добавлено
    28.10.2018
  • Категория
  • Системные требования
    PHP >= 5.6
  • Метод активации
    По запросу в ЛС
  • Ioncube Loader
    Требуется
  • OpenCart
    3.0
    2.3
    2.2
    2.1
    2.0
  • ocStore
    3.0
    2.3
    2.2
    2.1
  • OpenCart.Pro, ocShop
    Opencart.pro 2.3
    Opencart.pro 2.1
    OcShop 2.0.3.х
  • Обращение к серверу разработчика
    Да
  • Старая цена
    0

 

  • +1 10

Share this post


Link to post
Share on other sites

Ну что займу первый пост.
Поскольку модуль все же выложил ушел писать инструкцию к этому франкенштейну. Может кому то пригодится ;-)

PS. Чуть не забыл. Кому пригодился нажмите палец верх ;-)

Edited by Rassol2
  • +1 18

Share this post


Link to post
Share on other sites

Это случаем не CD-шный метод?

Share this post


Link to post
Share on other sites
4 часа назад, PiratRu сказал:

Это случаем не CD-шный метод?

Вдохновлялся им. И может попримеру него ещё что то прикручу. Все зависит от людей будет нужно или нет. 

  • +1 1

Share this post


Link to post
Share on other sites

Написал мини инструкцию. Больше не хочу заниматься такой муторной работой, и да сразу извиняюсь я неграмотно пишу кому режет глаз удалите и все )
Проверьте открывается в Microsoft Word а то  у меня нету и проверить не могу. 

Share this post


Link to post
Share on other sites

нет, проблема осталась, HTTP ERROR 500

Edited by rozario888

Share this post


Link to post
Share on other sites
6 минут назад, Rassol2 сказал:

точнее. Что за проблема ? 

При заходе в модуль выдает пустую страницу с этой ошибкой. И файла inst не было в корне. 

Может удалить все файлы и по новой попробовать 

Share this post


Link to post
Share on other sites
В 05.11.2018 в 11:17, rozario888 сказал:

При заходе в модуль выдает пустую страницу с этой ошибкой. И файла inst не было в корне. 

Может удалить все файлы и по новой попробовать 

в архиве есть. 
Залейте все по верх с заменой.

 

PS.

не могу удалить этот скриншот. Какой то косяк на форуме.
 

Спойлер

1748632287__7.png.bf69028e00afa8e94be7b08fa74c39e4.png

 

Share this post


Link to post
Share on other sites

Разобрался. Мой косяк был. Сначала финиш пропустил, а после не обратил внимание, что инст копируется, а не создается после установки))

Буду тестировать

Share this post


Link to post
Share on other sites
1 час назад, rozario888 сказал:

Разобрался. Мой косяк был. Сначала финиш пропустил, а после не обратил внимание, что инст копируется, а не создается после установки))

Буду тестировать

Тестируйте ) Удачки. 

Share this post


Link to post
Share on other sites

А прокатит такой вариант, если я в целевую категорию зайду, сделаю отбор по фильтрам и сгенерированую ссылку скормлю модулю на сбор ссылок на сами товары?

Типа вот так http://prntscr.com/lelzbd и вот так http://prntscr.com/lelz2b

 

У меня пока ничего не :D

Share this post


Link to post
Share on other sites
10 минут назад, rozario888 сказал:

А прокатит такой вариант, если я в целевую категорию зайду, сделаю отбор по фильтрам и сгенерированую ссылку скормлю модулю на сбор ссылок на сами товары?

Типа вот так http://prntscr.com/lelzbd и вот так http://prntscr.com/lelz2b

 

У меня пока ничего не

да можете только тогда в фильтр ссылки очереди нужно добавить такие параметры что бы брались только другие страницы этого фильтра. 
 

Edited by Rassol2

Share this post


Link to post
Share on other sites
27 минут назад, Rassol2 сказал:

в фильтр ссылки очереди нужно добавить такие параметры что бы брались только другие страницы этого фильтра

По инструкции, если правильно до меня дошло, я зашел в товар и оттуда в очередь вставил вот эту часть image.png.5cf89c28f91b443c09ddc2c936883e40.png ?

Т.е. модуль перешел по ссылку в отфильтрованную по брендам категорию и забрал из нее все ссылки с этим значением?!

Share this post


Link to post
Share on other sites

В выдаче ссылок есть куча ссылок, но не тех:mrgreen: Че то все таки до меня дошло, но не то

Share this post


Link to post
Share on other sites
Только что, rozario888 сказал:

В выдаче ссылок есть куча ссылок, но не тех:mrgreen: Че то все таки до меня дошло, но не то

После неудачного фильтра ссылок не забывайте очистить список. 

если вам нужно собрать с одной страницы все ссылки с значением /item/ тогда вам нужно сделать так что бы модуль не добавлял в очередь другие ссылки с сайта. 
И в фильтр выдачи задать вот это /item/

http://joxi.ru/MAjyJ7wt49O4L2
1. Ссылка на страницу с которой ходите собрать все ссылки с  /item/

2. Фильтр для добавления ссылок в очередь, ставите там что то чего точно не будет в ссылках. К пример Rassol2

3. Записывать какой элемент должен содержатся в ссылке что бы попасть в выдачу. 

В итоге вы получите все ссылки что имеют  /item/ с страницы которая записана в поле 1

как то так. 

Share this post


Link to post
Share on other sites

Вроде получилось, собрались только нужные товары. Но только с первой страницы из трех.

Чтобы он по всем прошелся, надо в очередь сканирования ссылок добавить ссылку каждой страницы? Или какая то другая схема есть

 

Share this post


Link to post
Share on other sites
Только что, rozario888 сказал:

Вроде получилось, собрались только нужные товары. Но только с первой страницы из трех.

Чтобы он по всем прошелся, надо в очередь сканирования ссылок добавить ссылку каждой страницы? Или какая то другая схема есть

 

либо вручную добавить. Либо настроить фильтры что бы парсер сам добавил в очередь нужные вам ссылки. 
дальше как хотите )

Share this post


Link to post
Share on other sites
48 минут назад, Rassol2 сказал:

Либо настроить фильтры что бы парсер сам добавил в очередь нужные вам ссылки.

 

Вот часть ссылки второй страницы ...?f[price][from]=&f[price][to]=&filters_brands_form[0]=869&filters_brands_form[1]=915&filters_brands_form[2]=944&&p=2

Или часть стартовой ...?f[price][from]=&f[price][to]=&filters_brands_form[0]=869&filters_brands_form[1]=915&filters_brands_form[2]=944&&p=1

 

Как фильтр должен выглядеть в блоке шаблон ссылок очереди? Я че то уже как только не пробовал, пока эта схема ко мне не снизошла и парсится только первая страница))  

 

 

Share this post


Link to post
Share on other sites
27 минут назад, rozario888 сказал:

 

Вот часть ссылки второй страницы ...?f[price][from]=&f[price][to]=&filters_brands_form[0]=869&filters_brands_form[1]=915&filters_brands_form[2]=944&&p=2

Или часть стартовой ...?f[price][from]=&f[price][to]=&filters_brands_form[0]=869&filters_brands_form[1]=915&filters_brands_form[2]=944&&p=1

 

Как фильтр должен выглядеть в блоке шаблон ссылок очереди? Я че то уже как только не пробовал, пока эта схема ко мне не снизошла и парсится только первая страница))  

 

 

как я понимаю вот это первая страница p=1 а вот это вторая p=2
значит шаблон очереди должен содержать &p=

 

Share this post


Link to post
Share on other sites

Так по просьбе дописал функцию. 

Повторное применение фильтров к ссылкам. 
Допустим вы настроили парсинг ссылок и просканировали 1000 страниц. И после этого поняли что не все добавили в фильтры. 
Раньше вам нужно было удалить все ссылки добавить новые фильтры и заново сканировать. 

Теперь вы можете нажать кнопку Повторить фильтрацию.
489807753__2018-11-06_06-27-30.thumb.png.6693300a4e8356972c63fd4c46ea9f1a.png

Допусти вы забыли в параметры парсинга выдачи ссылок добавить .html 
Дописываете в поле Шаблон выдачи ссылок .html сохраняете форму. После жмете Повторить фильтрацию
1379826450__2018-11-06_06-33-07.thumb.png.a680f9e35a074a6ee12c650ad3c9081a.pngМодуль возьмет из списка собранных ссылок все ссылки и снова прогонит по фильтрам и отсеет те что не соответствуют фильтрам. 
 

Edited by Rassol2
  • +1 1

Share this post


Link to post
Share on other sites
17 часов назад, Rassol2 сказал:

как я понимаю вот это первая страница p=1 а вот это вторая p=2
значит шаблон очереди должен содержать &p=

 

Пробовал http://prntscr.com/lexsyw , пробовал &p=2, &p=3....и 944&&p=2 и 944&&p=2, но все равно только на выходе только товары с первой страницы

Share this post


Link to post
Share on other sites
3 минуты назад, rozario888 сказал:

Пробовал http://prntscr.com/lexsyw , пробовал &p=2, &p=3....и 944&&p=2 и 944&&p=2, но все равно только на выходе только товары с первой страницы

у вас стоит галочка Или/И уберите ее. 
А вообще ясно ее значение ? 
1457372501__2018-11-06_11-25-16.png.ba07549e39751940fe4b029f305ecfca.png

Edited by Rassol2

Share this post


Link to post
Share on other sites
6 минут назад, Rassol2 сказал:

А вообще ясно ее значение ? 

Значение ее ясно, она осталось от одной из проб, потому что и без с нее и с ней, все равно только товары с первой страницы.

Я уже как только не пробовал и какие только варианты части ссылки не добавлял в фильтр

Share this post


Link to post
Share on other sites
Только что, rozario888 сказал:

Значение ее ясно, она осталось от одной из проб, потому что и без с нее и с ней, все равно только товары с первой страницы.

Я уже как только не пробовал и какие только варианты части ссылки не добавлял в фильтр

дайте в лс ссылку на страницу. 
И что у вас в фильтрах прописано.  А я посмотрю. 

Нужно будет сделать обмен настройками ))

Share this post


Link to post
Share on other sites

Join the conversation

You can post now and register later. If you have an account, sign in now to post with your account.

Guest
You are posting as a guest. If you have an account, please sign in.
Reply to this topic...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.


  • Similar Content

    • By GeorgyM
      500.00 руб
      Скачать/Купить дополнение


      Парсинг для Opencart : загрузка товаров / статей, для Опенкарт, OcStore, v.1.x, 2.x, 3.x
      Написать личное сообщение КЛИК
      Вы можете задать мне любые вопросы в личном сообщении.
      Я постоянно присутствую на форуме.
      ============================================-=====================================
      Услуги по наполнению Вашего сайта. обновлению цен, остатков, автоматизации.
      Парсинг и загрузка на Ваш сайт, товаров для Opencart, каталогов, статей, блогов, галерей, отзывов, обзоров всего, что угодно.
      Парсинг Яндекс Маркета, Авито, Юлы, Price.ru любого сайта Вашего конкурента или поставщика.
      Могу собрать данные в Excel и CSV любого формата, а так же импортировать в Вашу базу данных.
         
      Я могу собрать любые данные в интернете и импортировать их на Ваш сайт.
      Срок работ от "супер срочно - сделать прямо сейчас"!  
        
      Как начать работать со мной: 
      Укажите сайт, с которого нужно собрать данные (Домен)
      Укажите дополнительные пожелания   
       
      НЕ НУЖНО ЗАПОЛНЯТЬ СЛОЖНОЕ ТЕХНИЧЕСКОЕ ЗАДАНИЕ
      В переписке согласуем Все детали.
       
      Загрузка на Ваш сайт или передача Вам файла в формате Вашего модуля импорта.
      Быстро, конфиденциально 
      Указана базовая стоимость.
       
      В зависимости от сложности проекта цена может быть изменена по согласованию.
      Любая сложность парсинга!
       
      Чтобы сэкономить время на переписке, прошу внимательно отнестись к строкам ниже, по поводу ТЗ для Парсинга. Я должен понимать какие, работы мне для Вас делать, а без ТЗ я этого понять не смогу.
       
      Для понимания ТЗ мне нужно получить краткое ТЗ:
      Если Вам нужно получить от меня только файл для импорта и каталог картинок: дайте мне адрес сайта-донора, пример файла, который Вам нужно получить с заполненными 2-3 строками, комментарии, этого будет достаточно.  
      Если Вы хотите, чтобы я для Вас спарсил и загрузил товары: напишите мне адрес сайта-донора. Можете схематично показать какие данные со страницы донора, должны быть перенесены на Ваши страницы (в виде простых рисунков)  
      Часто возникает вопрос как скопировать товары с одного интернет магазина и загрузить товары в свой интернет магазин.
       
      Особенно Важно парсить товары если нужно перенести большой каталог на свой сайт интернет магазина, так как руками копировать товары очень долго. 
       
      Я могу спарсить самые сложные сайты: со скриптами, защитами, различными Post запросами, и предоставить Вам данные в CSV или Excel файле, нужного Вам формата.
       
      Могу загрузить опции товаров, атрибуты товаров, дополнительные картинки и тексты, отзывы.
       
      Провести нужные манипуляции с ценами и скидками на товары и прочие сложные операции.
      Могу привести каталог категорий к нужному виду, скопировав картинки и описания категорий.
       
      От Вас потребуется только, домены сайтов откуда копировать каталог, и если Вы планируете загружать самостоятельно данные в Ваш интернет магазин, пример файла в который Вам записать данные.
      Скрипт автоматического наполнения магазина, так же могу разработать.
      Добавил GeorgyM Добавлено 22.08.2017 Категория Услуги  
    • By GeorgyM
      Написать личное сообщение КЛИК
      Вы можете задать мне любые вопросы в личном сообщении.
      Я постоянно присутствую на форуме.
      ============================================-=====================================
      Услуги по наполнению Вашего сайта. обновлению цен, остатков, автоматизации.
      Парсинг и загрузка на Ваш сайт, товаров для Opencart, каталогов, статей, блогов, галерей, отзывов, обзоров всего, что угодно.
      Парсинг Яндекс Маркета, Авито, Юлы, Price.ru любого сайта Вашего конкурента или поставщика.
      Могу собрать данные в Excel и CSV любого формата, а так же импортировать в Вашу базу данных.
         
      Я могу собрать любые данные в интернете и импортировать их на Ваш сайт.
      Срок работ от "супер срочно - сделать прямо сейчас"!  
        
      Как начать работать со мной: 
      Укажите сайт, с которого нужно собрать данные (Домен)
      Укажите дополнительные пожелания   
       
      НЕ НУЖНО ЗАПОЛНЯТЬ СЛОЖНОЕ ТЕХНИЧЕСКОЕ ЗАДАНИЕ
      В переписке согласуем Все детали.
       
      Загрузка на Ваш сайт или передача Вам файла в формате Вашего модуля импорта.
      Быстро, конфиденциально 
      Указана базовая стоимость.
       
      В зависимости от сложности проекта цена может быть изменена по согласованию.
      Любая сложность парсинга!
       
      Чтобы сэкономить время на переписке, прошу внимательно отнестись к строкам ниже, по поводу ТЗ для Парсинга. Я должен понимать какие, работы мне для Вас делать, а без ТЗ я этого понять не смогу.
       
      Для понимания ТЗ мне нужно получить краткое ТЗ:
      Если Вам нужно получить от меня только файл для импорта и каталог картинок: дайте мне адрес сайта-донора, пример файла, который Вам нужно получить с заполненными 2-3 строками, комментарии, этого будет достаточно.  
      Если Вы хотите, чтобы я для Вас спарсил и загрузил товары: напишите мне адрес сайта-донора. Можете схематично показать какие данные со страницы донора, должны быть перенесены на Ваши страницы (в виде простых рисунков)  
      Часто возникает вопрос как скопировать товары с одного интернет магазина и загрузить товары в свой интернет магазин.
       
      Особенно Важно парсить товары если нужно перенести большой каталог на свой сайт интернет магазина, так как руками копировать товары очень долго. 
       
      Я могу спарсить самые сложные сайты: со скриптами, защитами, различными Post запросами, и предоставить Вам данные в CSV или Excel файле, нужного Вам формата.
       
      Могу загрузить опции товаров, атрибуты товаров, дополнительные картинки и тексты, отзывы.
       
      Провести нужные манипуляции с ценами и скидками на товары и прочие сложные операции.
      Могу привести каталог категорий к нужному виду, скопировав картинки и описания категорий.
       
      От Вас потребуется только, домены сайтов откуда копировать каталог, и если Вы планируете загружать самостоятельно данные в Ваш интернет магазин, пример файла в который Вам записать данные.
      Скрипт автоматического наполнения магазина, так же могу разработать.
  • Recently Browsing   2 members

×

Important Information

On our site, cookies are used and personal data is processed to improve the user interface. To find out what and what personal data we are processing, please go to the link. If you click "I agree," it means that you understand and accept all the conditions specified in this Privacy Notice.