Новая версия, работает через yandex.ru 35 пост Вчера понадобилось вытянуть выдачу Яндекса, погуглив на тему парсеров ничего рабочего не нашел, пришлось писать свой: * Возможность задать User Agent * Любое количество страниц для обработки * Работает через m.yandex.ru Скачать
Парсить беки, например собрать базу каталогов "живых" или еще что) Хотя в олсабе это все есть, но как фри софт пойдет. ТС, добавь RU и EN Google, +Yahoo+ список юзерагентов в базу, руками их проставлять гемор)
Разработка очень хорошая. Мне как раз понадобился подобный софт. А есть еще нечто подобное только для других поисковиков?
Сейчас посмотрим чего яшка исправил. upd: Всё вроде бы работает, только каптча иногда вылазит, ставьте побольше таймаут. Есть ещё подозрения на куки, но с этим позже разберусь. В программе можно указать откуда парсить.
Народ, ну что, аналогов никто не подскажет, только для других поисковиков? Или может быть ТС что нибудь сообразил бы, если появится свободное время. Думаю многие выразили бы свою благодарность.
Какие еще будут пожелания, кроме разных поисковиков (т.е. + гугл)? Будет не под m-версию, а под нормальную (подозреваю, что нормальная от портативной могут отличаться по выдаче). Есть еще мысль разделить по регионам поиска (под разные города). Нужно? Зачем много юзер-агентов? Просто зашью десяток, рандомом каждый раз будет выбирать. Давно мысль комбайн сделать - парсер ссылок будет первой функцией.