Запускаем гуся работяги сбербанк как сделать

Обновлено: 20.06.2024

“Распарсить сайт” — словосочетание, которое повергало меня в уныние всего полгода назад. В моей голове сразу же проносились знакомые проблемы с настройкой фантома, или возней с селениумом. Мысли о возможной необходимости подменять useragent, пагинации и других действиях во время парсинга заставляли откладывать эту задачу в долгий ящик…

Но всё изменилось, когда я встретил Гуся. Мир парсинга заиграл новыми красками. Под катом я хочу показать несколько простых примеров, которые могут помочь распарсить непростые сайты.

Кстати, написав парсер, Гусь решил снять фильм про это, пока что вы можете насладиться трейлером:

Как натравить Гуся на сайт

Всем известно, Гусь любит пощипать — травку, бабушку, гусынь… и конечно же сайты. Чтобы Гусь отложил свои дела и пощипал сайт для вас, необходимо просто указать ему дорогу.

На данный момент Гусь умеет парсить:

  • внутри nodejs, используя PhantomJS;
  • прямо в браузере (идеально если вы пишете плагин для браузера)
  • используя селениум

Итак, чтобы запустить Гуся на сайт, прежде всего надо выбрать и создать среду обитания. Возможные среды:

  • PhantomEnvironment
  • BrowserEnvironment
  • SeleniumEnvironment

В данной статье я буду рассматривать PhantomEnvironment, как наиболее развитый на данный момент.

Среда определяет точку входа Гуся — УРЛ начальной страницы сайта.

До парсинга

Зачастую, до того как мы начнем парсить нам необходимо выполнить какие-либо действия на странице. Например, поиск на гусином сайте знакомств. Гусь поищет за вас — только попросите.

Декларативность — наше всё

Гусь описателен. Он прост и немногословен.

Пора бы и пощипать

Итак, теперь мы знаем, как найти гусынь. Пора стрельнуть у них адресок. Допустим верстка результатов поиска выглядит вот так:


Сориентируем Гуся, задав правила для расположения данных в этой верстке:

Запускаем Гуся!!


И получаем результат:

И это только начало

Конечно же данная статья лишь знакомит читателей с Гусем, а не описывает все его возможности. Подробно о том, что умеет Гусь можно прочитать в документации. Но все же давайте перечислим некоторые приемы, которые Гусь приберег для непростых ситуаций:

  • Гусь не боится пагинации — он может скролить страницы или прокликивать ссылки для получения нового контента. Вы можете даже научить Гуся кастомной пагинации;
  • Гусь умеет ходить между страницами, важно и грациозно;
  • Гусь может выполнять необходимые действия с клавиатурой и мышью для получения конкретного кусочка информации — у него очень шустрые лапки;
  • Гусь может преобразовать полученные результаты;
  • Гусь — умное, интеллигентное животное, вы можете рассказать ему новые фишки для парсинга и он начнет их применять — API для Гусь-парсера очень легко расширяется;
  • Гусь — животное общинное, за счет своей любви к nodejs, легко может жить на гусиной ферме и парсить миллионы сайтов единовременно;

DELETED


DELETED

DELETED

Савелий Бузлаев


Савелий Бузлаев ответил DELETED

Александр Агеев

Владислав Котёнков

Александр Рассказов

Виктор Bibikov

Денис Пуйда

Колитко Кирилл


Колитко Кирилл

Иван Викулов

Антон Чирков

Алексей Балавин


Алексей Балавин

Кирилл Худяков


Кирилл Худяков

Hear-Nothing See-Nothing-Say-Nothing


Hear-Nothing See-Nothing-Say-Nothing

Олдскулы свело Старинные книги, Олдскул, ICQ, Интернет, Вредные советы, Пикап-мастер, Длиннопост

Как там дядя Богдан в селе Нижний Каражан? Все ещё месит глину на кирпичном заводе? Он больше не стримит?

Пермач на твиче. Теперь на ютубчике подрубки

Я очкую, а так бы запустил)

Что вы! Наш православельный Горыныч

Гусь не такой каким кажется он,

Ведь гусями каждый окружен.

Быть гусиным Кооороолёёёёём

Всех гусей быть Кооорооолёёём

Если гусь твой силеееееен

Олдскулы свело, срочно, дайте мне Хуба бубы и скелетонов, сажусь за просмотр шаман кинга

Оставайтесь на месте, скоро к вам подъедут

есть такой стример, у него прозвище работяга с завода. Сами чайки, насколько я знаю, и раньше было, а вот про "работяг" с него началось.

Ну а строчки песни про гусей - переделанный опенинг Шаман Кинга)

это чайка ! везде обман !

Ой, а это не я убивал и воровал

Иллюстрация к комментарию

Иллюстрация к комментарию

Иллюстрация к комментарию

Иллюстрация к комментарию

Иллюстрация к комментарию

Иллюстрация к комментарию

Иллюстрация к комментарию

Иллюстрация к комментарию

Я ж говорю " давно в Сбербанке", возможно, пофиксили и запретили. Сначала я так сделал, но после обновления в одно время, пропало это приветствие, потом я снова его добавил и вот уже на постоянной основе и без исчезновений. Мои соболезнования, что не вышло у Вас так. (

Возможно к него паста не та

зато в графредакторе можно

Иллюстрация к комментарию

Я вот хотел бы посмотреть на них. А то весь инет шумел а я так и не видел. Если че кидайте в любой мой дальний пост) Поделюсь если кинут)

Места еще есть, конечно)

О отлично, тогда я тут тоже посижу подожду

тут очередь чтобы душить гуся?

Вас так много я даже не знаю как скинуть теперь XD

Иллюстрация к комментарию

Карина стримерша вроде) у неё безусловно на мой вкус симпатичное личико, но вот фигура так себе. в видосе где она в бассейне, например, понятно, что смотреть там не на что

Я тебе так скажу, в бассейне, в принципе, можно смотреть и на симпатичное личико, ты ж не анатомию пришел изучать, когда с ней в бассейн погрузился.

У меня там ограничено поле ввода и обрезает гуся почти сразу, как это сделать?

Вот как? Вот как так то блят. Хуя се. Ебать а кого бы устроило если я каменщик посля литра наебеню хрен пойми чего и скажу да хули я дупля не ловил я так отвес видел. Он горизонтально висел. Должно же быть что то порядочное. Ага. А завтра мне хирург слепой заместо аппендикса печень удалит. Да ебёт кого как он видит. Положено как надо

А как надо? В творческих профессиях нет шаблонов, скорее ввход за рамки дает произведению шанс зацепить больше людей.

Чайка в экран не влезает

Не был на море но блят ненавижу чаек. Это трындец как они орут с 2 часов ночи.. по ходу с воронами бьются за место под солнцем. Спальный район. Край города. Раньше у меня под окнами соловьи пели. А час. ну реально даже ночью в туалет курнуть пойдёшь а они и туда гавкают в вытяжку. Горд ярославль. Морей нету кроме рыбинского водохранилища

ЭТО ЧТО РЕАЛЬНО РАБОТАЕТ.

Меня так на неделю мьютили за тукана в чате.

Меня так за гуся перманентно забанили у одного дотастримера

Ну я не на стриме кидал, а в чате игры)

@moderator, тут у Патрика член

Я запускаю шептуна

Одна курица решила стать олдфагом.
Зашла на ответы мейл ру, говорит: Научите меня трифорсить. Самый опытный знаток сказал ей что трифорса не существует.
Тогда курица приходит на двач, и говорит: я хочу научится трифорсить! А Двач ей отвечает: Поешь говна ньюфажина, нет никакого трифорса.
Тогда курица приходит на форч и говорит: Анонимусы, я хочу стать олдфагом. Расскажите мне как трифорсить! Но даже там ей ничего не сказали.
Тогда курица сдеанонила самого Абу, приходит к нему домой и говорит: я хочу Стать олдфагом. НАучите меня трифорсить! А Абу отвечает ей: Это невозможно, новички не знают как это делать, а старики знают, но никогда не делают.
Расстроилась курица, вернулась в свой курятник, обступили ее остальные курицы, и спрашивают: Ты узнала как трифорсить? Покажи нам.
Но курица отказалась. И тогда все поняли что она олдфаг.

Запускаем гуся гидру!

Спойлер: моё чсв


Default [HungerGames] 07.03.2014 - 17.01.2020
недоЖурналист однонедельный 06.11.2019 - 13.11.2019
Helper [HungerGames] 17.01.2020 - 17.04.2020


Новичок

Модератор форума

Подающий надежды

Новичок

Наблюдатель




танки
тарков
симулятор автоваза


Потихоньку втягиваюсь




Новичок


Новичок

Модератор сервера


Спойлер: history

SpaceCraft
[LowModer] SpaceCraft 07.10.2017 - 21.10.2017
[Moder] SpaceCraft 21.10.2017 - 08.11.2017

Magic
[Moder] Magic 13.05.2019 - 18.06.2019
[LowModer] Magic 13.01.2020 - 20.01.2020
[Moder] Magic 20.01.2020 - 06.04.2020
[HeadModer] Magic 06.04.2020 - 15.06.2020

Запускаем гуся гидру!

Спойлер: моё чсв


Default [HungerGames] 07.03.2014 - 17.01.2020
недоЖурналист однонедельный 06.11.2019 - 13.11.2019
Helper [HungerGames] 17.01.2020 - 17.04.2020


Новичок

Модератор форума

Подающий надежды

Новичок

Наблюдатель




танки
тарков
симулятор автоваза


Потихоньку втягиваюсь




Новичок


Новичок

Модератор сервера


Спойлер: history

SpaceCraft
[LowModer] SpaceCraft 07.10.2017 - 21.10.2017
[Moder] SpaceCraft 21.10.2017 - 08.11.2017

Magic
[Moder] Magic 13.05.2019 - 18.06.2019
[LowModer] Magic 13.01.2020 - 20.01.2020
[Moder] Magic 20.01.2020 - 06.04.2020
[HeadModer] Magic 06.04.2020 - 15.06.2020

Автор статьи

Куприянов Денис Юрьевич

Куприянов Денис Юрьевич

Юрист частного права

Страница автора

Читайте также: