парсинг

  1. RTF_LABS_STUDIO

    На проверке Парсинг сайтов как мы зделали rtfox-browser — форк undetected-chromedriver с поддержкой SOCKS5

    Как мы форкнули undetected-chromedriver и добавили SOCKS5, мультипроцессинг и модуль капчи Всем привет! Недавно мы столкнулись с темой парсинга. Начали искать инструменты — BeautifulSoup, Selenium, Playwright, Puppeteer. Сразу скажу: мы не конкуренты этим библиотекам, далее объясним почему...
  2. bitebix

    Я исполнитель Чекинг и парсинг номеров в соц.сетях

    Привет из цифровой тени! Специализируюсь на чекинге и парсинге номеров в Telegram, MAX, Viber, Signal и других мессенджерах. По всем вопросам обращайтесь в Telegram BITEBIX
  3. Михаил Гудилин

    Writeup Python-скрипты для автоматизации решения CTF-задач

    // Lab-based writeup в формате статьи, смоделировал 3 CTF задачи и решил их скриптом! Что вас ждёт в статье: 1. Введение 2. Типовые задачи, где автоматизация решает 3. Первая практика: «Noise Pipeline» 4. Вторая практика: «Access Denied» 5. Третья практика: «Lost Artifact» 6. Как использовать...
  4. Oxcode

    Я исполнитель Профессиональная разработка любых проектов

    Предлагаем полный спектр услуг по разработке веб-сайтов, парсингу, автоматизации задач и различных потребностей. Мы готовы решить любые задачи по созданию и поддержке ваших проектов. Разработка веб-сайтов Frontend разработка Backend разработка Автоматизация бизнес задач Парсинг, веб-скрейпинг...
  5. Snoop007

    Github. На Python-е среди звёзд.

    Преамбула В виртуальном мире на живых людей оказывает воздействие один из внешних постулатов: самое востребованное злато в киберпространстве — лайк, или звезды, с точки зрения психологии — те же лайки на Github, но определяющие значимость в среде IT-шников. На момент написания статьи функционал...
  6. W

    Я заказчик Найти пару ключей для парсинга приложения Aвитo

    Приветствую! Необходимо найти пару ключей (публичный, приватный) из приложения Aвитo на Андроид. Ключи, вероятно, передаются в зашифрованном виде. Необходимо запустить apk файл на виртуальной машине, осуществить перехват ключей и предоставить пару ключей в расшифрованном виде для дальнейшего...
  7. Johan Van

    Статья Сбор данных с сайта знакомств с помощью Selenium, BeautifulSoup и requests используя скрипт на Python

    В данной статье я предлагаю вам немного отвлечься от слишком серьезных задач и попрактиковаться в парсинге. А, чтобы не было скучно, будем мы парсить достаточно известный сайт знакомств. А именно, забирать оттуда фото пользователей. Для наших целей мы будем использовать Selenium, BeautifulSoup...
  8. Johan Van

    Статья Автоматизированный сбор данных с сайта бесплатных объявлений с помощью Python

    Решил я тут на днях попробовать парсить Авито. Наверное, раньше это была одна из излюбленных площадок для обучения парсингу. И, действительно, ещё примерно год назад можно было собирать данные с этой площадки особо не напрягаясь. Но, возможно, в связи с громкими утечками данных защита от...
  9. Johan Van

    Статья Парсинг страницы с треками, формирование плейлистов и использование mutagen для чтения метаданных аудиофайлов в Python

    Давайте сегодня займемся парсингом, а заодно посмотрим, как работает библиотека для извлечения IDv3 тегов из аудиофайлов. Парсить будем сайт, с которого можно бесплатно скачать музыкальные треки. Скажем так, совместим приятное с полезным. Попрактикуемся немного в парсинге, а заодно скачаем себе...
  10. Johan Van

    Статья Парсинг вывода команд операционной системы и немного о получении параметров сетевых адаптеров с помощью Python

    В данной статье речь пойдет о парсинге. Не о том, когда получаются данные веб-сайта. Этот парсинг, в более правильном варианте, все же называется scrapping. А о том, который подразумевает под собой парсинг данных. В данном случае текстовых. Ну и немного о получении данных о сетевых адаптерах...
  11. Johan Van

    Статья Получение данных из таблицы с динамическим содержимым с помощью Python

    Парсинг данных, это всегда увлекательная и полезная штука, ведь получив данные мы можем выполнить различные виды анализа или использовать полученные данные в нужных приложениях, будь то телеграмм-бот или иное приложение. В марте этого года на сайте фриланса fl.ru мне попалось задание, которое...
  12. Johan Van

    Статья Загружаем видео из ВК с помощью Python

    Загрузка видео на локальный диск, это дело хорошее. Потому, что у любого контента в интернете есть не очень хорошее свойство — рано или поздно он попросту теряется, либо его удаляют. Я немного покопался в коде страничек ВК и сделал небольшой скрипт, который загружает видео. А использовал я для...
  13. P

    Проблема с парсингом на PyQt5

    Пишу код для парсинга https://apitest.arizona-rp.com/mon/fraction/11/9. Паршу с помощью PyQt5. Вся проблема в том, что при первом вызове парсинга этого сайта код работает на отлично, но если вызвать метод 2 раза, то код выполняется только первый раз, а на второй раз выкидывает ошибку Process...
  14. Pr0r0k

    Я исполнитель Разработка Телеграмм ботов, Парсинг данных

    Всем привет, занимаюсь разработкой телеграмм ботов на Python. Имею опыт работы с get/post запросами, базами данных, парсингом сайтов и многое другое. Имеется бэкграунд в виде бота который парсит постоянно данные недвижимости с интернет-сервисов таких как Авито, DomClick, DomoFond и...
  15. Johan Van

    Перевод текста в переводчике DeepL с использованием Selenium в Python

    Когда вы собираетесь читать книгу на иностранном языке, вы либо учите этот язык, для того, чтобы можно было читать тексты в оригинале, либо пользуетесь услугами машинного перевода. Если, конечно, книга уже не переведена на ваш язык опытным переводчиком. И, несомненно, лидерами в области...
  16. Johan Van

    Скачиваем видео с YouTube с помощью Python, без использования pytube

    Что вы делаете, когда вам нужно сохранить определенное видео с YouTube, чтобы оно не потерялось? Ну, тут логично. Можно в самом YouTube создать плейлист и добавлять туда все, что нужно. Можно просто добавить страницу в закладки. Да много чего можно сделать. А еще скачать видео себе на жесткий...
  17. Johan Van

    Парсим новости в бота с помощью почти забытой технологии. Использование RSS в Python

    Начинающие программисты на питоне постоянно натыкаются на уроки о том, как создать бота. И да, боты – это довольно полезная штука, но лишь в том случае, если они еще и выполняют какие-либо полезные функции. С помощью телеграмм-бота можно даже управлять компьютером удаленно. И это не так уж и...
  18. Johan Van

    Проверка никнейма на доступность для регистрации с помощью Python

    В последнее время много сообщений о всяческих чекерах, сканерах и прочих программах, которые проверяют… ну, допустим доступность никнейма для регистрации на сервисе. Ведь если на сервисе никнейм не доступен, это значит, что нужно будет постараться и придумать другой. Я нашел три таких...
  19. Johan Van

    Парсим данные таблиц сайта в Excel с помощью Pandas

    Парсинг данных. Эта штука может быть настолько увлекательной, что порой затягивает очень сильно. Ведь всегда интересно найти способ, с помощью которого можно получить те или иные данные, да еще и структурировать их в нужном виде. В статье «Простой пример работы с Excel в Python» уже был...
  20. Johan Van

    Парсим и скачиваем «нескучные обои» с использованием потоков в Python

    Давайте сегодня подумаем о красоте. А именно, о красоте рабочего стола. А украсить его могут только «нескучные обои». Привет, Денис Попов :LOL:. Ну, а если более серьезно, то скачаем картинки с обоями с сайта, на котором их очень и очень много. Конечно же, для того, чтобы скачать картинки мы...