一个实现批量抓取淘女郎写真图片的爬虫-低调大师

一个实现批量抓取淘女郎写真图片的爬虫

2018-03-13 645

淘女郎，也被很多人称作“网络模特”，就是专门给淘宝、天猫等线上商家拍摄图片的平面模特。

我们将用Python3和Selenium Webdriver抓取每一个美眉的个人主页内的写真图片，把每一个美眉的写真图片按照文件夹保存到本地。

先说一下网页爬取的一般步骤：

1.查看目标网站页面的源代码，找到需要爬取的内容
2.用正则或其他如xpath/bs4的工具获取爬取内容
3.写出完整的python代码，实现爬取过程

查看网站源码，火狐浏览器右键-查看源代码即可获取：

640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=

代码编写的关键步骤：

①需要用到的模块

②解析目标网页的 Html 源码 bsObj = BeautifulSoup(driver.page_source, parser)

③用正则表达式获取美女图片
imagesUrl = re.findall('\/\/gtd\.alicdn\.

微信关注我们

原文链接：https://yq.aliyun.com/articles/538912

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2018-03-14 00:00:00

小白爬虫第一篇——抓取淘宝文胸数据

小白爬虫系列的文章，顾名思义都是写给小白的，每一篇都是楼主都会选择一个网站进行实战，因为楼主觉得爬虫是一个力气活，只有在实战中才能提高战力啊。好了，话不多说，我们选择的第一个网站是淘宝，当然这次不是大规模抓取，大规模留到进阶篇。首先我们打开淘宝的首页，然后在搜索栏输入文胸（这里只是以文胸为例子，你喜欢写啥就写啥，本人测试无论输入哪种商品都可以），结果如图: 这里都是琳琅满目的文胸，然后楼主去网页的源代码看了看，商品的具体数据是JS动态加载的，不在源代码里面的，那么我们就找嘛，毕竟每页这么多的商品数据，找到这个JS文件也不难，因为淘宝的商品太多了，楼主就简单切换一下页数，果然在切换的时候抓到了这个js请求文件，如图打开这个文件可以看到都是我们需要的商品数据抓到这个文件就好办了，我们先分析一下这个请求，如图这里的URL是超级长，当

594

2018-03-14 00:00:00

【亲测有效】Nodepad++/Sublime Text3中Python脚本运行出现语法错误：IndentationError: unind...

我在开发游戏的时候，发现一个python脚本，本来都运行好好的，然后写了几行代码，而且也都确保每行都对齐了，但是运行的时候，却出现语法错误： IndentationError: unindent does not match any outer indentation level 【解决过程】以下我将提供两种环境对错误进行更改： Nodepad++： 1.对于此错误，最常见的原因是，的确没有对齐。但是我根据错误提示的行数，去代码中看了下，没啥问题啊。都是用TAB键，对齐好了的，没有不对齐的行数啊。2.以为是前面的注释的内容影响后面的语句的语法了，所以把前面的注释也删除了。结果还是此语法错误。3.后来折腾了半天，突然想到了，把当前python脚本的所有字符都显示出来看看有没有啥特殊的字符。当前用的文本编辑器Notepad++，好像有个设置，可以显示所有的字符的。找到了，在：视图 -> 显示符号 -> 显示空格与制表符然后就看出问题来了：原来错误的行数是1580行：但是源码的1580行的对齐用的是点点点的空格，是和前面的几行的对齐所用的箭头表示的TAB键，是不匹配的，即...

547

资源下载

更多资源

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。