python爬虫怎么做？

Python爬虫如何写？~

先检查是否有API

API是网站官方提供的数据接口，如果通过调用API采集数据，则相当于在网站允许的范围内采集，这样既不会有道德法律风险，也没有网站故意设置的障碍；不过调用API接口的访问则处于网站的控制中，网站可以用来收费，可以用来限制访问上限等。整体来看，如果数据采集的需求并不是很独特，那么有API则应优先采用调用API的方式。


数据结构分析和数据存储

爬虫需求要十分清晰，具体表现为需要哪些字段，这些字段可以是网页上现有的，也可以是根据网页上现有的字段进一步计算的，这些字段如何构建表，多张表如何连接等。值得一提的是，确定字段环节，不要只看少量的网页，因为单个网页可以缺少别的同类网页的字段，这既有可能是由于网站的问题，也可能是用户行为的差异，只有多观察一些网页才能综合抽象出具有普适性的关键字段——这并不是几分钟看几个网页就可以决定的简单事情，如果遇上了那种臃肿、混乱的网站，可能坑非常多。

对于大规模爬虫，除了本身要采集的数据外，其他重要的中间数据（比如页面Id或者url）也建议存储下来，这样可以不必每次重新爬取id。

数据库并没有固定的选择，本质仍是将Python里的数据写到库里，可以选择关系型数据库MySQL等，也可以选择非关系型数据库MongoDB等；对于普通的结构化数据一般存在关系型数据库即可。sqlalchemy是一个成熟好用的数据库连接框架，其引擎可与Pandas配套使用，把数据处理和数据存储连接起来，一气呵成。


数据流分析

对于要批量爬取的网页，往上一层，看它的入口在哪里；这个是根据采集范围来确定入口，比如若只想爬一个地区的数据，那从该地区的主页切入即可；但若想爬全国数据，则应更往上一层，从全国的入口切入。一般的网站网页都以树状结构为主，找到切入点作为根节点一层层往里进入即可。

值得注意的一点是，一般网站都不会直接把全量的数据做成列表给你一页页往下翻直到遍历完数据，比如链家上面很清楚地写着有24587套二手房，但是它只给100页，每页30个，如果直接这么切入只能访问3000个，远远低于真实数据量；因此先切片，再整合的数据思维可以获得更大的数据量。显然100页是系统设定，只要超过300个就只显示100页，因此可以通过其他的筛选条件不断细分，只到筛选结果小于等于300页就表示该条件下没有缺漏；最后把各种条件下的筛选结果集合在一起，就能够尽可能地还原真实数据量。

明确了大规模爬虫的数据流动机制，下一步就是针对单个网页进行解析，然后把这个模式复制到整体。对于单个网页，采用抓包工具可以查看它的请求方式，是get还是post，有没有提交表单，欲采集的数据是写入源代码里还是通过AJAX调用JSON数据。

同样的道理，不能只看一个页面，要观察多个页面，因为批量爬虫要弄清这些大量页面url以及参数的规律，以便可以自动构造；有的网站的url以及关键参数是加密的，这样就悲剧了，不能靠着明显的逻辑直接构造，这种情况下要批量爬虫，要么找到它加密的js代码，在爬虫代码上加入从明文到密码的加密过程；要么采用下文所述的模拟浏览器的方式。


数据采集

之前用R做爬虫，不要笑，R的确可以做爬虫工作；但在爬虫方面，Python显然优势更明显，受众更广，这得益于其成熟的爬虫框架，以及其他的在计算机系统上更好的性能。scrapy是一个成熟的爬虫框架，直接往里套用就好，比较适合新手学习；requests是一个比原生的urllib包更简洁强大的包，适合作定制化的爬虫功能。requests主要提供一个基本访问功能，把网页的源代码给download下来。一般而言，只要加上跟浏览器同样的Requests Headers参数，就可以正常访问，status_code为200，并成功得到网页源代码；但是也有某些反爬虫较为严格的网站，这么直接访问会被禁止；或者说status为200也不会返回正常的网页源码，而是要求写验证码的js脚本等。

下载到了源码之后，如果数据就在源码中，这种情况是最简单的，这就表示已经成功获取到了数据，剩下的无非就是数据提取、清洗、入库。但若网页上有，然而源代码里没有的，就表示数据写在其他地方，一般而言是通过AJAX异步加载JSON数据，从XHR中找即可找到；如果这样还找不到，那就需要去解析js脚本了。


解析工具

源码下载后，就是解析数据了，常用的有两种方法，一种是用BeautifulSoup对树状HTML进行解析，另一种是通过正则表达式从文本中抽取数据。

BeautifulSoup比较简单，支持Xpath和CSSSelector两种途径，而且像Chrome这类浏览器一般都已经把各个结点的Xpath或者CSSSelector标记好了，直接复制即可。以CSSSelector为例，可以选择tag、id、class等多种方式进行定位选择，如果有id建议选id，因为根据HTML语法，一个id只能绑定一个标签。

正则表达式很强大，但构造起来有点复杂，需要专门去学习。因为下载下来的源码格式就是字符串，所以正则表达式可以大显身手，而且处理速度很快。

对于HTML结构固定，即同样的字段处tag、id和class名称都相同，采用BeautifulSoup解析是一种简单高效的方案，但有的网站混乱，同样的数据在不同页面间HTML结构不同，这种情况下BeautifulSoup就不太好使；如果数据本身格式固定，则用正则表达式更方便。比如以下的例子，这两个都是深圳地区某个地方的经度，但一个页面的class是long，一个页面的class是longitude，根据class来选择就没办法同时满足2个，但只要注意到深圳地区的经度都是介于113到114之间的浮点数，就可以通过正则表达式"11[3-4].\d+"来使两个都满足。


数据整理

一般而言，爬下来的原始数据都不是清洁的，所以在入库前要先整理；由于大部分都是字符串，所以主要也就是字符串的处理方式了。

字符串自带的方法可以满足大部分简单的处理需求，比如strip可以去掉首尾不需要的字符或者换行符等，replace可以将指定部分替换成需要的部分，split可以在指定部分分割然后截取一部分。

如果字符串处理的需求太复杂以致常规的字符串处理方法不好解决，那就要请出正则表达式这个大杀器。

Pandas是Python中常用的数据处理模块，虽然作为一个从R转过来的人一直觉得这个模仿R的包实在是太难用了。Pandas不仅可以进行向量化处理、筛选、分组、计算，还能够整合成DataFrame，将采集的数据整合成一张表，呈现最终的存储效果。


写入数据库

如果只是中小规模的爬虫，可以把最后的爬虫结果汇合成一张表，最后导出成一张表格以便后续使用；但对于表数量多、单张表容量大的大规模爬虫，再导出成一堆零散的表就不合适了，肯定还是要放在数据库中，既方便存储，也方便进一步整理。

写入数据库有两种方法，一种是通过Pandas的DataFrame自带的to_sql方法，好处是自动建表，对于对表结构没有严格要求的情况下可以采用这种方式，不过值得一提的是，如果是多行的DataFrame可以直接插入不加索引，但若只有一行就要加索引否则报错，虽然这个认为不太合理；另一种是利用数据库引擎来执行SQL语句，这种情况下要先自己建表，虽然多了一步，但是表结构完全是自己控制之下。Pandas与SQL都可以用来建表、整理数据，结合起来使用效率更高。

完全掌握Python参加培训需要4-6个月左右，如果单纯的入门的话1-2个月左右就差不多了。Python爬虫就是使用Pythoni程序开发的网络爬虫，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本，主要用于搜索引擎，它将一个网站的所有内容与链接进行阅读，并建立相关的全文素引到数据库中，然后跳到另一个网站。Python开发软件可根据其用途不同分为两种，一种是Python代码编辑器，一种是Python集成开发工具，两者的配合使用可以极大的提高Python开发人员的编程效率。

具体步骤

整体思路流程

简单代码演示
准备工作
下载并安装所需要的python库，包括：

对所需要的网页进行请求并解析返回的数据

对于想要做一个简单的爬虫而言，这一步其实很简单，主要是通过requests库来进行请求，然后对返回的数据进行一个解析，解析之后通过对于元素的定位和选择来获取所需要的数据元素，进而获取到数据的一个过程。

可以通过定义不同的爬虫来实现爬取不同页面的信息，并通过程序的控制来实现一个自动化爬虫。

以下是一个爬虫的实例

你这么问不太对，实际上Python爬虫是一个大概念。
就像你问别人，炒菜怎么炒？要看你炒什么菜？才好针对性的解决问题
实际上，怎么做，要看你是什么需求，或者你想抓取什么样的数据或者什么网站的数据。
Python爬虫的库很多，例如Scrapy，BeautifulSoup4等等

需要学习：

1、基本的爬虫工作原理

2、基本的http抓取工具，scrapy

3、Bloom Filter: Bloom Filters by Example

如果需要大规模网页抓取，就需要学习分布式爬虫的概念。其实没那么玄乎，只要学会怎样维护一个所有集群机器能够有效分享的分布式队列就好。

首先要设定好正则表达式
其次在网址的选举上提现输入好网址这样就可以进行爬虫了

这个是需要进行系统的学习的，不是一下子就能学会的

---

霍山县15847085575： 如何用Python爬虫抓取网页内容? - ？
笪饼源心： 首先,你要安装requests和BeautifulSoup4,然后执行如下代码. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34importrequests frombs4 importBeautifulSoupiurl ='http://news.sina.com.cn/c/nd/2017...

霍山县15847085575： 如何运行python使得进行爬虫 - ？
笪饼源心： 在pom.xml 中添加如下内容: <dependency><groupId>org.apache.thrift</groupId> <artifactId>libthrift</artifactId> <version>0.9.0</version> </dependency> <dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-log4j12</artifactId> <version>1.5.8</version> </dependency>

霍山县15847085575： 关于python爬虫我有python爬虫的源码,该怎么运行啊 ？
笪饼源心： 如何运行爬虫代码,爬虫代码有很多,这里列举最常见的爬虫代码的运行方法工具/原料 有python环境的pc一台方法/步骤 打开python爬虫代码的源码目录,通常开始文件为,init.py,start.py,app.py寻找有没有类似的python文件,如果没有,请看源码的readme文件,里面会有说明,若以上都没有,你可能需要python方面的知识,自己去看源码,找到入口方法并运行找到入口文件后,在当前目录打开控制台,输入python正常情况下会出现下图的提示,若没有,请检查当前pc的python环境是否有被正确安装最后,运行入口文件,输入python ***.py(入口文件),运行爬虫

霍山县15847085575： 如何用python写爬虫 知乎 - ？
笪饼源心： 学习 基本的爬虫工作原理 基本的http抓取工具,scrapy Bloom Filter: Bloom Filters by Example 如果需要大规模网页抓取,你需要学习分布式爬虫的概念.其实没那么玄乎,你只要学会怎样维护一个所有集群机器能够有效分享的分布式队列就好.最简单的实现是python-rq: https://github.com/nvie/rq rq和Scrapy的结合:darkrho/scrapy-redis · GitHub 后续处理,网页析取(grangier/python-goose · GitHub),存储(Mongodb)

霍山县15847085575： 怎么样在Python中制作简单的网页爬虫 - ？
笪饼源心： 推荐使用Requests + BeautifulSoup框架来写爬虫,Requests用来发送各种请求,BeautifulSoup用来解析页面内容,提取数据.当然Python也有一些现成的爬虫库,例如Scrapy,pyspider等.

霍山县15847085575： 如何用python实现网络爬虫原理?有木有高手啊?？
笪饼源心： 对于一个网络爬虫,如果要按广度遍历的方式下载,它就是这样干活的: 1.从给定的入口网址把第一个网页下载下来 2.从第一个网页中提取出所有新的网页地址,放入...

霍山县15847085575： Python中怎么用爬虫爬 - ？
笪饼源心： Python爬虫可以爬取的东西有很多,Python爬虫怎么学?简单的分析下: 如果你仔细观察,就不难发现,懂爬虫、学习爬虫的人越来越多,一方面,互联网可以获取的数据越来越多,另一方面,像 Python这样的编程语言提供越来越多的优秀工...

霍山县15847085575： 如何搭建一个python爬虫环境 - ？
笪饼源心： 1. 安装 Python 请到 Download Python 这里下载 Python 建议使用 Python 3.4.3 或者 Python 2.7.102.默认安装的 Python 已经安装了 pip 3. 如果你要学习的 scrapy 这个爬虫框架,还是 Py2 的版本的吧, pip install 就可以了.4. requests bs4 这些都是Py2 Py3 兼容的,都可以 pip install 安装

霍山县15847085575： 如何入门 Python 爬虫 - ？
笪饼源心： 从爬虫基本要求来看: 1. 抓取:抓取最基本就是拉网页回来,所以第一步就是拉网页回来,慢慢会发现各种问题待优化; 2. 存储:抓回来一般会用一定策略存下来,可以选择存文件系统开始,然后以一定规则命名. 3. 分析:对网页进行文本分析,可以用认为最快最优的办法,比如正则表达式; 4. 展示:要是做了一堆事情,一点展示输出都没有,如何展现价值.

霍山县15847085575： 如何自学Python爬虫技术,花式赚钱 - ？
笪饼源心： Python语言这两年是越来越火了,它渐渐崛起也是有缘由的. 比如市场需求、入门简单易学、支持多种语言……当然这些都是很官方的. 说白了,就是 写个web服务,可以用python; 写个服务器脚本,可以用python; 写个桌面客户端,可以用...