Spider-Scrapy

本文最后更新于:2023年10月21日 晚上

scrapy

1.scrapy

1
2
3
1scrapy是什么?
Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 可以应用在包括数据挖掘,信息处理
或存储历史数据等一系列的程序中。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
2 )安装scrapy:
pip install scrapy
安装过程中出错:
如果安装有错误!!!!
pip install Scrapy
building 'twisted.test.raiser' extension
error: Microsoft Visual C++ 14.0 is required. Get it with "Microsoft Visual C++ 
 Build Tools": http://landinghub.visualstudio.com/visual‐cpp‐build‐tools
解决方案:
http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted
下载twisted对应版本的whl文件(如我的Twisted‐17.5.0‐cp36‐cp36m‐win_amd64.whl),cp后面是
python版本,amd64代表 64 位,运行命令:
pip install C:\Users\...\Twisted‐17.5.0‐cp36‐cp36m‐win_amd64.whl
pip install Scrapy
如果再报错
python ‐m pip install ‐‐upgrade pip
如果再报错 win
解决方法:
pip install pypiwin
再报错:使用anaconda
使用步骤:
打开anaconda
点击environments
点击not installed
输入scrapy
apply
在pycharm中选择anaconda的环境

1.scrapy项目的创建以及运行

1
2
1.创建scrapy项目:
终端输入 scrapy startproject 项目名称
1
2
3
4
5
6
7
8
9
10
2.项目组成:
          spiders
              __init__.py
自定义的爬虫文件.py       ‐‐‐》由我们自己创建,是实现爬虫核心功能的文件
          __init__.py                  
          items.py                     ‐‐‐》定义数据结构的地方,是一个继承自scrapy.Item的类
          middlewares.py               ‐‐‐》中间件 代理
          pipelines.py   ‐‐‐》管道文件,里面只有一个类,用于处理下载数据的后续处理
默认是 300 优先级,值越小优先级越高(11000
          settings.py   ‐‐‐》配置文件 比如:是否遵守robots协议,User‐Agent定义等
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
3.创建爬虫文件:
1 )跳转到spiders文件夹 cd 目录名字/目录名字/spiders
2 )scrapy genspider 爬虫名字 网页的域名
爬虫文件的基本组成:
继承scrapy.Spider类
name = 'baidu' ‐‐‐》 运行爬虫文件时使用的名字
allowed_domains ‐‐‐》 爬虫允许的域名,在爬取的时候,如果不是此域名之下的
url,会被过滤掉
start_urls ‐‐‐》 声明了爬虫的起始地址,可以写多个url,一般是一个
parse(self, response) ‐‐‐》解析数据的回调函数
response.text ‐‐‐》响应的是字符串
response.body ‐‐‐》响应的是二进制文件
response.xpath()‐》xpath方法的返回值类型是selector列表
extract()             ‐‐‐》提取的是selector对象的是data
extract_first()       ‐‐‐》提取的是selector列表中的第一个数据
1
2
3
4.运行爬虫文件:
scrapy crawl 爬虫名称
注意:应在spiders文件夹内执行

3.scrapy架构组成

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
1 )引擎 ‐‐‐》自动运行,无需关注,会自动组织所有的请求对象,分发给下载器
2 )下载器    ‐‐‐》从引擎处获取到请求对象后,请求数据
3spiders  ‐‐‐》Spider类定义了如何爬取某个(或某些)网站。包括了爬取的动作(
:是否跟进链接)以及如何从网页的内容中提取结构化数据(爬取item)。 换句话说,Spider就是您定义爬取的动作及
分析某个网页(或者是有些网页)的地方。
4 )调度器    ‐‐‐》有自己的调度规则,无需关注
5 )管道(Item pipeline)   ‐‐‐》最终处理数据的管道,会预留接口供我们处理数据
ItemSpider中被收集之后,它将会被传递到Item Pipeline,一些组件会按照一定的顺序执行对Item的处理。
每个item pipeline组件(有时称之为“Item Pipeline)是实现了简单方法的Python类。他们接收到Item并通过它执行
一些行为,同时也决定此Item是否继续通过pipeline,或是被丢弃而不再进行处理。
以下是item pipeline的一些典型应用:
          1. 清理HTML数据
          2. 验证爬取的数据(检查item包含某些字段)
          3. 查重(并丢弃)
          4. 将爬取结果保存到数据库中

4.scrapy工作原理

案例:1.汽车之家

2.scrapy shell

1
2
3
4
5
6
1.什么是scrapy shell?
Scrapy终端,是一个交互终端,供您在未启动spider的情况下尝试及调试您的爬取代码。 其本意是用来测试提取
数据的代码,不过您可以将其作为正常的Python终端,在上面测试任何的Python代码。
该终端是用来测试XPath或CSS表达式,查看他们的工作方式及从爬取的网页中提取的数据。 在编写您的spider时,该
终端提供了交互性测试您的表达式代码的功能,免去了每次修改后运行spider的麻烦。
一旦熟悉了Scrapy终端后,您会发现其在开发和调试spider时发挥的巨大作用。
1
2
3
4
2.安装ipython
安装:pip install ipython
简介:如果您安装了 IPython ,Scrapy终端将使用 IPython (替代标准Python终端)。 IPython 终端与其他相
比更为强大,提供智能的自动补全,高亮输出,及其他特性。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
3.应用:( 1 )scrapy shell http://www.baidu.com
2 )scrapy shell http://www.baidu.com
        ( 3 ) scrapy shell "http://www.baidu.com"
        ( 4 ) scrapy shell "www.baidu.com"
语法:
1 )response对象:
response.body
response.text
response.url
response.status
2 )response的解析:
response.xpath() (常用)
使用xpath路径查询特定元素,返回一个selector列表对象
response.css()
使用css_selector查询元素,返回一个selector列表对象
获取内容 :response.css('#su::text').extract_first()
获取属性 :response.css('#su::attr(“value”)').extract_first()
3 )selector对象(通过xpath方法调用返回的是seletor列表)
extract()
提取selector对象的值
如果提取不到值 那么会报错
使用xpath请求到的对象是一个selector对象,需要进一步使用extract()方法拆
包,转换为unicode字符串
extract_first()
提取seletor列表中的第一个值
如果提取不到值 会返回一个空值
返回第一个解析到的值,如果列表为空,此种方法也不会报错,会返回一个空值
xpath()
css()
注意:每一个selector对象可以再次的去使用xpath或者css方法

3.yield

1. 带有 yield 的函数不再是一个普通函数,而是一个生成器generator,可用于迭代

2. yield 是一个类似 return 的关键字,迭代一次遇到yield时就返回yield后面(右边)的值。重点是:下一次迭代时,从上一次迭代遇到的yield后面的代码(下一行)开始执行

3. 简要理解:yield就是 return 返回一个值,并且记住这个返回的位置,下次迭代就从这个位置后(下一行)开始

案例:

1.当当网 ( 1 )yield( 2 ).管道封装( 3 ).多条管道下载 ( 4 )多页数据下载

2.电影天堂 ( 1 )一个item包含多级页面的数据

4.Mysql

( 1 )下载(https://dev.mysql.com/downloads/windows/installer/5.7.html

( 2 )安装(https://jingyan.baidu.com/album/d7130635f1c77d13fdf475df.html

5.pymysql的使用步骤

1
2
3
4
1.pip install pymysql
2.pymysql.connect(host,port,user,password,db,charset)
3.conn.cursor()
4.cursor.execute()

6.CrawlSpider

1
2
3
4
5
6
1.继承自scrapy.Spider
2.独门秘笈
CrawlSpider可以定义规则,再解析html内容的时候,可以根据链接规则提取出指定的链接,然后再向这些链接发
送请求
所以,如果有需要跟进链接的需求,意思就是爬取了网页之后,需要提取链接再次爬取,使用CrawlSpider是非常
合适的
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
3.提取链接
链接提取器,在这里就可以写规则提取指定链接
scrapy.linkextractors.LinkExtractor(
 allow = (),           # 正则表达式 提取符合正则的链接
 deny = (),            # (不用)正则表达式 不提取符合正则的链接
 allow_domains = (),   # (不用)允许的域名
 deny_domains = (),    # (不用)不允许的域名
 restrict_xpaths = (), # xpath,提取符合xpath规则的链接
 restrict_css = ()     # 提取符合选择器规则的链接)
4.模拟使用
正则用法:links1 = LinkExtractor(allow=r'list_23_\d+\.html')
xpath用法:links2 = LinkExtractor(restrict_xpaths=r'//div[@class="x"]')
css用法:links3 = LinkExtractor(restrict_css='.x')
5.提取连接
link.extract_links(response)
1
2
3
4
6.注意事项
【注 1 】callback只能写函数名字符串, callback='parse_item'
【注 2 】在基本的spider中,如果重新发送请求,那里的callback写的是   callback=self.parse_item 【注‐
‐稍后看】follow=true 是否跟进 就是按照提取连接规则进行提取

运行原理:

7.CrawlSpider案例

需求:读书网数据入库

1
2
3
4
5
6
7
8
9
1.创建项目:scrapy startproject dushuproject
2.跳转到spiders路径  cd\dushuproject\dushuproject\spiders
3.创建爬虫类:scrapy genspider ‐t crawl read www.dushu.com
4.items
5.spiders
6.settings
7.pipelines
数据保存到本地
数据保存到mysql数据库

8. 数据入库

1
2
3
4
5
6
7
8
9
10
11
1 )settings配置参数:
DB_HOST = '192.168.231.128'
DB_PORT =  3306
DB_USER = 'root'
DB_PASSWORD = '1234'
DB_NAME = 'test'
DB_CHARSET = 'utf8'
2 )管道配置
from scrapy.utils.project import get_project_settings
import pymysql
class MysqlPipeline(object):
1
#__init__方法和open_spider的作用是一样的
1
2
3
4
5
6
7
8
9
#init是获取settings中的连接参数
def __init__(self):
settings = get_project_settings()
self.host = settings['DB_HOST']
self.port = settings['DB_PORT']
self.user = settings['DB_USER']
self.pwd = settings['DB_PWD']
self.name = settings['DB_NAME']
self.charset = settings['DB_CHARSET']
1
2
3
4
5
6
7
8
9
10
self.connect()
# 连接数据库并且获取cursor对象
def connect(self):
self.conn = pymysql.connect(host=self.host,
port=self.port,
user=self.user,
password=self.pwd,
db=self.name,
charset=self.charset)
self.cursor = self.conn.cursor()
1
2
3
def process_item(self, item, spider):
sql = 'insert into book(image_url, book_name, author, info) values("%s",
"%s", "%s", "%s")' % (item['image_url'], item['book_name'], item['author'], item['info'])
1
2
3
4
5
6
7
sql = 'insert into book(image_url,book_name,author,info) values
("{}","{}","{}","{}")'.format(item['image_url'], item['book_name'], item['author'],
item['info'])
# 执行sql语句
self.cursor.execute(sql)
self.conn.commit()
return item
1
2
3
def close_spider(self, spider):
self.conn.close()
self.cursor.close()

9.日志信息和日志等级

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
1)日志级别:
            CRITICAL:严重错误
            ERROR:   一般错误
            WARNING: 警告
            INFO:     一般信息
            DEBUG:   调试信息
           
            默认的日志等级是DEBUG
            只要出现了DEBUG或者DEBUG以上等级的日志
            那么这些日志将会打印
2)settings.py文件设置:
   默认的级别为DEBUG,会显示上面所有的信息        
10.scrapy的post请求
11.代理
            在配置文件中  settings.py
            LOG_FILE  : 将屏幕显示的信息全部记录到文件中,屏幕不再显示,注意文件后缀一定是.log
            LOG_LEVEL : 设置日志显示的等级,就是显示哪些,不显示哪些

10.scrapy的post请求

1
2
3
4
5
6
7
8
1 )重写start_requests方法:
def start_requests(self)
( 2 ) start_requests的返回值:
scrapy.FormRequest(url=urlheaders=headerscallback=self.parse_itemformdata=data)
url: 要发送的post地址
headers:可以定制头信息
callback: 回调函数
formdata: post所携带的数据,这是一个字典

11.代理

1
2
3
4
5
6
7
8
1 )到settings.py中,打开一个选项
DOWNLOADER_MIDDLEWARES = {
   'postproject.middlewares.Proxy'543,
}
2 )到middlewares.py中写代码
def process_request(self, request, spider):
        request.meta['proxy'] = 'https://113.68.202.10:9999'
        return None