第三周:网络爬虫之实战

第一节:Re(正则表达式)库入门

正则表达式是用来简洁表达一组字符串的表达式。它可以用来表达文本类型的特征。

正则表达式编译:将符合正则表达式语法的字符串转换成正则表达式特征。

1.正则表达式的语法

例如:

P(Y|YT|YTH|YTHO)?N

正则表达式语法由字符和操作符构成。正则表达式的常用操作符见表1.1所示。

表1.1 正则表达式的常用操作符

操作符

说明

实例

.

表示任何单个字符

[]

字符集,对单个字符给出取值范围

[abc]表示a,b,c,[a-z]表示a到z单个字符

[^]

非字符集,对单个字符给出排除范围

[^abc]表示非a或b或c的单个字符

*

前一个字符0次或无限次扩展

abc*表示ab,abc,abcc,abccc等

+

前一个字符1次或无限次扩展

abc+表示abc,abcc,abccc等

?

前一个字符0次或1次扩展

abc?表示ab,abc

|

左右表达式任意一个

abc|def表示abc或def

{m}

扩展前一个字符m次

ab{3}c表示abbbc

{m,n}

扩展前一个字符m至n(含n)次

ab{1,2}c表示abc,abbc

^

匹配字符串开头

^abc表示abc且在第一个字符串的开头

$

匹配字符串结尾

abc$表示abc且在一个字符串的结尾

()

分组标记,内部只能使用|操作符

(abc)表示abc,(abc|def)表示abc、def

\d

数字,等价于[0-9]

\w

单词字符,等价于[A-Za-z0-9_]

表1.2 经典正则表达式实例

^[A-Za-z]+$

由26个字母组成的字符串

^[A-Za-z0-9]+$

由26个字母和数字组成的字符串

^-?\d+$

整数形式的字符串

^[0-9]*[1-9][0-9]*$

正整数形式的字符串

[1-9]\d{5}

中国境内邮政编码,6位

[\u4e00-\u9fa5]

匹配中文字符

\d{3}-\d{8}|\d{4}-\d{7}

国内电话号码(3位区号-8位4位区号-7位

 

2.Re库的基本使用

(1).正则表达式的表示类型

①raw string类型(原生字符串类型)

re库采用raw string类型表示正则表达式,表示为:r’text’。例如中国境内邮政编码可以表示为:r’[1-9]\d{5}’。

raw string(原生字符串)是不包含转移符的字符串。Re库的主要功能函数如表1.3所示。

表1.3 Re库主要功能函数

函数

说明

re.search()

在一个字符串中搜索匹配正则表达式的第一个位置,返回match对象。

re.match()

从第一个字符串的开始位置其匹配正则表达式,返回match对象。

re.findall()

搜索字符串,以列表类型返回全部能匹配的子串。

re.split()

将一个字符串按照正则表达式匹配结果进行分隔,返回列表类型,匹配的部分去掉

re.finditer()

搜索字符串,返回一个匹配结果的迭代类型,每个元素都是match对象。

re.sub()

在一个字符串中替换所有匹配正则表达式的子串,返回替换后的字符串。

(2)功能函数的基本介绍

①re.search(pattern, string, flags=0)

在一个字符串中搜索匹配正则表达式的第一个位置,返回match对象。后面参数中,pattern是正则表达式的字符串或原生字符串表示;string是待匹配字符串,flags是使用时的控制标记。标记包括re.I(re.IGNORECASE)忽略正则表达式的大小写,[A-Z]能够匹配小鞋字符;re.M(re.MULTILINE)正则表达式中的^操作符能够将给定字符串的每行当作匹配开始;re.S(re.DOTALL)正则表达式中的.操作符能够匹配所有字符,默认匹配除换行外的所有字符。

②re.findall(pattern, string, flags=0)

例程:

结果:

['100081', '100084', '710071']

③re.split(pattern, string, maxsplit=0, flags=0)

maxsplit表示最大分个数,剩余部分作为最后一个元素输出。

代码:

结果:

['BIT ', ' TSU100084 XDU710071']

④re.finditer(pattern, string, flags=0)

代码:

结果:

100081

100084

710071

⑤re.sub(pattern,rep,string, count=0,flags=0)

rep是替换匹配字符串的字符串,count代表匹配的最大次数。

例程:

结果:

BIT xiaoao TSU100084 XDU710071

(3)Re库的另一种等价用法

例如,原来我们使用这种函数式用法,这是一种一次性操作。

现在我们可以采用面向对象用法,可以在编译后多次操作。

将正则表达式的字符串形式编译成正则表达式对象。

3.Re库的match对象

match对象的属性如表1.4所示。

表1.4 Match对象的属性

属性

说明

.string

待匹配的文本

.re

匹配使用的pattern对象(正则表达式)

.pos

正则表达式搜索文本的开始位置

.endpos

正则表达式搜索文本的结束位置

.group(0)

返回匹配后的字符串

.start()

匹配字符串在原始字符串的开始位置

.end()

匹配字符串在原始字符串的结束位置

.span()

返回(.start(),.end()),是元组类型

 

4.Re库的贪婪匹配和最小匹配

(1)贪婪匹配

Re库默认采用贪婪匹配,即输出匹配最长的子串。例如输入:

结果为:

PYANBNCNDN

(2)最小匹配

代码如下:

结果:

PYAN

最小匹配操作符如表1.5所示。

表1.5 最小匹配操作符

操作符

说明

*?

前一个字符0次或无限次扩展,最小匹配。

+?

前一个字符1次或无限次扩展,最小匹配。

??

前一个字符0次或1次扩展,最小匹配。

{m,n,}?

扩展前一个字符m至n次(含n),最小匹配。

 

第二节:实例2:淘宝商品比价定向爬虫

1.实例介绍

功能描述:

目标:获取淘宝搜索页面的信息,提取其中的商品名称和价格。

理解:淘宝的搜索接口;翻页的处理。

技术路线:requests库+re库。

程序结构设计

步骤1:提交商品搜索请求,循环获取页面。

步骤2:对于每个页面,提取商品名称和价格信息。

步骤3:将信息输出到屏幕上。

2.实例编写

代码:

结果(2018年5月7日22:08结果):

序号      价格              商品名称           

   1    79.00           小学生大空间容量女生公主书包双肩背包减负

   2    69.00           艾奔 双肩包男背包女韩版潮 商务男士电脑包高中学生书包休闲旅行

   3    39.90           迪卡侬双肩包男女学生书包健身包运动新款校园20升休闲 KIPSTA

   4    59.80           商务背包男士双肩包韩版潮流旅行包休闲女学生书包简约时尚电脑包

   5    49.00           书包小学生 1-2-3-6年级男女生减负双肩儿童书包男孩防水护脊背包

   6    69.00           双肩包男士背包时尚潮流初中高中学生书包大学生女商务旅行电脑包

   7    59.00           男背包旅游休闲商务电脑韩版时尚潮流大高中学生书包旅行双肩包

   8    59.00           背包男韩版时尚潮流双肩包休闲商务电脑旅行大容量高中大学生书包

   9    129.00          七匹狼商务双肩包男书包中学生女电脑包旅行包休闲男士背包大容量

  10    99.00           米熙休闲运动背包双肩包女书包中学生男时尚潮流大容量旅游旅行包

  11    138.00          双肩包女背包2018新款韩版潮牛津布帆布百搭防盗女士旅行休闲包包

  12    69.00           2018新款双肩包女牛津布韩版潮百搭背包时尚休闲书包女包包旅行包

  13    119.00          巴朗新款商务双肩包休闲时尚潮流大学生书包15.6寸电脑包男士背包

  14    55.00           双肩包女包包2018新款韩版潮时尚个性百搭2017牛津帆布小书包背包

  15    129.00          七匹狼双肩包男 韩版女休闲潮包 学生书包电脑包旅行包双肩背包男

  16    69.00           双肩包女2018新款包包韩版百搭时尚背包女双肩软皮旅行包书包女包

  17    49.00           背包男双肩包高中初中学生韩版书包男时尚潮流青年电脑旅游旅行包

  18    149.00          小米双肩包简约休闲多功能书包男女笔记本电脑包时尚潮流旅行背包

  19    69.00           双肩包女包包2018新款韩版潮个性百搭时尚迷你小2017书包女士背包

  20    139.00          施维茨男士双肩包大容量背包女商务电脑旅行包休闲潮高中学生书包

  21    139.00          瑞士军刀双肩包男瑞士电脑旅行背包女大容量高中大学初中学生书包

  22    139.00          七匹狼背包男商务双肩包男士旅行休闲时尚潮流电脑青年书包大容量

  23    139.00          赫登尔双肩包男士潮流背包男韩版旅行包时尚休闲学生书包电脑包潮

  24    125.00          瑞士军刀双肩包瑞士中学生书包女休闲男士商务旅行大容量电脑背包

  25    208.00          【香港直邮】anello双肩包男女离家出走包学生书包旅行包休闲背包

  26    79.00           书包小学生男1-3-4-6年级儿童减负护脊女6-12周岁初中学生双肩包

  27    119.00          韩国kk树书包小学生男1-3-4-6年级儿童书包女6-12周岁双肩包护脊

  28    79.00           书包女韩版原宿ulzzang 高中学生2018新款初中生校园甜甜圈双肩包

  29    118.00          瑞士军刀双肩包男士背包大容量休闲商务电脑包韩版高中书包旅行包

  30    149.00          双肩包男士时尚潮流背包韩版个性书包男大学生运动休闲电脑旅行包

  31    89.00           双肩包男帆布背包电脑包休闲防水运动后背包男旅行包青年学生书包

  32    208.00          日本anello双肩包女防水牛津布乐天背包学生书包离家出走包alleno

  33    158.00          专柜正品JanSport杰斯伯经典双肩背包男女同款学生书包T501纯色

  34    69.00           休闲双肩包韩版简约旅行背包电脑初中高中学生校园书包男时尚潮流

  35    129.00          男士双肩包男韩版时尚背包男大学生书包潮流旅行包电脑包男包皮包

  36    189.00          商务双肩包男大容量青年短途出差旅行包17寸电脑包多功能防盗背包

第三节:实例3:股票数据定向爬虫

1.实例介绍

功能描述:

目标:获取上交所和深交所所有股票的名称和交易信息。

输出:保存在文件中。

技术路线:requests库++bs4库+re库。

候选数据网站选择:

选取原则:信息静态存在于HTML页面中,非js代码生成,没有Robots协议限制。

选取方法:查看源代码等。

选取心态:不要纠结于某个网站,多找信息源尝试。

程序结构设计

步骤1:从东方财富网获取股票列表。

步骤2:根据股票列表逐个到百度股票获取个股信息。。

步骤3:将结果存储到文件中。

2.实例编写

代码:

3.编写优化

代码: