Maison > développement back-end > Tutoriel Python > [Python] Web Crawler (7) : Tutoriel sur les expressions régulières en Python

[Python] Web Crawler (7) : Tutoriel sur les expressions régulières en Python

黄舟
Libérer: 2017-01-21 14:28:38
original
1411 Les gens l'ont consulté

Ensuite, je vais utiliser Aibai pour créer un petit exemple de robot.

Mais avant cela, examinons en détail le contenu associé des expressions régulières en Python.

Le rôle des expressions régulières dans les robots Python est comme la liste utilisée par l'enseignant lors de l'appel nominal. C'est une arme magique indispensable.

Le contenu suivant est reproduit à partir de CNBLOG : http://www.cnblogs.com/huxi/archive/2010/07/04/1771073.html

Je n'ai pas fait attention quand en le modifiant, je suis vraiment désolé.

1. Bases des expressions régulières

1.1. Introduction au concept

Les expressions régulières sont un outil puissant pour traiter les chaînes, et elles ne font pas partie de Python.

Le concept d'expressions régulières se retrouve également dans d'autres langages de programmation. La seule différence est que différents langages de programmation prennent en charge différents nombres de syntaxes.

Il possède sa propre syntaxe unique et un moteur de traitement indépendant. Dans les langages qui fournissent des expressions régulières, la syntaxe des expressions régulières est la même.

La figure suivante montre le processus de correspondance à l'aide d'expressions régulières :

[Python] Web Crawler (7) : Tutoriel sur les expressions régulières en Python


Processus de correspondance approximatif des expressions régulières C'est :

1. Retirez l'expression et comparez-la tour à tour avec les caractères du texte,

2 Si chaque caractère peut être associé, la correspondance est réussie une fois qu'il y a un caractère qui ; ne parvient pas à correspondre, la correspondance a échoué.

3. S'il y a des quantificateurs ou des limites dans l'expression, le processus sera légèrement différent.

La figure suivante répertorie les métacaractères et la syntaxe des expressions régulières pris en charge par Python :

[Python] Web Crawler (7) : Tutoriel sur les expressions régulières en Python

Mode gourmand et mode non gourmand des quantificateurs

<.>


Les expressions régulières sont couramment utilisées pour rechercher des chaînes correspondantes dans un texte.

Le mode gourmand essaie toujours de faire correspondre autant de caractères que possible ;

le mode non gourmand est à l'opposé et essaie toujours de faire correspondre le moins de caractères possible.

Les quantificateurs en Python sont gourmands par défaut.


Par exemple : si l'expression régulière "ab*" est utilisée pour trouver "abbbc", "abbb" sera trouvé.

Et si le quantificateur non gourmand "ab*?" est utilisé, "a" sera trouvé.


1.3. Le problème de la barre oblique inverse


Comme dans la plupart des langages de programmation, "" est utilisé comme caractère d'échappement dans les expressions régulières. provoquer une confusion avec la barre oblique inverse.

Si vous devez faire correspondre le caractère "" dans le texte, alors 4 barres obliques inverses "\\" seront nécessaires dans l'expression régulière exprimée dans le langage de programmation :

Le premier et le deuxième Trois sont utilisés pour échapper les deuxième et quatrième barres obliques inverses dans le langage de programmation.

est converti en deux barres obliques inverses, puis échappé en une barre oblique inverse dans l'expression régulière.

C'est évidemment très gênant.


La chaîne native en Python résout très bien ce problème. L'expression régulière dans cet exemple peut être représentée par r"\".

De même, "\d" correspondant à un nombre peut être écrit sous la forme r"d".

Avec les chaînes natives, ma mère n'a plus à se soucier de mon problème de barre oblique inverse~



2. Présentation du module re


2.1. Compile

Python prend en charge les expressions régulières via le module re.

Les étapes générales d'utilisation de re sont :

Étape 1 : Compilez d'abord la forme de chaîne de l'expression régulière dans une instance de Pattern.

Étape 2 : Utilisez ensuite l'instance Pattern pour traiter le texte et obtenir le résultat correspondant (une instance Match).

Étape 3 : Enfin, utilisez l'instance Match pour obtenir des informations et effectuer d'autres opérations.

Créons un nouveau re01.py pour tester la ré-application :

# -*- coding: utf-8 -*-  
#一个简单的re实例,匹配字符串中的hello字符串  
  
#导入re模块  
import re  
   
# 将正则表达式编译成Pattern对象,注意hello前面的r的意思是“原生字符串”  
pattern = re.compile(r&#39;hello&#39;)  
   
# 使用Pattern匹配文本,获得匹配结果,无法匹配时将返回None  
match1 = pattern.match(&#39;hello world!&#39;)  
match2 = pattern.match(&#39;helloo world!&#39;)  
match3 = pattern.match(&#39;helllo world!&#39;)  
  
#如果match1匹配成功  
if match1:  
    # 使用Match获得分组信息  
    print match1.group()  
else:  
    print &#39;match1匹配失败!&#39;  
  
  
#如果match2匹配成功  
if match2:  
    # 使用Match获得分组信息  
    print match2.group()  
else:  
    print &#39;match2匹配失败!&#39;  
  
  
#如果match3匹配成功  
if match3:  
    # 使用Match获得分组信息  
    print match3.group()  
else:  
    print &#39;match3匹配失败!&#39;
Copier après la connexion
Vous pouvez voir que la console génère trois résultats correspondants :

[Python] Web Crawler (7) : Tutoriel sur les expressions régulières en Python

Examinons de plus près les méthodes clés du code.


★ re.compile(strPattern[, flag]):


Cette méthode est la méthode d'usine de la classe Pattern, utilisée pour compiler des expressions régulières sous forme de chaîne est un objet Modèle.

Le deuxième indicateur de paramètre est le mode de correspondance. La valeur peut utiliser l'opérateur OU au niveau du bit '|' pour indiquer qu'il prend effet en même temps, comme re.I |

De plus, vous pouvez également spécifier le modèle dans la chaîne regex,

Par exemple, re.compile('pattern', re.I | re.M) et re.compile( '(? im)pattern') sont équivalents.

Les valeurs facultatives sont :


  • re.I(全拼:IGNORECASE): 忽略大小写(括号内是完整写法,下同)

  • re.M(全拼:MULTILINE): 多行模式,改变'^'和'$'的行为(参见上图)

  • re.S(全拼:DOTALL): 点任意匹配模式,改变'.'的行为

  • re.L(全拼:LOCALE): 使预定字符类 \w \W \b \B \s \S 取决于当前区域设定

  • re.U(全拼:UNICODE): 使预定字符类 \w \W \b \B \s \S \d \D 取决于unicode定义的字符属性

  • re.X(全拼:VERBOSE): 详细模式。这个模式下正则表达式可以是多行,忽略空白字符,并可以加入注释。


以下两个正则表达式是等价的:

# -*- coding: utf-8 -*-  
#两个等价的re匹配,匹配一个小数  
import re  
  
a = re.compile(r"""\d +  # the integral part 
                   \.    # the decimal point 
                   \d *  # some fractional digits""", re.X)  
  
b = re.compile(r"\d+\.\d*")  
  
match11 = a.match(&#39;3.1415&#39;)  
match12 = a.match(&#39;33&#39;)  
match21 = b.match(&#39;3.1415&#39;)  
match22 = b.match(&#39;33&#39;)   
  
if match11:  
    # 使用Match获得分组信息  
    print match11.group()  
else:  
    print u&#39;match11不是小数&#39;  
      
if match12:  
    # 使用Match获得分组信息  
    print match12.group()  
else:  
    print u&#39;match12不是小数&#39;  
      
if match21:  
    # 使用Match获得分组信息  
    print match21.group()  
else:  
    print u&#39;match21不是小数&#39;  
  
if match22:  
    # 使用Match获得分组信息  
    print match22.group()  
else:  
    print u&#39;match22不是小数&#39;
Copier après la connexion

re提供了众多模块方法用于完成正则表达式的功能。


这些方法可以使用Pattern实例的相应方法替代,唯一的好处是少写一行re.compile()代码,

但同时也无法复用编译后的Pattern对象。

这些方法将在Pattern类的实例方法部分一起介绍。

如一开始的hello实例可以简写为:

# -*- coding: utf-8 -*-  
#一个简单的re实例,匹配字符串中的hello字符串  
import re  
  
m = re.match(r&#39;hello&#39;, &#39;hello world!&#39;)  
print m.group()
Copier après la connexion

re模块还提供了一个方法escape(string),用于将string中的正则表达式元字符如*/+/?等之前加上转义符再返回


2.2. Match

Match对象是一次匹配的结果,包含了很多关于此次匹配的信息,可以使用Match提供的可读属性或方法来获取这些信息。

属性:

string: 匹配时使用的文本。

re: 匹配时使用的Pattern对象。

pos: 文本中正则表达式开始搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。

endpos: 文本中正则表达式结束搜索的索引。值与Pattern.match()和Pattern.seach()方法的同名参数相同。

lastindex: 最后一个被捕获的分组在文本中的索引。如果没有被捕获的分组,将为None。

lastgroup: 最后一个被捕获的分组的别名。如果这个分组没有别名或者没有被捕获的分组,将为None。

方法:

group([group1, …]):
获得一个或多个分组截获的字符串;指定多个参数时将以元组形式返回。group1可以使用编号也可以使用别名;编号0代表整个匹配的子串;不填写参数时,返回group(0);没有截获字符串的组返回None;截获了多次的组返回最后一次截获的子串。

groups([default]):
以元组形式返回全部分组截获的字符串。相当于调用group(1,2,…last)。default表示没有截获字符串的组以这个值替代,默认为None。

groupdict([default]):
返回以有别名的组的别名为键、以该组截获的子串为值的字典,没有别名的组不包含在内。default含义同上。

start([group]):
返回指定的组截获的子串在string中的起始索引(子串第一个字符的索引)。group默认值为0。

end([group]):
返回指定的组截获的子串在string中的结束索引(子串最后一个字符的索引+1)。group默认值为0。

span([group]):
返回(start(group), end(group))。

expand(template):
将匹配到的分组代入template中然后返回。template中可以使用\id或\g、\g引用分组,但不能使用编号0。\id与\g是等价的;但\10将被认为是第10个分组,如果你想表达\1之后是字符'0',只能使用\g<1>0。

下面来用一个py实例输出所有的内容加深理解:

# -*- coding: utf-8 -*-  
#一个简单的match实例  
  
import re  
# 匹配如下内容:单词+空格+单词+任意字符  
m = re.match(r&#39;(\w+) (\w+)(?P<sign>.*)&#39;, &#39;hello world!&#39;)  
  
print "m.string:", m.string  
print "m.re:", m.re  
print "m.pos:", m.pos  
print "m.endpos:", m.endpos  
print "m.lastindex:", m.lastindex  
print "m.lastgroup:", m.lastgroup  
  
print "m.group():", m.group()  
print "m.group(1,2):", m.group(1, 2)  
print "m.groups():", m.groups()  
print "m.groupdict():", m.groupdict()  
print "m.start(2):", m.start(2)  
print "m.end(2):", m.end(2)  
print "m.span(2):", m.span(2)  
print r"m.expand(r&#39;\g<2> \g<1>\g<3>&#39;):", m.expand(r&#39;\2 \1\3&#39;)  
   
### output ###  
# m.string: hello world!  
# m.re: <_sre.SRE_Pattern object at 0x016E1A38>  
# m.pos: 0  
# m.endpos: 12  
# m.lastindex: 3  
# m.lastgroup: sign  
# m.group(1,2): (&#39;hello&#39;, &#39;world&#39;)  
# m.groups(): (&#39;hello&#39;, &#39;world&#39;, &#39;!&#39;)  
# m.groupdict(): {&#39;sign&#39;: &#39;!&#39;}  
# m.start(2): 6  
# m.end(2): 11  
# m.span(2): (6, 11)  
# m.expand(r&#39;\2 \1\3&#39;): world hello!
Copier après la connexion

2.3. Pattern

Pattern对象是一个编译好的正则表达式,通过Pattern提供的一系列方法可以对文本进行匹配查找。

Pattern不能直接实例化,必须使用re.compile()进行构造,也就是re.compile()返回的对象。

Pattern提供了几个可读属性用于获取表达式的相关信息:

pattern: 编译时用的表达式字符串。

flags: 编译时用的匹配模式。数字形式。

groups: 表达式中分组的数量。

groupindex: 以表达式中有别名的组的别名为键、以该组对应的编号为值的字典,没有别名的组不包含在内。

可以用下面这个例子查看pattern的属性:

# -*- coding: utf-8 -*-  
#一个简单的pattern实例  
  
import re  
p = re.compile(r&#39;(\w+) (\w+)(?P<sign>.*)&#39;, re.DOTALL)  
   
print "p.pattern:", p.pattern  
print "p.flags:", p.flags  
print "p.groups:", p.groups  
print "p.groupindex:", p.groupindex  
   
### output ###  
# p.pattern: (\w+) (\w+)(?P<sign>.*)  
# p.flags: 16  
# p.groups: 3  
# p.groupindex: {&#39;sign&#39;: 3}
Copier après la connexion
下面重点介绍一下pattern的实例方法及其使用。
1.match
match(string[, pos[, endpos]]) | re.match(pattern, string[, flags]):
这个方法将从string的pos下标处起尝试匹配pattern;
如果pattern结束时仍可匹配,则返回一个Match对象;
如果匹配过程中pattern无法匹配,或者匹配未结束就已到达endpos,则返回None。
pos和endpos的默认值分别为0和len(string);
re.match()无法指定这两个参数,参数flags用于编译pattern时指定匹配模式。
注意:这个方法并不是完全匹配。
当pattern结束时若string还有剩余字符,仍然视为成功。
想要完全匹配,可以在表达式末尾加上边界匹配符&#39;$&#39;。
下面来看一个Match的简单案例:
Copier après la connexion
# encoding: UTF-8  
import re  
   
# 将正则表达式编译成Pattern对象  
pattern = re.compile(r&#39;hello&#39;)  
   
# 使用Pattern匹配文本,获得匹配结果,无法匹配时将返回None  
match = pattern.match(&#39;hello world!&#39;)  
   
if match:  
    # 使用Match获得分组信息  
    print match.group()  
   
### 输出 ###  
# hello
Copier après la connexion

2.search
search(string[, pos[, endpos]]) | re.search(pattern, string[, flags]):
这个方法用于查找字符串中可以匹配成功的子串。

从string的pos下标处起尝试匹配pattern,

如果pattern结束时仍可匹配,则返回一个Match对象;

若无法匹配,则将pos加1后重新尝试匹配;

直到pos=endpos时仍无法匹配则返回None。

pos和endpos的默认值分别为0和len(string));

re.search()无法指定这两个参数,参数flags用于编译pattern时指定匹配模式。

那么它和match有什么区别呢?

match()函数只检测re是不是在string的开始位置匹配,

search()会扫描整个string查找匹配,


match()只有在0位置匹配成功的话才有返回,如果不是开始位置匹配成功的话,match()就返回none
例如:
print(re.match(‘super’, ‘superstition’).span())

会返回(0, 5)

print(re.match(‘super’, ‘insuperable’))

则返回None

search()会扫描整个字符串并返回第一个成功的匹配
例如:

print(re.search(‘super’, ‘superstition’).span())

返回(0, 5)
print(re.search(‘super’, ‘insuperable’).span())

返回(2, 7)

看一个search的实例:

# -*- coding: utf-8 -*-  
#一个简单的search实例  
  
import re  
   
# 将正则表达式编译成Pattern对象  
pattern = re.compile(r&#39;world&#39;)  
   
# 使用search()查找匹配的子串,不存在能匹配的子串时将返回None  
# 这个例子中使用match()无法成功匹配  
match = pattern.search(&#39;hello world!&#39;)  
   
if match:  
    # 使用Match获得分组信息  
    print match.group()  
   
### 输出 ###  
# world
Copier après la connexion

3.split

split(string[, maxsplit]) | re.split(pattern, string[, maxsplit]):
按照能够匹配的子串将string分割后返回列表。

maxsplit用于指定最大分割次数,不指定将全部分割。

import re  
   
p = re.compile(r&#39;\d+&#39;)  
print p.split(&#39;one1two2three3four4&#39;)  
   
### output ###  
# [&#39;one&#39;, &#39;two&#39;, &#39;three&#39;, &#39;four&#39;, &#39;&#39;]
Copier après la connexion

4.findall

findall(string[, pos[, endpos]]) | re.findall(pattern, string[, flags]):
搜索string,以列表形式返回全部能匹配的子串。

import re  
   
p = re.compile(r&#39;\d+&#39;)  
print p.findall(&#39;one1two2three3four4&#39;)  
   
### output ###  
# [&#39;1&#39;, &#39;2&#39;, &#39;3&#39;, &#39;4&#39;]
Copier après la connexion

5.finditer

finditer(string[, pos[, endpos]]) | re.finditer(pattern, string[, flags]):
搜索string,返回一个顺序访问每一个匹配结果(Match对象)的迭代器。

import re  
   
p = re.compile(r&#39;\d+&#39;)  
for m in p.finditer(&#39;one1two2three3four4&#39;):  
    print m.group(),  
   
### output ###  
# 1 2 3 4
Copier après la connexion

6.sub

sub(repl, string[, count]) | re.sub(pattern, repl, string[, count]):
使用repl替换string中每一个匹配的子串后返回替换后的字符串。
当repl是一个字符串时,可以使用\id或\g、\g引用分组,但不能使用编号0。
当repl是一个方法时,这个方法应当只接受一个参数(Match对象),并返回一个字符串用于替换(返回的字符串中不能再引用分组)。
count用于指定最多替换次数,不指定时全部替换。

import re  
   
p = re.compile(r&#39;(\w+) (\w+)&#39;)  
s = &#39;i say, hello world!&#39;  
   
print p.sub(r&#39;\2 \1&#39;, s)  
   
def func(m):  
    return m.group(1).title() + &#39; &#39; + m.group(2).title()  
   
print p.sub(func, s)  
   
### output ###  
# say i, world hello!  
# I Say, Hello World!
Copier après la connexion

7.subn

subn(repl, string[, count]) |re.sub(pattern, repl, string[, count]):
返回 (sub(repl, string[, count]), 替换次数)。

import re  
   
p = re.compile(r&#39;(\w+) (\w+)&#39;)  
s = &#39;i say, hello world!&#39;  
   
print p.subn(r&#39;\2 \1&#39;, s)  
   
def func(m):  
    return m.group(1).title() + &#39; &#39; + m.group(2).title()  
   
print p.subn(func, s)  
   
### output ###  
# (&#39;say i, world hello!&#39;, 2)  
# (&#39;I Say, Hello World!&#39;, 2)
Copier après la connexion

至此,Python的正则表达式基本介绍就算是完成了^_^


以上就是[Python]网络爬虫(七):Python中的正则表达式教程的内容,更多相关内容请关注PHP中文网(www.php.cn)!



Étiquettes associées:
source:php.cn
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Tutoriels populaires
Plus>
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal