ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

一日一技:使用二分法排查正则表达式的异常

2020-12-03 10:51:38  阅读:175  来源: 互联网

标签:regex 一技 正则表达式 list 一行 二分法 re 报错


一日一技:使用二分法排查正则表达式的异常

一日一技:使用二分法排查正则表达式的异常

摄影:产品经理
下厨:kingname
现在我有10亿条微博正文,并从同事手上拿到了15000条需要过滤的垃圾信息正则表达式,只要微博正文符合任何一条正则表达式,就删除这条微博。

正则表达式的格式为:


^你成功领取
|^感谢您的积
|^在第\d+次抽奖.
|^只有帮主才
|^目标有相应
|^宝宝#G.
|^提交失败,
|^您已领取过
|^破军争夺战
|^首席大弟子
|数第\d+个丫鬟
|你的店铺
|恭喜.*?投中了
|<web
|你将该物品拆解成
|^你身上没有
|欢迎参加微博抽奖
|蔡徐坤
|王一博
|朱一龙
...

存放在一个名为trash.txt的文本文件中,每个正则表达式一行。

一般情况下,我只需要使用如下几行代码就能实现这个功能:


import re

with open('trash.txt', encoding='utf-8') as f:
    lines = [x.strip() for x in f]
    pattern = re.compile(''.join(lines))

for weibo in weibo_list:
    if pattern.search(weibo):
        print('垃圾信息,过滤!')

但是当我的代码运行到re.compile这一行时,报错了,如下图所示:

一日一技:使用二分法排查正则表达式的异常
并且,即使你在 Google 上面搜索:re.error: multiple repeat at position,截至2019年12月30日,你能找到的都是对这个报错的讨论,但没有一个讨论能解决本文描述的问题。

那我们自食其力,来试着解决一下这个问题。它报错报的是position 167,那么我们来看看第167个字符有什么问题。在 PyCharm 中,可以在右下角查看你选中了多少个字符,如下图所示:

一日一技:使用二分法排查正则表达式的异常
从截图中可以看到,第167个字符所在的这一行正则表达式为:|张三丰.?张翠山.?张无忌,但是我完全看不出这一行正则表达式有什么问题。

由于报错了,那么肯定至少有一行正则表达式有问题,我们假设有问题的正则表达式有且只有一行。现在我们有15000行正则表达式,如何找出有问题的这一行呢?

这个时候,我们就可以使用二分查找来解决这个问题,,我们最多查找14次就能找到有问题的这一行正则表达式。

由于正则表达式一共有15000行,我们就先看0-7500行在编译时是否会报错,如果报错,在看0-3750行是否报错,如果不报错,在看3750-7500行是否报错……如此分割下去,直到找到报错的这一行正则表达式。

二分查找的代码如下:

import re

with open('trash.txt', encoding='utf-8') as f:
    lines = [x.strip() for x in f]

def is_compile_success(regex):
    try:
        re.compile(regex)
        return True
    except Exception:
        return False

def search(regex_list):
    if len(regex_list) == 1:
        print(regex_list[0])
        return
    mid = len(regex_list) // 2
    part_1 = ''.join(regex_list[: mid])
    part_2 = ''.join(regex_list[mid: ])
    if not is_compile_success(part_1):
        search(regex_list[: mid])
        return
    if not is_compile_success(part_2):
        search(regex_list[mid:])
        return

search(lines)

运行结果如下图所示:
一日一技:使用二分法排查正则表达式的异常

原来出问题的地方在:.??,这里多写了一个问号。把这一行改成|赵大.?包以后,编译成功通过。

思考题

如果要把出问题的这一行所在的行号打印出来,应该如何修改代码?
如果有问题的正则表达式不止一行,应该如何修改代码,从而打印所有有问题的正则表达式?

一日一技:使用二分法排查正则表达式的异常

标签:regex,一技,正则表达式,list,一行,二分法,re,报错
来源: https://blog.51cto.com/15023263/2558858

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有