标签:__ en zh python text 正则 clean comp 预处理
import re
# make English text clean
def clean_en_text(text):
# keep English, digital and space
comp = re.compile('[^A-Z^a-z^0-9^ ]')
return comp.sub('', text)
# make Chinese text clean
def clean_zh_text(text):
# keep English, digital and Chinese
comp = re.compile('[^A-Z^a-z^0-9^\u4e00-\u9fa5]')
return comp.sub('', text)
if __name__ == '__main__':
text_en = '$How old are you?$'
text_zh = '$你好!我是个程序媛,中国新生代农民工。$'
print(clean_en_text(text_en))
print(clean_zh_text(text_zh))
标签:__,en,zh,python,text,正则,clean,comp,预处理 来源: https://blog.csdn.net/sunshinezhihuo/article/details/119906248
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。
