最近小说看得比较多，但是很多小说网站都存在各种小广告，看起来很不方便，所以就自己写了个小程序，把小说都爬下来，然后搭个自己喜欢web页面来看。
在爬取过程中没有出现太大的问题，只有在清洗数据时，发现小说文本中混杂html标签，所以就需要对标签进行清洗。
我自己尝试了字符串的处理方式，正则，还有lxml等方式来处理这个问题，现在记录一下使用方式。
我们使用下面这个字符串举例说明，内容为一段html代码。需要对这段字符串进行处理，提取文本
html = '你好
哈哈大家好'
1. 使用正则来处理
import re
pattern = re.compile(r'<[^>] >',re.s)
result = pattern.sub('', html)
print(result)
输出结果：
你好哈哈大家好
2. 使用beautifulsoup来处理
from bs4 import beautifulsoup
soup = beautifulsoup(html,'html.parser')
print(soup.get_text())
输出结果：
你好哈哈大家好
3. 使用lxml来出来
from lxml import etree
response = etree.html(text=html)
# print(dir(response))
print(response.xpath('string(.)'))
输出结果：
你好哈哈大家好