Python——网络爬虫,一个简单的通用代码框架

匆匆过客 提交于 2020-03-01 10:40:22
一、代码"""通用代码框架:可使网页爬取变得更稳定更有效下面是一个爬取百度网页的例子,正常情况下是返回"""import requestsdef get_HTML_Text():    try:        r = requests.get(url, timeout=30)        r.raise_for_status()        # 若状态不是200,引发HTTPError异常        r.encoding = r.apparent_encoding        return r.text    except:        return '产生异常!'if __name__ == '__main__':    url = "http://www.baidu.com"    print(get_HTML_Text()
二、结果分析正常情况:其实去掉三个www中的一个也会正常

 


 异常情况1:

 

 

 

异常情况2:

 

 异常情况3:


 


 

三、总结异常情况的原因多样,通用代码框架并不能包含全部异常,代码写正确才是王道
 
 

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!