为什么要爬天气呢?1.可以练练手2.利用itchat库实现自动回复功能后,把查天气的功能集成起来,实现微信自助查天气功能!
首先,还是相似的套路,我们看看能不能在官网上直接抓包(XHR)来获取一个通用API。然后直接用API查询就OK?在百度搜关键词【天气】或者【南京天气】会跳出对应的网页:http://www.weather.com.cn/weather/101190101.shtml.点进去,可以看到相应城市下一周的天气情况:
再换一个城市上海,我们发现,浏览器地址变为:http://www.weather.com.cn/weather/101020100.shtml。原来101020100这串数字对应着相应城市的代码。我们来分析下页面上XHR请求,看看有没有直接抓包的可能?
经过谷歌浏览器——检查-Networt-XHR-刷新,发现并没有XHR请求,看来我们需要的天气内容和城市代码,可能是包含在页面中经过JS和服务器处理后呈现的.....好吧,尝试失败!
再看一下JS请求,发现太多了,无力去逐一查看!所幸网上有人早已记录下了所有城市对应的城市代码。我把拷贝了一下,存到了本地mysql,数据在百度云上,需要的可以自行下载下,执行SQL即可直接把SQL表和数据一并建好。https://pan.baidu.com/s/1kXaN2Aj 密码是:8y6n。
好了,准备工作做完了,现在思路就很清楚了,全国城市和代码都有了,我们查某个城市的天气,只需要输入城市,就可以从mysql里获取对应的城市代码如:101020100,然后构造相应的url:http://www.weather.com.cn/weather/101190101.shtml就可以查看到对应城市的7天天气了,然而,页面并没有XHR和直接可用的json数据,那我们只能自己动手了——分析网页内容,动手写正则表达式/beautifulSoup/Xpath来提取页面信息,具体内容在此就不赘述了,详见代码就好:
在学习过程中有什么不懂得可以加我的
python学习资源qun,855408893
群里有不错的学习视频教程、开发工具与电子书籍。
与你分享python企业当下人才需求及怎么从零基础学习好python,和学习什么内容
import re
import pymysql
import requests
from bs4 import BeautifulSoup
class SearchWeather():
def __init__(self):
self.HEADERS ={
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 ''(KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'}
self.CONNECTION = pymysql.connect(host='localhost',user='root',password='xxx',db='xxx',charset='utf8',cursorclass=pymysql.cursors.DictCursor)
def getcityCode(self,cityName):
SQL = "SELECT cityCode FROM cityWeather WHERE cityName='%s'" % cityName
try:
with self.CONNECTION.cursor() as cursor:
cursor.execute(SQL)
self.CONNECTION.commit()
result = cursor.fetchone()
return result['cityCode']
except Exception as e:
print(repr(e))
def getWeather(self,cityCode,cityname):
url = 'http://www.weather.com.cn/weather/%s.shtml' % cityCode
html = requests.get(url,headers = self.HEADERS)
html.encoding='utf-8'
soup=BeautifulSoup(html.text,'lxml')
weather = "日期 天气 【温度】 风向风力\n"
for item in soup.find("div", {'id': '7d'}).find('ul').find_all('li'):
date,detail = item.find('h1').string, item.find_all('p')
title = detail[0].string
templow = detail[1].find("i").string
temphigh = detail[1].find('span').string if detail[1].find('span') else ''
wind,direction = detail[2].find('span')['title'], detail[2].find('i').string
if temphigh=='':
weather += '你好,【%s】今天白天:【%s】,温度:【%s】,%s:【%s】\n' % (cityname,title,templow,wind,direction)
else:
weather += (date + title + "【" + templow + "~"+temphigh +'°C】' + wind + direction + "\n")
return weather
def main(self,city):
cityCode = self.getcityCode(city)
detail = self.getWeather(cityCode,city)
print (detail)
if __name__ == "__main__":
weather = SearchWeather()
weather.main(city=input('请输入城市名称:'))
代码运行效果如下:
来源:oschina
链接:https://my.oschina.net/u/4380311/blog/3290637