请输入标题 bcdef
由于最近忙于直播,没有存下稿子,在这里大邓要向大家检讨道歉。但请大家放心,每天的更新我还会保持的,大家有什么内容上的建议可以后台回复我。
请输入标题 bcdef
文本分析是很有用的一个必须掌握的技能,写爬虫爬了那么多文本,我们如何分析呢??
有很多种角度,比如提取出文章的主题内容,这用到LDA(Latent Dirichlet Allocation),LDA是一种文档主题生成模型。这个太难,其实大邓都没学会,但大邓会努力的,争取早日学会分享给大家。
还有一个角度就是分析文本的情绪,是积极还是消极。一般咱们爬的评论都可以用到这个角度的分析方法。情感分析是一很难的东西,就算是一句“我很开心”,你能知道说这句话的人是否真开心?还要分析这个人说话的语气,语调。
但是咱们今天抛开语调,语气,单纯从文本角度对一段段的评论进行分析。我们使用了很简单的词典进行分析,准确率不是特别高,但做做学术搞搞研究还是够用的。
请输入标题 abcdefg
一、原理
比如这么一句话:“这手机的画面极好,操作也比较流畅。不过拍照真的太烂了!系统也不好。”
1.1 情感词
要分析一句话是积极的还是消极的,最简单最基础的方法就是找出句子里面的情感词,积极的情感词比如:赞,好,顺手,华丽等,消极情感词比如:差,烂,坏,坑爹等。出现一个积极词就+1,出现一个消极词就-1。
里面就有“好”,“流畅”两个积极情感词,“烂”一个消极情感词。那它的情感分值就是1+1-1+1=2. 很明显这个分值是不合理的,下面一步步修改它。
请输入标题 abcdefg
请输入标题 bcdef
1.2 程度词
“好”,“流畅”和‘烂“前面都有一个程度修饰词。”极好“就比”较好“或者”好“的情感更强,”太烂“也比”有点烂“情感强得多。
所以需要在找到情感词后往前找一下有没有程度修饰,并给不同的程度一个权值。比如”极“,”无比“,”太“就要把情感分值*4,”较“,”还算“就情感分值*2,”只算“,”仅仅“这些就*0.5了。那么这句话的情感分值就是:4*1+1*2-1*4+1=3
1.3 感叹号
可以发现太烂了后面有感叹号,叹号意味着情感强烈。因此发现叹号可以为情感值+2. 那么这句话的情感分值就变成了:4*1+1*2-1*4-2+1 = 1
1.4否定词
明眼人一眼就看出最后面那个”好“并不是表示”好“,因为前面还有一个”不“字。所以在找到情感词的时候,需要往前找否定词。比如”不“,”不能“这些词。
而且还要数这些否定词出现的次数,如果是单数,情感分值就*-1,但如果是偶数,那情感就没有反转,还是*1。在这句话里面,可以看出”好“前面只有一个”不“,所以”好“的情感值应该反转,*-1。
因此这句话的准确情感分值是:4*1+1*2-1*4-2+1*-1 = -1
请输入标题 bcdef
1.5积极和消极分开来
再接下来,很明显就可以看出,这句话里面有褒有贬,不能用一个分值来表示它的情感倾向。而且这个权值的设置也会影响最终的情感分值,敏感度太高了。
因此对这句话的最终的正确的处理,是得出这句话的一个积极分值,一个消极分值(这样消极分值也是正数,无需使用负数了)。它们同时代表了这句话的情感倾向。所以这句评论应该是”积极分值:6,消极分值:7“
1.6以分句的情感为基础
再仔细一步,详细一点,一条评论的情感分值是由不同的分句加起来的,因此要得到一条评论的情感分值,就要先计算出评论中每个句子的情感分值。这条例子评论有四个分句,因此其结构如下([积极分值, 消极分值]):[[4, 0], [2, 0], [0, 6], [0, 1]]
以上就是使用情感词典来进行情感分析的主要流程了,算法的设计也会按照这个思路来实现。
二、算法设计
第一步:读取评论数据,对评论进行分句。
第二步:查找对分句的情感词,记录积极还是消极,以及位置。
第三步:往情感词前查找程度词,找到就停止搜寻。为程度词设权值,乘以情感值。
第四步:往情感词前查找否定词,找完全部否定词,若数量为奇数,乘以-1,若为偶数,乘以1。
第五步:判断分句结尾是否有感叹号,有叹号则往前寻找情感词,有则相应的情感值+2。
第六步:计算完一条评论所有分句的情感值,用数组(list)记录起来。
第七步:计算并记录所有评论的情感值。
第八步:通过分句计算每条评论的积极情感均值,消极情感均值,积极情感方差,消极情感方差。
请输入标题 bcdef
三、实战
这里是我参考已有代码,结合自己需要,对代码进行了简单的修改。本脚本运行环境是python3.5 ,使用2.x的盆友们见谅。
运行代码及词典下载
后台回复“情感分析” 即可获得项目源码和词典
请输入标题 bcdef
请输入标题 abcdefg
更多
内容
大数据
爬虫
【视频】快来get新技能--抓包+cookie,爬微博不再是梦
【视频】有了selenium,小白也可以自豪的说:“去TMD的抓包、cookie”
文本分析
好玩的python
下载完代码,一定要注意代码中的path,修改成泥电脑中的文件路径,否则没法用。
后台回复“情感分析” 即可获得项目源码和词典
本文分享自微信公众号 - 大邓和他的Python(DaDengAndHisPython)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。
来源:oschina
链接:https://my.oschina.net/u/4589342/blog/4624151