我们前两节课爬取珍爱网的时候,用到了很多正则表达式去匹配城市列表、城市、用户信息,其实除了正则表达式去匹配,还可以利用goquery和xpath第三方库匹配有用信息。而我利用了更优雅的正则表达式匹配。下来大概介绍下正则表达式。
比如我们匹配城市列表的时候,会取匹配所有城市的url,如下:
可以看到图片后是小写字母加数字,那么就可以用以下方式提取:
<a href="(http://www.zhenai.com/zhenghun/[0-9a-z]+)"[^>]*>([^<]+)</a>
[0-9a-z]+表示匹配小写字母或者数字至少一次,[^>]*表示匹配非>的字符任意次,然后[^<]+表示匹配非<字符至少一次。我们要取到城市的url和城市名,所以对进行了分组。
通过以下方式就可以拿到url和city
const ( cityListReg = `<a href="(http://www.zhenai.com/zhenghun/[0-9a-z]+)"[^>]*>([^<]+)</a>` ) compile := regexp.MustCompile(cityListReg) submatch := compile.FindAllSubmatch(contents, -1) for _, m := range submatch { fmt.Println("url:" , string(m[1]), "city:", string(m[2])) }
匹配包含g g,且gg中间至少一个小写字母:
//匹配包含g g,且gg中间至少一个小写字母 match, _ := regexp.MatchString("g([a-z]+)g", "11golang11") //true fmt.Println(match)
上面我们直接使用了字符串匹配的正则表达式,但是对于其他的正则匹配任务,需要使用一个优化过的正则对象:
compile, err := regexp.Compile("smallsoup@gmail.com") if err != nil { //....正则语法错误,需要处理错误 fmt.Println(err) } //smallsoup@gmail.com fmt.Println(compile.FindString(text))
compile, err :=regexp.Compile("smallsoup@gmail.com")
函数返回一个正则表达式匹配器和错误,当参数正则表达式不符合正则语法时返回error,比如说regexp.Compile("[smallsoup@gmail.com")就会报错missing closing ]
一般正则表达式是用户输入的才需要处理错误,而自己写的一般是不会有错的,所以可以使用compile:= regexp.MustCompile("smallsoup@gmail.com"),如果语法错误,就会发生panic。
text1 := `my email is aa@qq.com aa email is aa@gmail.com bb email is bb@qq.com cc email is cc@qq.com.cn ` //如果要提取A@B.C中的A、B、C,需要用到正则表达式的提取功能。 comp := regexp.MustCompile(`([a-zA-Z0-9]+)@([a-zA-Z0-9.]+)\.([a-zA-Z0-9]+)`) //利用自匹配获取正则表达式里括号中的匹配内容 submatchs := comp.FindAllStringSubmatch(text1, -1) //submatchs其实是一个二维数组 fmt.Println(submatchs) //去除每个匹配,submatch其实还是个slice for _, submatch := range submatchs { fmt.Println(submatch) }
结果输出如下:
[[aa@qq.com aa qq com] [aa@gmail.com aa gmail com] [bb@qq.com bb qq com] [cc@qq.com.cn cc qq.com cn]] [aa@qq.com aa qq com] [aa@gmail.com aa gmail com] [bb@qq.com bb qq com] [cc@qq.com.cn cc qq.com cn]
r := regexp.MustCompile("p([a-z]+)ch") fmt.Println(r) //----->p([a-z]+)ch //regexp 包也可以用来替换部分字符串为其他值。 fmt.Println(r.ReplaceAllString("a peach", "<smallsoup>")) //----->a <smallsoup> //Func 变量允许传递匹配内容到一个给定的函数中, in := []byte("a smallsoup") out := r.ReplaceAllFunc(in, bytes.ToUpper) fmt.Println(string(out)) //----->a PEACH /*#######################常见表达式###########################*/ // 查找汉字 testText := "Hello 你好吗, I like golang!" reg := regexp.MustCompile(`[\p{Han}]+`) fmt.Println(reg.FindAllString(testText, -1)) // ----->[你好] reg = regexp.MustCompile(`[\P{Han}]+`) fmt.Println(reg.FindAllString(testText, -1)) // ----->["Hello " ", I li golang!"] fmt.Printf("%q\n", reg.FindAllString(testText, -1)) // ----->["Hello " ", I lm golang!"] //Email reg = regexp.MustCompile(`\w+([-+.]\w+)*@\w+([-.]\w+)*\.\w+([-.]\w+)*`) fmt.Println(reg.MatchString("smallsoup@qq.com")) //用户名密码: reg = regexp.MustCompile(`[a-zA-Z]|\w{6,18}`) fmt.Println(reg.MatchString("w_dy_246"))
运行结果如下:
p([a-z]+)ch a <smallsoup> a smallsoup [你好吗] [Hello , I like golang!] ["Hello " ", I like golang!"] true true Process finished with exit code 0
本公众号免费提供csdn下载服务,海量IT学习资源,如果你准备入IT坑,励志成为优秀的程序猿,那么这些资源很适合你,包括但不限于java、go、python、springcloud、elk、嵌入式 、大数据、面试资料、前端 等资源。同时我们组建了一个技术交流群,里面有很多大佬,会不定时分享技术文章,如果你想来一起学习提高,可以公众号后台回复【2】,免费邀请加技术交流群互相学习提高,会不定期分享编程IT相关资源。
扫码关注,精彩内容第一时间推给你