Simple HTTP

使用requests爬取拉勾网python职位数据

痴心易碎 提交于 2021-02-14 08:00:34
爬虫目的 本文想通过爬取 拉勾网 Python相关岗位数据,简单梳理 Requests 和 xpath 的使用方法。 代码部分并没有做封装,数据请求也比较简单,所以该项目只是为了熟悉requests爬虫的基本原理,无法用于稳定的爬虫项目。 爬虫工具 这次使用 Requests 库发送http请求,然后用 lxml.etree 解析HTML文档对象,并使用 xpath 提取职位信息。 Requests简介 Requests是一款目前非常流行的http请求库,使用python编写,能非常方便的对网页Requests进行爬取。 官网里介绍说:Requests is an elegant and simple HTTP library for Python, built for human beings. Requests优雅、简易,专为人类打造! 总而言之,Requests用起来简单顺手。 Requests库可以使用 pip 或者 conda 安装,本文python环境为py3.6。 试试对百度首页进行数据请求: # 导入requests模块 import requests<br> # 发出http请求 re = requests.get( "https://www.baidu.com/" ) # 查看响应状态 print(re.status_code) # 查看url print(re

「F5 连接NetOps/SecOps与DevOps」 -- 「5」Application Services 3 Extension

扶醉桌前 提交于 2019-11-30 10:45:11
本文主要介绍第三个声明式组件Application Services 3 Extension(以下简称AS3)的使用方式。 AS3提供了一种声明式的方式来配置F5 BIGIP的L4-L7的配置,包括LTM,DNS,AFM,ASM等模块的配置,它支持multi-tenant和multi route-domain的配置。 包含但不限于以下配置: - L3/L4: VIP. Pool SNAT Monitors, Profiles, etc. - HTTP/HTTPS ADC - L4 Firewall Policy Support (AFM Policy attachment) - HTTP/HTTPS L7 Security - ASM/APM policy attachment - Traffic Profiles (Endpoint Policy attachment / construction) - iRules - SSL/TLS - Methods for loading policies and iRules: base64 & URL ... 目前AS3和DO一样,支持RPM包安装在f5上,也支持用一个as3的docker容器来代理这些API的交互,当然目前也支持通过BIGIQ来下发这些AS3的json文件配置到每个BIGIP中,方便集中管理