Uillib库python3自带的上个操作URL的包,功能强大。使用方法,首先加载库。
```
import urllib
```
urllib包里面有四个模块
urllib.request
urllib.error
urllib.parse
urllib.robotparser
urllib.request模块最重要,它主要包含对服务器请求的发出、跳转、代理和安全等各个方面的功能实现
**
urllib.request中重要函数的使用
加载import urllib.request
**
urllib.request.urlopen()打开网页,我的网站需要decode(‘utf-8’)编码
urllib.request.urlretrieve(url,filename)以写入的方式打开网。Urlretrieve执行过程中,会产生一些缓存,可以用urlcleanup()清除。
info()返回当前环境信息。
getcode()返回状态码
geturl()返回当前网址
urllib.request.quote()用于URL编码
urllib.request.unquote()用于解码
反反爬虫方法
1.使用abb_header()添加报头
2.使用IP代理
3.延时访问