本文主要涉及python爬虫知识点:
web是如何交互的
requests库的get、post函数的应用
response对象的相关函数,属性
python文件的打开,保存
代码中给出了注释,并且可以直接运行哦
如何安装requests库(安装好python的朋友可以直接参考,没有的,建议先装一哈python环境)
windows用户,Linux用户几乎一样:
打开cmd输入以下命令即可,如果python的环境在C盘的目录,会提示权限不够,只需以管理员方式运行cmd窗口
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple requests
Linux用户类似(ubantu为例): 权限不够的话在命令前加入sudo即可
sudo pip install -i https://pypi.tuna.tsinghua.edu.cn/simple requests
python爬虫入门基础代码实例如下
1.Requests爬取BD页面并打印页面信息
# 第一个爬虫示例,爬取百度页面 import requests #导入爬虫的库,不然调用不了爬虫的函数 response = requests.get("http://www.baidu.com") #生成一个response对象 response.encoding = response.apparent_encoding #设置编码格式 print("状态码:"+ str( response.status_code ) ) #打印状态码 print(response.text)#输出爬取的信息
2.Requests常用方法之get方法实例,下面还有传参实例
# 第二个get方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 response = requests.get("http://httpbin.org/get") #get方法 print( response.status_code ) #状态码 print( response.text )
3. Requests常用方法之post方法实例,下面还有传参实例
# 第三个 post方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 response = requests.post("http://httpbin.org/post") #post方法访问 print( response.status_code ) #状态码 print( response.text )
4. Requests put方法实例
# 第四个 put方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 response = requests.put("http://httpbin.org/put") # put方法访问 print( response.status_code ) #状态码 print( response.text )
5.Requests常用方法之get方法传参实例(1)
如果需要传多个参数只需要用&符号连接即可如下
# 第五个 get传参方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 response = requests.get("http://httpbin.org/get") # get传参 print( response.status_code ) #状态码 print( response.text )
6.Requests常用方法之get方法传参实例(2)
params用字典可以传多个
# 第六个 get传参方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 data = { "name":"hezhi", "age":20 } response = requests.get( "http://httpbin.org/get" , params=data ) # get传参 print( response.status_code ) #状态码 print( response.text )
7.Requests常用方法之post方法传参实例(2) 和上一个有没有很像
# 第七个 post传参方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 data = { "name":"hezhi", "age":20 } response = requests.post( "http://httpbin.org/post" , params=data ) # post传参 print( response.status_code ) #状态码 print( response.text )
8.关于绕过反爬机制,以知呼为例
# 第好几个方法实例 import requests #先导入爬虫的库,不然调用不了爬虫的函数 response = requests.get( "http://www.zhihu.com") #第一次访问知乎,不设置头部信息 print( "第一次,不设头部信息,状态码:"+response.status_code )# 没写headers,不能正常爬取,状态码不是 200 #下面是可以正常爬取的区别,更改了User-Agent字段 headers = { "User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.122 Safari/537.36" }#设置头部信息,伪装浏览器 response = requests.get( "http://www.zhihu.com" , headers=headers ) #get方法访问,传入headers参数, print( response.status_code ) # 200!访问成功的状态码 print( response.text )
9.爬取信息并保存到本地
因为目录关系,在D盘建立了一个叫做爬虫的文件夹,然后保存信息
注意文件保存时的encoding设置
# 爬取一个html并保存 import requests url = "http://www.baidu.com" response = requests.get( url ) response.encoding = "utf-8" #设置接收编码格式 print("\nr的类型" + str( type(response) ) ) print("\n状态码是:" + str( response.status_code ) ) print("\n头部信息:" + str( response.headers ) ) print( "\n响应内容:" ) print( response.text ) #保存文件 file = open("D:\\爬虫\\baidu.html","w",encoding="utf") #打开一个文件,w是文件不存在则新建一个文件,这里不用wb是因为不用保存成二进制 file.write( response.text ) file.close()
10.爬取图片,保存到本地
#保存百度图片到本地 import requests #先导入爬虫的库,不然调用不了爬虫的函数 response = requests.get("https://www.baidu.com/img/baidu_jgylogo3.gif") #get方法的到图片响应 file = open("D:\\爬虫\\baidu_logo.gif","wb") #打开一个文件,wb表示以二进制格式打开一个文件只用于写入 file.write(response.content) #写入文件 file.close()#关闭操作,运行完毕后去你的目录看一眼有没有保存成功
下面是一个完整的python爬虫实例,功能是爬取百度贴吧上的图片并下载到本地;
你也可以关注公众号 Python客栈"color: rgb(255, 0, 0);">756"text-align: center;">
扫描上面二维码关注公众号 Python客栈 回复 756 获取完整python爬虫源码
python爬虫主要操作步骤:
获取网页html文本内容;
分析html中图片的html标签特征,用正则解析出所有的图片url链接列表;
根据图片的url链接列表将图片下载到本地文件夹中。
1. urllib+re实现
#!/usr/bin/python # coding:utf-8 # 实现一个简单的爬虫,爬取百度贴吧图片 import urllib import re # 根据url获取网页html内容 def getHtmlContent(url): page = urllib.urlopen(url) return page.read() # 从html中解析出所有jpg图片的url # 百度贴吧html中jpg图片的url格式为:<img ... src="/UploadFiles/2021-04-08/XXX.jpg">运行上面脚本,过几秒种之后完成下载,可以在当前目录下看到图片已经下载好了:
2. requests + re实现
下面用requests库实现下载,把getHtmlContent和downloadJPG函数都用requests重新实现。
#!/usr/bin/python # coding:utf-8 # 实现一个简单的爬虫,爬取百度贴吧图片 import requests import re # 根据url获取网页html内容 def getHtmlContent(url): page = requests.get(url) return page.text # 从html中解析出所有jpg图片的url # 百度贴吧html中jpg图片的url格式为:<img ... src="/UploadFiles/2021-04-08/XXX.jpg">上面介绍的10个python爬虫入门基础代码实例和1个简单的python爬虫完整实例虽然都是基础知识但python爬虫的主要操作方法也是这些,掌握这些python爬虫就学会一大半了。更多关于python爬虫的文章请查看下面的相关罗拉
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
稳了!魔兽国服回归的3条重磅消息!官宣时间再确认!
昨天有一位朋友在大神群里分享,自己亚服账号被封号之后居然弹出了国服的封号信息对话框。
这里面让他访问的是一个国服的战网网址,com.cn和后面的zh都非常明白地表明这就是国服战网。
而他在复制这个网址并且进行登录之后,确实是网易的网址,也就是我们熟悉的停服之后国服发布的暴雪游戏产品运营到期开放退款的说明。这是一件比较奇怪的事情,因为以前都没有出现这样的情况,现在突然提示跳转到国服战网的网址,是不是说明了简体中文客户端已经开始进行更新了呢?
更新日志
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]