• 首页 首页 icon
  • 工具库 工具库 icon
    • IP查询 IP查询 icon
  • 内容库 内容库 icon
    • 快讯库 快讯库 icon
    • 精品库 精品库 icon
    • 问答库 问答库 icon
  • 更多 更多 icon
    • 服务条款 服务条款 icon

requests发起请求时正常返回数据scrapy请求返回406或者返回数据为空亲测有效

武飞扬头像
不喜欢穿格子衫的程序员
帮助1

今天测试某个平台的爬虫时使用requests正常写了个测试脚本把各种参数逆向出来以后发起请求可以正常得到数据,如图所示:

学新通

但是一摸一样的代码在scrapy中就会出现406情况,或者响应状态吗是200但是数据却为空

学新通 

 去搜索了半天也没找到结果,后面去研究一下scrapy框架发现scrapy.requests和直接的requetsts还是有区别的,scrapy中会对headers中的accept和cookie自动处理,所以headers中的cookie要单独拿出来,还有accept也要改写,rtequests中的headers是这样的:

学新通

 应该将headers中的accept改写成这样:

学新通

 改写以后再次发起请求成功返回数据:

学新通

这篇好文章是转载于:学新通技术网

  • 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
  • 本站站名: 学新通技术网
  • 本文地址: /boutique/detail/tanhgfhiif
系列文章
更多 icon
同类精品
更多 icon
继续加载