• 首页 首页 icon
  • 工具库 工具库 icon
    • IP查询 IP查询 icon
  • 内容库 内容库 icon
    • 快讯库 快讯库 icon
    • 精品库 精品库 icon
    • 问答库 问答库 icon
  • 更多 更多 icon
    • 服务条款 服务条款 icon

Scrapy使用报错socket.timeout: timed out

武飞扬头像
专业bug开发
帮助1

项目场景:

最近在学习Scrapy框架的时候遇到一个很奇怪的问题,为了设置请求时候的随机请求头引入了from fake_useragent import UserAgent,但是启动的时候报错。


问题描述:

学新通


原因分析:

查阅百度各种资料发现这个库有部分资源是请求网络资源,但这部分资源在国内访问慢甚至无法访问,这就导致问题发生。


解决方案:

有大神说这个库引用的时候进行实例化的时候会在第一次把json文件缓存进本地临时文件,这就有了解决办法,自己获取这个json文件后存放到本地的临时目录

json文件下载地址:https://fake-useragent.herokuapp.com/browsers/0.1.11
需要fanqiang
不能自行拿到文件的小伙伴继续看,我会把文件放在网盘分享给大家!!!

这是win10系统临时文件存放位置:

C:\Users\用户名\AppData\Local\Temp

文件命名必须是 fake_useragent_0.1.11.json

学新通
链接:https://pan.百度.com/s/1toHNpc6bvbnZPNHKGm0L_g
提取码:iouc

author: KK
time :2021年9月17日21:40:33
flag:4/30

这篇好文章是转载于:学新通技术网

  • 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
  • 本站站名: 学新通技术网
  • 本文地址: /boutique/detail/tanhgficaa
系列文章
更多 icon
同类精品
更多 icon
继续加载