找回密码
 立即注册

扫一扫,访问微社区

QQ登录

只需一步,快速开始

查看: 4008|回复: 1

[求助] python模拟GET请求json数据约1.45M,用时却达10秒,请问是正常吗

1

主题

1

帖子

5

积分

贫民

积分
5
frog77 发表于 2014-7-23 13:04:26 | 显示全部楼层 |阅读模式
使用python模拟GET请求某网站服务器上json数据,循环了20次(20位好友)获取了每位好友主题帖的第一页20条主题数据,也就是一共400条数据,大约1.45M,用时却达10秒,期间是一直在下载数据,没有卡壳情况。
这是和网速有关,还是应该采用多线程?!
回复

使用道具 举报

0

主题

20

帖子

20

积分

贫民

积分
20
赵大班长1 发表于 2014-7-29 14:32:40 | 显示全部楼层
如果启用多线程很有可能出现数据抓取错误,我之前做过抓取淘宝的数据,抓取1万个商品的给类信息,其中会进行多次的请求,使用多线程就容易出现问题~~
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表