84669 人学习
152542 人学习
20005 人学习
5487 人学习
7821 人学习
359900 人学习
3350 人学习
180660 人学习
48569 人学习
18603 人学习
40936 人学习
1549 人学习
1183 人学习
32909 人学习
用requests写了个多线程,感觉有点慢,还有其他方法么?
使用 Tornado 的 curl 客户端支持,读到请求头就关闭连接。(我还没试过。如果它提供的 HTTP 客户端不支持中途关闭连接的话,可以像我这样使用 TCP 然后用 http-parser 来解析。)
好吧,其实你可以直接给 fetchtitle 加个取状态码的扩展就可以了……(记得装 pycurl 哦)
python本来就慢,想速度快就直接写tcp请求然后读回复,读到状态后就关掉socket。
使用grequests,对requests进行了并发封装
https://github.com/kennethrei...
这种情况可以考虑使用gevent,tornado,scrapy-redis,asyncio!
用Head请求能快一点吧?
Head
使用 Tornado 的 curl 客户端支持,读到请求头就关闭连接。(我还没试过。如果它提供的 HTTP 客户端不支持中途关闭连接的话,可以像我这样使用 TCP 然后用 http-parser 来解析。)
好吧,其实你可以直接给 fetchtitle 加个取状态码的扩展就可以了……(记得装 pycurl 哦)
python本来就慢,想速度快就直接写tcp请求然后读回复,读到状态后就关掉socket。
使用grequests,对requests进行了并发封装
https://github.com/kennethrei...
这种情况可以考虑使用gevent,tornado,scrapy-redis,asyncio!
用
Head
请求能快一点吧?