python - DHT 爬虫每次只能获取固定数目的 ip 数
巴扎黑
巴扎黑 2017-04-17 17:50:42
0
2
798

想写一个基于 DHT 网络的磁力链接爬虫,参考网上的实现写了一个。刚开始运行的时候还行,可是最近几天遇到了怪事,每次启动爬虫都获取不到 peer 发出的 announce ,添加调试信息发现获取的 ip 数一直保持在 1261 个左右,不再改变。如果超过 1261 这个数值就很快到达 10000 ,然后能成功获取到 announce ,刚开始以为是局域网的原因,所以转到了阿里云上用独立 ip 测试,发现了是一样的结果,也只能获取 1261 个左右 ip ,各位对此有什么见解吗?

另附上主要参考的 dht 爬虫代码:(simDHT)[https://github.com/Fuck-You-GFW/simDHT],各位也可是试下看是否遇到相同情况。

另外经过测试每次获取到的1261个地址是一样的。

巴扎黑
巴扎黑

reply all(2)
迷茫

It should be a program bug. If you are using node.js, you can refer to my dhtspider. On the intranet, there are hundreds of infohash per minute.
dhtspider. The code is less than 200 lines.
You can also refer to the engiy.com magnet search and BT search I did

Ty80

https://segmentfault.com/a/1190000002528510 Just use this, the source code is public

Latest Downloads
More>
Web Effects
Website Source Code
Website Materials
Front End Template