各位,有研究网络爬虫的朋友吗?

各位,有研究网络爬虫的朋友吗?

各位,有研究网络爬虫的朋友吗?
想知道如何拒绝那些不遵守协议的网络爬虫!
可参考jivejdon的网络爬虫
以前有人问过,我写过一个rewrite,可以翻翻,应该不远
我也正在研究这个,大家可以一起交流下啊,QQ:564134957
好像可以拒绝蜘蛛协议?