前提如下:遭到伪装成百度agent的CC攻击,由于拦截量大拦截日志也无搜索功能查手工查找真实百度蜘蛛是否被拦截工作量大问题:例如百度蜘蛛的agent为"Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)",我将Baiduspider加入User-Agent过滤规则中,在实际中真实的百度蜘蛛会正常抓取网页吗(因为我看到有个蜘蛛池),则没在蜘蛛池内的IP即便伪装成百度蜘蛛agent也会被设置的agent规则所拦截。
|
|