824144512发表在 Linux面板前天 17:11 [复制链接] 1 45
面板、插件版本:9.6.0
系统版本:CentOS 7
问题描述:最近网站被必应/360爬崩了,一天能来十多万蜘蛛,有时候还一起来,服务器直接崩了,想请教下,有没有办法限制蜘蛛的数量和频率,现在只能把必应和360的蜘蛛在防火墙里面都拦截了,但是这样做索引就会被清空,防火墙能否有规则限制蜘蛛爬取数量和频率,还避免被爬崩以及不被清空索引
相关截图(日志、错误):
本版积分规则 发表回复 回帖后跳转到最后一页
论坛响应时间:72小时
问题处理方式:排队(仅解答)
工作时间:白班:9:00 - 18:00
响应时间:3分钟
问题处理方式:宝塔专家1对1服务
工作时间:工作日:9:00 - 18:30
宝塔专业团队为您解决服务器疑难问题
工作时间:09:00至18:30