当前位置:论坛首页 > Linux面板 > 求助

【已解答】咨询下怎么限制爬虫频率

发表在 Linux面板前天 17:11 [复制链接] 1 44

为了能快速了解并处理您的问题,请提供以下基础信息:
面板、插件版本:9.6.0

系统版本:CentOS 7

问题描述:最近网站被必应/360爬崩了,一天能来十多万蜘蛛,有时候还一起来,服务器直接崩了,想请教下,有没有办法限制蜘蛛的数量和频率,现在只能把必应和360的蜘蛛在防火墙里面都拦截了,但是这样做索引就会被清空,防火墙能否有规则限制蜘蛛爬取数量和频率,还避免被爬崩以及不被清空索引

相关截图(日志、错误):

使用道具 举报 只看该作者 回复
发表于 昨天 09:26 | 显示全部楼层
可以设置一下流量限制看看 aa.png
使用道具 举报 回复 支持 反对
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

普通问题处理

论坛响应时间:72小时

问题处理方式:排队(仅解答)

工作时间:白班:9:00 - 18:00

紧急运维服务

响应时间:3分钟

问题处理方式:宝塔专家1对1服务

工作时间:工作日:9:00 - 18:30

宝塔专业团队为您解决服务器疑难问题

点击联系技术免费分析

工作时间:09:00至18:30

快速回复 返回顶部 返回列表