宝塔618特惠活动,企业版999元/年,宝塔SSL证书买1送1!限时抢购!查看活动
当前位置:论坛首页 > Linux面板 > 讨论

【待反馈】如何限制爬虫的频率?

发表在 Linux面板2024-6-1 21:08 [复制链接] 1 1497

如何限制爬虫的频率?
我的网站,既要爬虫爬取一些页面,
但是,又不想爬虫太频繁了。
太频繁的话,导致网站非常卡,卡的怀疑人生。
你们看,这个必应,每分钟都来,每分钟爬取十几个页面。。
这个频率太高了,我想限制爬虫频率,比如5分钟爬取一次,频率超过设定的值,
就封禁这个爬虫1个小时。
综上,请问在哪里可以限制爬虫的爬取频率,或者说,怎么设置,才能达到效果。


1.png
使用道具 举报 只看该作者 回复
发表于 2024-6-3 16:37:25 | 显示全部楼层
您好,您可以通过这个ip来做一个攻击次数限制,在nginx防火墙中设置,达到多少次后可以封禁多长时间
使用道具 举报 回复 支持 反对
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

普通问题处理

论坛响应时间:72小时

问题处理方式:排队(仅解答)

工作时间:白班:9:00 - 18:00

紧急运维服务

响应时间:3分钟

问题处理方式:宝塔专家1对1服务

工作时间:工作日:9:00 - 18:30

宝塔专业团队为您解决服务器疑难问题

点击联系技术免费分析

工作时间:09:00至18:30

快速回复 返回顶部 返回列表