当前位置:论坛首页 > Linux面板 > 求助

【已解答】网站爬虫太多,频率太高,怎么办?

发表在 Linux面板3 天前 [复制链接] 2 134

网站爬虫太多,频率太高,怎么办?我一个小破站,在线人数经常超过100多,但是真正的会员,只有几个人在线。
实际上全都是爬虫。。。。
如下图,这仅仅是bing一家的爬虫,频率就这么高,导致我网站卡的要死。。


Snipaste_2025-09-14_10-16-42.png


请问如何彻底的解决这个问题,如何在Nginx里面设置,可以限制某个特定的爬虫进来,
或者限制某些爬虫的爬取频率,比如设置2分钟只能爬取1次。。
使用道具 举报 只看该作者 回复
这个并不高啊,是不是服务器配置太低了,当然bing如果没用也可以禁止抓取
使用道具 举报 回复 支持 反对
发表于 前天 10:42 | 显示全部楼层
如果不需要的话, 可以用nginx防火墙,关闭蜘蛛
nginx配置可以参考:
  1.     if ($http_user_agent ~* (bingbot|msnbot)) {
  2.         return 403;  # 返回403禁止访问
  3.     }
复制代码
使用道具 举报 回复 支持 反对
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

普通问题处理

论坛响应时间:72小时

问题处理方式:排队(仅解答)

工作时间:白班:9:00 - 18:00

紧急运维服务

响应时间:3分钟

问题处理方式:宝塔专家1对1服务

工作时间:工作日:9:00 - 18:30

宝塔专业团队为您解决服务器疑难问题

点击联系技术免费分析

工作时间:09:00至18:30

快速回复 返回顶部 返回列表