- if ($http_user_agent ~* "qihoobot|Baiduspider|Googlebot|Googlebot-Mobile|Googlebot-Image|Mediapartners-Google|Adsbot-Google|Feedfetcher-Google|Yahoo! Slurp|Yahoo! Slurp China|YoudaoBot|Sosospider|Sogou spider|Sogou web spider|MSNBot|ia_archiver|Tomato Bot")
- {
- return 403;
- }
复制代码
上面代码是屏蔽基本上大多数的蜘蛛的,
- if ($http_user_agent ~* "Googlebot")
- {
- return 403;
- }
复制代码
这个是单独屏蔽google的蜘蛛的
写在该站点的伪静态中即可。
|