首页 > 运维 > nginx > Nginx中配置过滤爬虫的User-Agent方法

Nginx中配置过滤爬虫的User-Agent方法

王林
发布: 2023-05-27 08:46:15
转载
2120 人浏览过

Nginx中配置过滤爬虫的User-Agent方法

一看不得了,基本上都是被一个user agent叫"yisouspider"的东西给刷屏了,一看就不知道是哪的蜘蛛,太没节操了。
找到根目录配置区,增加user agent过滤判断语句,发现叫"yisouspider"的直接返回403

注1:如果需要增加多个过滤,这样做

 ($http_user_agent ~* "spider1|spider2|spider3|spider4")
登录后复制

,中间用|隔开就行了

注2:如果你是用的是子目录博客,像我的一样,那么要找到 "location /blog/" 这样的区段去修改

location / {
......其它配置
if ($http_user_agent ~* "yisouspider") {
return 403;
}
}
登录后复制

配置完成wq保存后reload一下nginx,然后使用以下命令自我测试,地址自己改。没装curl的我就没办法了,自己apt或者yum装一个吧,神器来的。

curl -i -a "yisouspider" www.slyar.com/blog/
登录后复制

看到返回403就可以了,说明配置成功

Nginx中配置过滤爬虫的User-Agent方法

以上是Nginx中配置过滤爬虫的User-Agent方法的详细内容。更多信息请关注PHP中文网其他相关文章!

相关标签:
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
重启nginx出错
来自于 1970-01-01 08:00:00
0
0
0
server - Nginx配置webapp问题
来自于 1970-01-01 08:00:00
0
0
0
Nginx的default.conf问题
来自于 1970-01-01 08:00:00
0
0
0
centos7 - NGINX出现异常
来自于 1970-01-01 08:00:00
0
0
0
uwsgi - 如何用nginx关联django应用
来自于 1970-01-01 08:00:00
0
0
0
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板