84669 人学习
152542 人学习
20005 人学习
5487 人学习
7821 人学习
359900 人学习
3350 人学习
180660 人学习
48569 人学习
18603 人学习
40936 人学习
1549 人学习
1183 人学习
32909 人学习
测试环境被百度快照抓了
怎么去掉呢
怎么不被百度快照抓住
求大神指教
先找百度提交删除申请
然后测试环境记得加 robots.txt 不给抓取,或者在 nginx 上 直接拒绝 来自蜘蛛的请求.
robots.txt
nginx
robots封禁就可以了,加上 robots.txt 就行了,禁止全部的搜索引擎抓取:
User-agent:* Disallow:/
已经收录的快照,除非你的内容已经删除或者改变了,申请删除或更新快照才有用。robots规则生效有点慢,你可以自己在百度站长工具更新一下:百度站长平台
先找百度提交删除申请
然后测试环境记得加
robots.txt
不给抓取,或者在nginx
上 直接拒绝 来自蜘蛛的请求.robots封禁就可以了,加上 robots.txt 就行了,禁止全部的搜索引擎抓取:
已经收录的快照,除非你的内容已经删除或者改变了,申请删除或更新快照才有用。
robots规则生效有点慢,你可以自己在百度站长工具更新一下:百度站长平台