0
我想阻止机器人访问以/new
结尾的网址。我修改我的robots.txt
文件,如下所示:robots.txt文件不允许选项
Disallow: /*/new
这是正确的方式用来禁止访问的/new
终止所有网址吗?
我想阻止机器人访问以/new
结尾的网址。我修改我的robots.txt
文件,如下所示:robots.txt文件不允许选项
Disallow: /*/new
这是正确的方式用来禁止访问的/new
终止所有网址吗?
是谷歌似乎支持这种
尝试https://www.google.com/webmasters“网站配置>抓取工具访问”来测试您的robots.txt文件给出的网址
下面是这个工具
http://www.***.com/new/asdasd
Allowed by line 6: Allow:/
http://www.***.com/asdasd/new/
Blocked by line 8: Disallow: /*/new
Detected as a directory; specific files may have different restrictions
http://www.***.com/asdasd/new
Blocked by line 8: Disallow: /*/new
Disallow: /new$
的结果
将检查终止于/new
的网址