6
我有一个网站我正在使用Google自定义搜索引擎。我希望Google CSE抓取我的网站,但我希望它能够避开常规Google搜索的结果。我把这个在我的robots.txt文件希望,因为我指定的网页,我想谷歌CSE在设置只允许Google CSE并且不允许在ROBOTS.txt中使用Google标准搜索
User-agent: *
Disallow:/
我猜谷歌CSE机器人也必须服从机器人抓取谷歌CSE机器人会忽略它。文本。那么是否有办法让我的网页远离搜索引擎搜索,但Google CSE仍然能够对其进行索引? TIA!
哦!这仍然是这样吗? – Nirmal