我有一个开发网站https://text-domain.com。 (不是真实网站) 当我转到https://duckduckgo.com并搜索text-domain.com时,它确实会返回结果。阻止从搜索引擎网站 - DuckDuckGo
有什么我试过到目前为止:
创建robots.txt
文件,下面的代码(把在我的根目录,即在text-domain.com/robots.txt):
User-agent: *
Disallow:/
然后加入meta标记像这样在我的模板文件:
<META NAME="ROBOTS" CONTENT="NOINDEX, NOFOLLOW">
即使这样做之后,我搜索了DuckDuckGo,并取得了第同样的结果。欢迎大家提出意见。
P.S
嗨,等待几天后,有2种表现:
- 尽管如此,搜索结果是牵强。
但我看到的消息,此结果说:“我们想展现 你在这里的描述,但该网站将不允许我们。”
是否有可能完全从结果显示阻止?
你等了多久?这不会是瞬间的。 – JJJ
@juhana哦,需要多长时间,我做了大约3个小时的返回 – Vimalnath
您需要等到抓取工具回到网站。可能需要几天时间。 – JJJ