苏苏网赚论坛

 找回密码
 立即注册
查看: 9091|回复: 0

搜索引擎禁止收录robots使用方法

[复制链接]
跳转到指定楼层
楼主
发表于 2018-12-23 12:47:21 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
有时候,站长并不希望某些页面被抓去和收录,如付费内容,还在测试阶段的页面,复制页面等。网站上不出线连接,或者使用Javesript,FLASH链接使用nofollow等方法都不能保证页面一定不被收录。站长自己虽然没有连接到不想被收录的页面,其他网站可能由于某种原因出现导入链接,导致页面被收录。

要确保页面不被收录,需要使用robots或meta robots标签。

robots文件,搜索引擎蜘蛛访问网站时,会先查看网站根目录下有没有一个命名为robots的纯文本文件,robots用于指令搜索引擎禁止抓取网站某些内容或制定允许抓取某些内容。
http://baijiale08.com
http://www.yulecheng098.com
http://www.098bet.com
http://www.yulecheng100.com
http://www.bogou098.com
http://www.098gg.com
http://www.5608.com
http://www.cctv5zb.com
http://806c.com
热帖推荐
回复

使用道具 举报

广告合作|最大的网赚客中文交流社区!十年老站!

GMT+8, 2024-5-5 18:46 , Processed in 0.140400 second(s), 23 queries , Gzip On.

Powered by Discuz! X3.1 VIP版

© 2012-2022 苏苏网赚论坛 版权所有 | 10年老品牌

快速回复 返回顶部 返回列表