要把关键词排名做好,要让网站优化永远处于优势,你至少会学会一点——讨好蜘蛛。要做到这一步,你必须要了解的是蜘蛛的习惯:工作习性、爬行规律等等
整个互联网是由相互链接的网站及页面组成的。从理论上说,蜘蛛从任何一个页面出发,顺着链接都可以爬行到网上的所有页面。当然,由于网站及页面链接结构异常复杂,蜘蛛需要采取一定的爬行策略才能遍历网上所有页面。
为了抓取网上尽量多的页面,搜索引擎蜘蛛会跟踪页面上的链接,从一个页面爬到下一个页面,就好像蜘蛛在蜘蛛网上爬行那样,这也就是搜索引擎蜘蛛这个名称的由来
索引擎蜘蛛访问网站页面时类似于普通用户使用的浏览器。蜘蛛程序发出页面访问请求后,服务器返回HTML代码,蜘蛛程序把收到的代 码存入原始页面数据库。搜索引擎为了提高爬行和抓取速度,都使用多个蜘蛛并发分布爬行。
蜘蛛访问任何一个网站时,都会先访问网站根目录下的文件禁止搜素引擎抓取某些文件或目录。
我相信对于很多新手站长而言都不太知道网站地图这个系统,网站地图主要就是给搜索引擎蜘蛛来使用的创建一个站点地图,包含站内所有的页面连接 |