网站运营
联系我们
robots.txt 在SEO中主要有哪些作用
主要有以下二个作用:
1,通过设置屏蔽搜索引擎访问不必要被收录的网站页面,可以大大减少因spider抓取页面所占用的网站带宽,小网站不明显,大型网站比较明显了。
2,设置robots.txt可以指定google或百度不去索引哪些网址,比如通过url重写将动态网址静态化为永久固定链接之后,就可以通过robots.txt设置权限,阻止Google或百度等搜索引擎索引那些动态网址,从而大大减少了网站重复页面,对SEO优化起到了很明显的作用。
1,通过设置屏蔽搜索引擎访问不必要被收录的网站页面,可以大大减少因spider抓取页面所占用的网站带宽,小网站不明显,大型网站比较明显了。
2,设置robots.txt可以指定google或百度不去索引哪些网址,比如通过url重写将动态网址静态化为永久固定链接之后,就可以通过robots.txt设置权限,阻止Google或百度等搜索引擎索引那些动态网址,从而大大减少了网站重复页面,对SEO优化起到了很明显的作用。
下一篇:
高质量外链指的是什么?
上一篇:
PR0的新站怎么交换友情链接