SEO网站优化robots.txt使用中常见的误区
来源：尚品中国|
类型：网站百科|
时间：2012-04-28
网站制作公司尚品中国(www.sino-web.net)：误区1.Allow包含的范围超过Disallow，并且位置在Disallow前面。
比如有很多人这样写：
User-agent: *
Allow: /
Disallow: /mulu/
想让所有蜘蛛抓取本站除/mulu/下面的url之外的所有页面，禁止抓取/mulu/下面的所有url。
SEO网站优化搜索引擎蜘蛛执行的规则是从上到下，这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是Disallow应该在Allow之上，这样才会生效。
误区2.Disallow命令和Allow命令之后没有以斜杠”/”开头。
这个也很容易被忽视，比如有人这样写Disallow: 123.html ，这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置，如果不带的话，自然无法判断url是哪个，所以是错误的。
正确的应该是Disallow: /123.html，这样才能屏蔽/123.html这个文件，这条规则才能生效。
误区3.屏蔽的目录后没有带斜杠”/”。
也就是比如想屏蔽抓取/mulu/这个目录，有些人这样写Disallow: /mulu。那么这样是否正确呢?
首先这样写(Disallow: /mulu)确实可以屏蔽/mulu/下面的所有url，不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面，效果等同于Disallow: /mulu*。
正确的做法是，如果只想屏蔽目录，那么必须在结尾带上斜杠”/”。
本文发布于北京网站制作公司尚品中国http://www.sino-web.net/
比如有很多人这样写：
User-agent: *
Allow: /
Disallow: /mulu/
想让所有蜘蛛抓取本站除/mulu/下面的url之外的所有页面，禁止抓取/mulu/下面的所有url。
SEO网站优化搜索引擎蜘蛛执行的规则是从上到下，这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是Disallow应该在Allow之上，这样才会生效。
误区2.Disallow命令和Allow命令之后没有以斜杠”/”开头。
这个也很容易被忽视，比如有人这样写Disallow: 123.html ，这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置，如果不带的话，自然无法判断url是哪个，所以是错误的。
正确的应该是Disallow: /123.html，这样才能屏蔽/123.html这个文件，这条规则才能生效。
误区3.屏蔽的目录后没有带斜杠”/”。
也就是比如想屏蔽抓取/mulu/这个目录，有些人这样写Disallow: /mulu。那么这样是否正确呢?
首先这样写(Disallow: /mulu)确实可以屏蔽/mulu/下面的所有url，不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面，效果等同于Disallow: /mulu*。
正确的做法是，如果只想屏蔽目录，那么必须在结尾带上斜杠”/”。
本文发布于北京网站制作公司尚品中国http://www.sino-web.net/
来源声明：本文章系尚品中国编辑原创或采编整理，如需转载请注明来自尚品中国。以上内容部分(包含图片、文字)来源于网络，如有侵权，请及时与本站联系（010-60259772）。
TAG标签：
推荐新闻
更多行业-
如何选择适合您的网站建设公司？
拥有一个优质的网站对于任何企业来说都至关重要。然而，选择一家适合您需求...
2024-04-10 -
企业网站建设交换友情链接有哪些技巧？
友情链接，也称为链接交换，是我们创建高质量外部链接的常用手段。友情链接...
2021-04-30 -
企业网站建设要先了解网站需求
目前，市场上的许多企业已经建立了自己的网站，但许多企业仍在为是否要建立...
2020-03-11 -
营销怎么破？且看“且行且珍惜”的借力营销
今天，营销型网站建设公司尚品中国继续为大家带来新一轮话题的借力营销：且...
2014-04-02 -
博客发展的可能趋势
(1)企业博客发展仍将保持高速增长趋势。网站设计根据企业博客现有发展水...
2014-07-11 -
做外贸网站的标准是什么？
到目前为止，很多企业都是外贸公司，外贸行业的网站制造规模一直是外贸企业...
2021-05-07
如果您的网站可以增加转化次数并提高客户满意度，该怎么办？
预约专业咨询顾问沟通！
Copyright © 2025 恒久尚品 版权所有 | 京ICP备09066521号
| 公安机关备案号:11011502003910
免责声明
诚信企业
尚品专注高端网站建设，系统平台开发，微信小程序及APP开发服务
尚品专注高端网站建设，系统平台开发，微信小程序及APP开发服务
免责声明
非常感谢您访问我们的网站。在您使用本网站之前，请您仔细阅读本声明的所有条款。
1、本站部分内容来源自网络，涉及到的部分文章和图片版权属于原作者，本站转载仅供大家学习和交流，切勿用于任何商业活动。
2、本站不承担用户因使用这些资源对自己和他人造成任何形式的损失或伤害。
3、本声明未涉及的问题参见国家有关法律法规，当本声明与国家法律法规冲突时，以国家法律法规为准。
4、如果侵害了您的合法权益，请您及时与我们,我们会在第一时间删除相关内容!
联系方式：010-60259772
电子邮件：394588593@qq.com
