为了避免重复收录写的robots.txt 大家看下我这规则对不对 - WeCenter 社交化知识问答社区程序

该问题已被锁定！

1: 关注

2340: 浏览

为了避免重复收录写的robots.txt 大家看下我这规则对不对

robots.txt

要禁止收录类似如下所示url的！大家帮我看下我写的这个对不对哈,这些页面都是未登录页存在的url，会造成一定的重复内容。 Disallow: /*/is_recommend-1 Disallow: /*/sort_type-hot__day-30 Disallow: /*/sort_type-unresponsive Disallow: //category-__is_recommend-1 Disallow: //category-__sort_type-hot__day-30 Disallow: //category-__sort_type-hot__day-30 Disallow: //category-__sort_type-unresponsive

好问题 1 评论收藏举报

AI智能回复搜索中，请稍后...

0 回答

暂无回答

关于作者

: roger 初级会员
这家伙很懒，还没有设置简介

140: 回答

0: 文章

251: 问题

问题动态

发布时间: 2014-01-09 11:28

更新时间: 2014-01-09 11:28

关注人数: 1 人关注

相关问题

官方站的收录情况: 2518 浏览 3 关注 3 回答 0 评论

在静态页面上使用动态参数，会造成spider多次和重复抓取: 2687 浏览 4 关注 2 回答 0 评论

重复提交的问题: 3337 浏览 5 关注 4 回答 0 评论

百度收录了非常多话题-话题详情这样的404死链接，怎么处理？: 2551 浏览 2 关注 0 回答 0 评论

网站上线11天了，百度只收录首页未收录内页，正常吗？: 3137 浏览 6 关注 5 回答 0 评论

百度收录，每个页面都是都是两个地址: 2103 浏览 2 关注 1 回答 0 评论

关于收录的问题，我删了那段代码之后，收录直往上涨: 2953 浏览 3 关注 1 回答 0 评论

手机版点击“更多”加载重复BUG: 2840 浏览 2 关注 1 回答 0 评论

手机版浏览话题，里面的问题标题会重复。: 2853 浏览 3 关注 2 回答 1 评论

ANWSION收录效果真的不理想哦: 2782 浏览 1 关注 0 回答 0 评论

推荐内容

问终于明白百度为啥不收录了，看看这怎么办？: 4661 浏览 7 关注 4 回答 0 评论

问 wecenter的robots规则: 2024 浏览 1 关注 0 回答 0 评论

问 Wecenter的robots这样写是否更好一些？: 3678 浏览 3 关注 2 回答 0 评论

问 AWS哪些目录是可以禁止搜索引擎爬行的？: 3434 浏览 2 关注 1 回答 0 评论

问请问在robots.txt文件中，一般是放行那几个目录？: 2585 浏览 2 关注 1 回答 0 评论

问 Google Webmaster 总是提示我Robots.txt无法访问，大家遇到吗？: 4136 浏览 5 关注 3 回答 0 评论

问请教用七牛后robots.txt的设置方法: 4975 浏览 4 关注 2 回答 0 评论

问怎么用robots屏蔽分类列表和推荐、热门、待回复: 2701 浏览 1 关注 0 回答 0 评论

All Rights Reserved Powered BY WeCenter V4.1.0 © 2025 皖公网安备 34019202000400号