为了避免重复收录写的robots.txt 大家看下我这规则对不对 - WeCenter 社交化知识问答社区程序

该问题已被锁定！

1: 关注

2265: 浏览

为了避免重复收录写的robots.txt 大家看下我这规则对不对

robots.txt

要禁止收录类似如下所示url的！大家帮我看下我写的这个对不对哈,这些页面都是未登录页存在的url，会造成一定的重复内容。 Disallow: /*/is_recommend-1 Disallow: /*/sort_type-hot__day-30 Disallow: /*/sort_type-unresponsive Disallow: //category-__is_recommend-1 Disallow: //category-__sort_type-hot__day-30 Disallow: //category-__sort_type-hot__day-30 Disallow: //category-__sort_type-unresponsive

好问题 1 评论收藏举报

AI智能回复搜索中，请稍后...

0 回答

暂无回答

关于作者

: roger 初级会员
这家伙很懒，还没有设置简介

140: 回答

0: 文章

251: 问题

问题动态

发布时间: 2014-01-09 11:28

更新时间: 2014-01-09 11:28

关注人数: 1 人关注

相关问题

为了提升问题回答质量及答案展现质量，建议: 3041 浏览 3 关注 1 回答 0 评论

网站上线11天了，百度只收录首页未收录内页，正常吗？: 2956 浏览 6 关注 5 回答 0 评论

大家百度都收录了多少了啊？: 2016 浏览 2 关注 1 回答 0 评论

今天百度终于收录了，小庆祝一下。。: 3241 浏览 3 关注 1 回答 0 评论

explore成为了默认首页，影响搜索引擎抓取，如何调整: 3181 浏览 5 关注 2 回答 0 评论

question/38#reply1链接后面有#reply1会不会收录不好？: 3044 浏览 3 关注 1 回答 0 评论

重复URL问题: 2317 浏览 1 关注 0 回答 0 评论

建议给单个回复增加网址，方便分享，增加收录: 3316 浏览 3 关注 2 回答 0 评论

为什么我的站回复了不会跳转还是那个页面可以一直重复回复帮忙看看是什么问题: 2342 浏览 1 关注 0 回答 0 评论

anwsion建站站内信息容易被收录吗: 3215 浏览 6 关注 4 回答 0 评论

推荐内容

问终于明白百度为啥不收录了，看看这怎么办？: 4457 浏览 7 关注 4 回答 0 评论

问 AWS哪些目录是可以禁止搜索引擎爬行的？: 3266 浏览 2 关注 1 回答 0 评论

问 wecenter的robots规则: 1936 浏览 1 关注 0 回答 0 评论

问请问在robots.txt文件中，一般是放行那几个目录？: 2423 浏览 2 关注 1 回答 0 评论

问怎么用robots屏蔽分类列表和推荐、热门、待回复: 2607 浏览 1 关注 0 回答 0 评论

问 Wecenter的robots这样写是否更好一些？: 3533 浏览 3 关注 2 回答 0 评论

问 Google Webmaster 总是提示我Robots.txt无法访问，大家遇到吗？: 3974 浏览 5 关注 3 回答 0 评论

问请教用七牛后robots.txt的设置方法: 4787 浏览 4 关注 2 回答 0 评论

All Rights Reserved Powered BY WeCenter V4.1.0 © 2025 皖公网安备 34019202000400号