为了避免重复收录写的robots.txt 大家看下我这规则对不对 - WeCenter 社交化知识问答社区程序

该问题已被锁定！

1: 关注

1973: 浏览

为了避免重复收录写的robots.txt 大家看下我这规则对不对

robots.txt

要禁止收录类似如下所示url的！大家帮我看下我写的这个对不对哈,这些页面都是未登录页存在的url，会造成一定的重复内容。 Disallow: /*/is_recommend-1 Disallow: /*/sort_type-hot__day-30 Disallow: /*/sort_type-unresponsive Disallow: //category-__is_recommend-1 Disallow: //category-__sort_type-hot__day-30 Disallow: //category-__sort_type-hot__day-30 Disallow: //category-__sort_type-unresponsive

好问题 1 评论收藏举报

AI智能回复搜索中，请稍后...

0 回答

暂无回答

关于作者

: roger 初级会员
这家伙很懒，还没有设置简介

140: 回答

0: 文章

251: 问题

问题动态

发布时间: 2014-01-09 11:28

更新时间: 2014-01-09 11:28

关注人数: 1 人关注

相关问题

伪静态帮助也太简洁了吧，为了扩展用户群，建议多为新手想一想: 1551 浏览 4 关注 2 回答 0 评论

前台与后台添加话题若遇重复报错爆源码: 2712 浏览 5 关注 2 回答 0 评论

被百度和谷歌收录是url是伪静态之前的格式，伪静态化以后，之前已经: 1548 浏览 3 关注 1 回答 0 评论

发现提交的图片附件对搜索引擎收录不友好: 1871 浏览 3 关注 2 回答 0 评论

官方网站收录还是挺不错的: 2182 浏览 4 关注 3 回答 0 评论

怎么才能在微信公众号里登录网站时，不用重复输入帐号和密码？不能自动登录吗？: 3131 浏览 4 关注 3 回答 0 评论

为什么成都旗袍网不被百度收录: 2584 浏览 2 关注 2 回答 0 评论

1.1最新版，重复上传头像失败: 3233 浏览 3 关注 2 回答 0 评论

微信登陆获取基本信息这块，真是看晕了，重复了多好几次: 3526 浏览 3 关注 0 回答 0 评论

前两天我发问说升3.0收录降了，都批判了我一会。这次给点证据，当然是我的想法，对不对大家一起分析一下: 3230 浏览 14 关注 10 回答 1 评论

推荐内容

问终于明白百度为啥不收录了，看看这怎么办？: 3737 浏览 7 关注 4 回答 0 评论

问请教用七牛后robots.txt的设置方法: 4072 浏览 4 关注 2 回答 0 评论

问 Wecenter的robots这样写是否更好一些？: 2901 浏览 3 关注 2 回答 0 评论

问 AWS哪些目录是可以禁止搜索引擎爬行的？: 2757 浏览 2 关注 1 回答 0 评论

问请问在robots.txt文件中，一般是放行那几个目录？: 1970 浏览 2 关注 1 回答 0 评论

问 Google Webmaster 总是提示我Robots.txt无法访问，大家遇到吗？: 3403 浏览 5 关注 3 回答 0 评论

问怎么用robots屏蔽分类列表和推荐、热门、待回复: 2243 浏览 1 关注 0 回答 0 评论

问 wecenter的robots规则: 1619 浏览 1 关注 0 回答 0 评论

All Rights Reserved Powered BY WeCenter V4.1.0 © 2024 皖公网安备 34019202000400号