该问题已被锁定!
2
关注
3053
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

SEGMENTFAULT的子站怎么实现的,WC可以做到吗?
好吧,不能加文章系统的话,几个页面总可以吧!
301重定向--二级目录改为二级域名访问
我服务器不支持httpd.ini只可以用web.config做伪静态
bootstrap 到底优化哪些部分啊?感觉官网速度慢了些啊
有没有现成的火车头采集,可以付费
3.1.8验证码可以显示 3.1.9怎么不行
人才模块更新了,有需要的朋友可以联系我
除了问题,怎么让文章也可以邀请好友关注?
建议增加一个认证理由,这样用户可以知道是个怎么样的真识

推荐内容

怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
请教用七牛后robots.txt的设置方法
终于明白百度为啥不收录了,看看这怎么办?
从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?
如何看待周鸿祎对360搜索的定位?
从百度搜索不能直接链接到相关页面吗?
怎么用robots屏蔽分类列表和推荐、热门、待回复
请问 在robots.txt文件中,一般是放行那几个目录?
搜索问题怎么优化?官方的不能用,求方案