该问题已被锁定!
2
关注
3025
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

用户间的私信可以管理或控制吗?
伊人集视频手机可以观看啦,欣赏一下吧,挺感人的
2.1有哪些update?预计何时发布?
发现页面每一页的文章或者问题展现数修改是在那个目录?
为什么不可以发内容
AWS程序通过ucenter可以跟其他程序兑换积分吗?
wecenter 怎么设置用户登录才可以访问
希望首页标题可以自定义
这两个地方可以使用上下方向键来选择我想要的内容吗?
如何给问题增加标签,我发现这里的问题可以设置多个tag,不知道怎么做的。

推荐内容

从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?
facebook推搜索引擎会有机会么?
如何看待周鸿祎对360搜索的定位?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
wecenter 采用的是那种搜索技术
Wecenter的robots这样写 是否更好一些?
怎么用robots屏蔽分类列表和推荐、热门、待回复
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】
anwsion搜索是怎样的原理?