该问题已被锁定!
2
关注
3114
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

全部问题里面可以不显示某一个分类吗?
为什么不能删除自己的贴子,一定要管理员才可以。
话题可以自己添加吗
如何在根目录下的404页面404.html加上搜索的功能
在IIS下中文搜索,中文主页,中文话题等不能用的可以暂时试试这个
WEC可以借鉴这种UI么?
动态列表希望可以美化下,或者增加些内容 ,现在的太单调。
我可以对别人的问题添加“话题”么,也就是所谓的tag?
IIS6.0 +2.0 RC 1 二级目录下的伪静态怎么写?
请问Anwsion的介面可以用全英文的吗??

推荐内容

请问 在robots.txt文件中,一般是放行那几个目录?
怎么用robots屏蔽分类列表和推荐、热门、待回复
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
wecenter 采用的是那种搜索技术
facebook推搜索引擎会有机会么?
终于明白百度为啥不收录了,看看这怎么办?
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
如何看待周鸿祎对360搜索的定位?
Wecenter的robots这样写 是否更好一些?
为了避免重复收录写的robots.txt 大家看下我这规则对不对