该问题已被锁定!
2
关注
3157
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

版本增加怎么升级? 有没有地址可以在线升级?
为什么有些问题可以在首页动态显示,有些不行?
有没有办法像知乎一样,可以隐藏提问者?
可以参考篱笆网的设计
footer和header可以移植吗
3.1.7 版本可以使用微信订阅号吗?
建议加入用户得到答复后,用户不在线则可以选择发送邮件提示。
是不是可以增加一个“编辑推荐”的区域!像知因那样的?
哪里可以买到好的DVD?
请问下下个版本会做哪些方面的修改呢!

推荐内容

facebook推搜索引擎会有机会么?
如何看待周鸿祎对360搜索的定位?
请问 在robots.txt文件中,一般是放行那几个目录?
wecenter的robots规则
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】
anwsion搜索是怎样的原理?
怎么用robots屏蔽分类列表和推荐、热门、待回复
为了避免重复收录写的robots.txt 大家看下我这规则对不对
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?