该问题已被锁定!
2
关注
2784
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

官方技术团队出个模板调用的教程 可以吗
手机版什么时候可以发图片?
anwsion和thinksaas可以整合吗?thinksaas也是一款开源的软件
stackoverflow的风格草稿这样可以么?
回复评论不可以关闭的么?
可以把挂Q插件给我吗?
"什么情况下给我发邮件" 管理员是不是可以设置默认选中一些选项?
用户添加了 js 文件 css 文件 img 文件应该放在哪个目录下怎样调用?
测试下图片是否可以显示
没有认证的订阅号可以吗?

推荐内容

搜索问题怎么优化?官方的不能用,求方案
anwsion搜索是怎样的原理?
怎么用robots屏蔽分类列表和推荐、热门、待回复
请问 在robots.txt文件中,一般是放行那几个目录?
从百度搜索不能直接链接到相关页面吗?
终于明白百度为啥不收录了,看看这怎么办?
如何看待周鸿祎对360搜索的定位?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】