该问题已被锁定!
2
关注
2999
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

AWS程序通过ucenter可以跟其他程序兑换积分吗?
rebots.txt的设置,怎么设置可以减少带宽,还可以增加搜索引擎对网站的收录?
【二次开发教程】一、WeCenter 文件目录结构
二级目录安装wecenter,rewrite到根目录怎么做?
是否可以搭建问答和资源下载
测试一下可以吗
论坛提问有回复,微信可以主动提醒了?
3.1.8验证码可以显示 3.1.9怎么不行
Valums file Uploader 官方修改的这个谁可以详细讲解下嘛
可不可以给问题也加个点赞的功能呢

推荐内容

wecenter 采用的是那种搜索技术
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
wecenter的robots规则
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
搜索引擎收录时的时间是错的,网站哪里出了问题?
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】
从百度搜索不能直接链接到相关页面吗?
anwsion搜索是怎样的原理?
怎么用robots屏蔽分类列表和推荐、热门、待回复
如何看待周鸿祎对360搜索的定位?