该问题已被锁定!
2
关注
3418
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

程序安装在子目录的问题.
活动模块已通过测试,商业模块有需要的朋友可以联系我
“新东方问吧”用的什么程序啊?ANWSION可以实现吗?
使用 Dreamware 可以快速查找代码
SEGMENTFAULT的子站怎么实现的,WC可以做到吗?
为什么不能发代码?? 怎么修改才可以发代码??
WeCenter可以与Phpwind对接吗?
希望anwsion可以提供邀请码注册功能
子目录的地址问题
java 也可以像php 一样可以处理 input 数组吗? 如何实现?

推荐内容

怎么用robots屏蔽分类列表和推荐、热门、待回复
请教用七牛后robots.txt的设置方法
搜索引擎收录时的时间是错的,网站哪里出了问题?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
Wecenter的robots这样写 是否更好一些?
wecenter 采用的是那种搜索技术
请问 在robots.txt文件中,一般是放行那几个目录?
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
终于明白百度为啥不收录了,看看这怎么办?