该问题已被锁定!
2
关注
2756
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

为什么头像上传不稳定,一会可以一会不行的?
我发的问题可以从哪里看到?
分类目录下图片和会员图片无法上传显示?
Anwsion新版什么时候发布,有哪些改进
希望anwsion可以提供邀请码注册功能
如何设置只有认证用户可以回复问题
讨论:通知中的 model_type 这个字段和 aws_notification_data 的作用
3.1.7哪里可以下载啊!
网易lofte博客可以把自己喜欢的文章置顶吗
问题回复的编辑器是否可以缩小一下?

推荐内容

怎么增加搜索框中 搜索文章标题呢? 文章搜索不到
Wecenter的robots这样写 是否更好一些?
终于明白百度为啥不收录了,看看这怎么办?
从百度搜索不能直接链接到相关页面吗?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
Google Webmaster 总是提示我Robots.txt无法访问,大家遇到吗?
我中招了,用模拟搜索引擎捉取网站,捉取一次就变一次。。。【已解决】
怎么用robots屏蔽分类列表和推荐、热门、待回复
如何看待周鸿祎对360搜索的定位?
搜索问题怎么优化?官方的不能用,求方案