该问题已被锁定!
2
关注
2769
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

查看全部 1 个回答

zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

站外调用WeCenter中的热门用户列表,热门话题列表,需要引入哪些头文件?
为什么只支持php 5 2.10 ? 5.2.6不可以吗?
AWS代码相关
后台是否可以增加个“话题合并”功能?
如何设置只有认证用户可以回复问题
子话题页面可以调用根话题,根话题可以调用子话题吗?
如何在根目录下的404页面404.html加上搜索的功能
as可以和phpwind整合吗?
你觉得anwsion当前哪些功能是很少用到的?
后台新建任务后,邮件可以发出,但出现这个错误

推荐内容

搜索引擎收录时的时间是错的,网站哪里出了问题?
请问 在robots.txt文件中,一般是放行那几个目录?
请教用七牛后robots.txt的设置方法
终于明白百度为啥不收录了,看看这怎么办?
Wecenter的robots这样写 是否更好一些?
怎么用robots屏蔽分类列表和推荐、热门、待回复
从dz转过来后,怎样应对搜索引擎?以前的收录怎么办?
从百度搜索不能直接链接到相关页面吗?
facebook推搜索引擎会有机会么?
搜索问题怎么优化?官方的不能用,求方案