该问题已被锁定!
2
关注
3253
浏览

AWS哪些目录是可以禁止搜索引擎爬行的?

AI智能回复搜索中,请稍后...

为什么被折叠? 0 个回复被折叠
zhengqiang 超级管理员 用户来自于: 广东省深圳市
2012-10-12 12:55
只要服务器把列目录的功能关闭,不能爬行的都不会被爬。

关于作者

问题动态

发布时间
2012-10-12 12:08
更新时间
2012-10-12 12:55
关注人数
2 人关注

相关问题

是否可以增加注册字段?
如何做一个收费内容专区,支持付费用户才可以看
问题补充可以粘贴表格吗
为什么游客见到的目录和 登录见到的目录不一样?
我只想问下WeCenter可以实现手机拍照上传的功能吗?
本地安装好,迁移到服务器后,要修改哪些文件,是否要修改数据库?
能不能在首页弄个置顶的问题,可以由管理员设置。
网站根目录下应该加robots.txt文件
Anwsion程序的会员数据是否可以外部调用呢?
二级目录应用

推荐内容

请问 在robots.txt文件中,一般是放行那几个目录?
搜索问题怎么优化?官方的不能用,求方案
wecenter 采用的是那种搜索技术
搜索引擎收录时的时间是错的,网站哪里出了问题?
wecenter的robots规则
facebook推搜索引擎会有机会么?
终于明白百度为啥不收录了,看看这怎么办?
为了避免重复收录写的robots.txt 大家看下我这规则对不对
从百度搜索不能直接链接到相关页面吗?
怎么用robots屏蔽分类列表和推荐、热门、待回复