AWS哪些目录是可以禁止搜索引擎爬行的？ - WeCenter 社交化知识问答社区程序

该问题已被锁定！

2: 关注

2987: 浏览

AWS哪些目录是可以禁止搜索引擎爬行的？

想写个robots.txt文件，不知道AWS哪些目录是可以禁止搜索引擎爬行的？

好问题 0 评论收藏举报

AI智能回复搜索中，请稍后...

1 回答

zhengqiang 超级管理员用户来自于: 广东省深圳市
2012-10-12 12:55

只要服务器把列目录的功能关闭，不能爬行的都不会被爬。

赞同 0 2评论

关于作者

: yangunbo 初级会员
这家伙很懒，还没有设置简介

136: 回答

0: 文章

61: 问题

问题动态

发布时间: 2012-10-12 12:08

更新时间: 2012-10-12 12:55

关注人数: 2 人关注

相关问题

有一行代码可以删除: 2161 浏览 2 关注 1 回答 0 评论

有没有成功的将discuz转成aws的案例？求分享。。。: 2197 浏览 4 关注 1 回答 0 评论

请问咱的系统可以有注册限制功能吗？: 1770 浏览 2 关注 1 回答 0 评论

建议提供安装wamp集成包，让用户可以在自己的电脑上，先体验系统的功能: 2750 浏览 3 关注 2 回答 0 评论

紫灰2.5模板，如果觉得好可以分享: 3697 浏览 7 关注 4 回答 1 评论

设置游客不能访问，只有注册用户可以访问这种模式。爬虫还能抓到内容页面吗？: 1807 浏览 3 关注 1 回答 0 评论

wecenter里可以用阅读全文和收起功能吗: 2242 浏览 2 关注 1 回答 1 评论

关于网站目录读写权限设置问题: 2633 浏览 5 关注 1 回答 0 评论

2.0版本可以整合UCenter吗？: 2058 浏览 2 关注 1 回答 0 评论

怎么游客不可以看到回答啊？: 2644 浏览 4 关注 3 回答 0 评论

推荐内容

问从百度搜索不能直接链接到相关页面吗？: 3103 浏览 3 关注 1 回答 0 评论

问如何看待周鸿祎对360搜索的定位？: 3321 浏览 3 关注 2 回答 0 评论

问怎么用robots屏蔽分类列表和推荐、热门、待回复: 2413 浏览 1 关注 0 回答 0 评论

问 wecenter 采用的是那种搜索技术: 2571 浏览 3 关注 1 回答 1 评论

问终于明白百度为啥不收录了，看看这怎么办？: 4061 浏览 7 关注 4 回答 0 评论

问搜索引擎收录时的时间是错的，网站哪里出了问题？: 2897 浏览 2 关注 1 回答 0 评论

问 anwsion搜索是怎样的原理？: 2881 浏览 2 关注 1 回答 0 评论

问 wecenter的robots规则: 1777 浏览 1 关注 0 回答 0 评论

问我中招了，用模拟搜索引擎捉取网站，捉取一次就变一次。。。【已解决】: 3247 浏览 5 关注 3 回答 0 评论

问从dz转过来后，怎样应对搜索引擎？以前的收录怎么办？: 3065 浏览 2 关注 3 回答 2 评论

All Rights Reserved Powered BY WeCenter V4.1.0 © 2025 皖公网安备 34019202000400号