遨游首页
关于我们
建站服务
托管服务
域名服务
增值服务
合作加盟
建站百科
服务中心
项目需求表
网站自助检测与修复工具
在线留言 网站建设 联系我们 网站托管(人工) 购物网站 网站优化 服务条款 小程序开发 关于遨游 为什么选择我们 SEO课程 下载中心 竞价托管(SE M)) SSL证书 域名备案 企业邮箱 互动营销 创意设计 隐私条款 关键词排名(软件) 支付方式 媒体报道 全国建站 建站问题 建站技术 注册协议 网站建设流程 网站改版升级 域名注册 地图标注 手机网站设计 域名回收 域名知识 SEO工具 数据恢复

Robots.txt 文件应放在哪里?

敖游
2016-02-24
来源:遨游建站

  robots.txt文件放在哪里
  robots.txt文件应该放置在网站根目录下。举例来说,当spider访问一个网站(比如 http://www.abc.com)时,首先会检查该网站中是否存在http://www.abc.com/robots.txt这个文件,如果 Spider找到这个文件,它就会根据这个文件的内容,来确定它访问权限的范围。

Robots.txt
阅读原文
阅读136
分享
下一篇:robots.txt文件的重要作用意义
上一篇:使用Robots.txt引导百度爬虫合理分配抓取资源
写评论...
发表评论
  • 登录评论
  • 匿名评论
提交
提交
首页
打电话
撩微信
发短信
QQ客服