惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园 - 【当耐特】
小众软件
小众软件
S
SegmentFault 最新的问题
GbyAI
GbyAI
量子位
爱范儿
爱范儿
L
LangChain Blog
Vercel News
Vercel News
A
About on SuperTechFans
腾讯CDC
博客园_首页
酷 壳 – CoolShell
酷 壳 – CoolShell
月光博客
月光博客
博客园 - 聂微东
Stack Overflow Blog
Stack Overflow Blog
H
Help Net Security
U
Unit 42
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
V
V2EX
V
Visual Studio Blog
美团技术团队
D
DataBreaches.Net
The GitHub Blog
The GitHub Blog
N
Netflix TechBlog - Medium

博客园 - X龙

远程唤醒wol(Wake On Lan) 我的附件列表 github项目管理 js提交验证 web模拟慢网速环境 按钮提交事件处理(以下方法兼容ie,firefox,chrome) js 格式化日期 div+css搭建系统页面框架 Win7下如何在任务栏显示操作中心的图标 清除右键图形属性 图形选项 .net软件工程师面试知识点 设置JqueryUI DatePicker默认语言为中文 asp.net mvc2升级到asp.net mvc3 pivot与unpivot用法 解决32位ie不能上网,64位ie能上网 xml xmlnamespace sql server 2005生成insert语句,同时完成多表(Bug:插入语句列列表最后一列列名后还带有,) input type=file显示及清空值 预防SQL注入攻击
seo robots.txt编写
X龙 · 2012-03-20 · via 博客园 - X龙

X龙@China .Net 'blog

需要的不仅仅是工作,而是通过努力得来的美好将来。
 

博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

Posted on 2012-03-20 10:26  X龙  阅读(148)  评论(0)    收藏  举报

1.文件名为:robots.txt

2.文件存放在网站根目录下。

3.文件以ansi编码保存。 

示例: 

User-agent: *

Disallow: /BBS

在线robots.txt检测:http://tool.motoricerca.info/robots-checker.phtml 

robots.txt编写规范:http://www.robotstxt.org/orig.html
 

X'L

刷新页面返回顶部