Robots.txt文件主要是限制整个站点或者目录的访问情况，而Robots Meta标签则主要是针对一个个具体的页面。和其他的（如使用的语言、页面的描述、关键词等）一样，Robots Meta标签也是放在页面中，专门用来告诉搜索引擎ROBOTS如何抓取该页的内容。 　　Robots Meta标签中没有大小写之分，name=”Robots”表示所有的搜索引擎，可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项：index、noindex、follow、nofollow，指令间以“，”分隔。 　　index指令告诉搜索机器人抓取该页面； 　　follow指令表示搜索机器人可以沿着该页面上的链接继续抓取下去； 　　Robots Meta标签的缺省值是index和follow，只有inktomi除外，对于它，缺省值是index、nofollow。