继上篇使用robots.txt禁止某页面禁止收录,此次再谈谈使用<META>标签拦截或删除网页。
在网页的 <HEAD> 部分添加适当的 <META> 标签。
拦截所有搜索引擎把网页收录：
<META NAME=”ROBOTS” CONTENT=”NOINDEX, NOFOLLOW”>
只是拦截百度蜘蛛爬取网页，而允许其他搜索引擎收录：
<META NAME=”baiduspider” CONTENT=”NOINDEX, NOFOLLOW”>
允许搜索引擎收录你的网页，但禁止其追踪外部链接（如：zh.wikipedia.org 为了防止链接泛滥采用了此例）：
<META NAME=”ROBOTS” CONTENT=”NOFOLLOW”>
允许搜索引擎收录你的网页，但禁止其收录网页上的图片：
<META NAME=”ROBOTS” CONTENT=”NOIMAGEINDEX”>
注：哪一个网页需要拦截或删除，则在那个网页添加<META> 标签，其他页面不会受影响。<META> 标签针对的是具体的某个网页，而不是整个网站。
好久没更新了，别我还懒
学习了！不过似乎还有一些其它的讲述！不是在单独的页面中，而是在robots.txt中！
沙发确实说的不错额