User-agent:
该项的值用于描述搜索引擎robot的名字。在”robots.txt”文件中，如果有多条User-agent记录说明有多个robot会受 到”robots.txt”的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为*，则对任何robot均有效， 在”robots.txt”文件中，”User-agent:*”这样的记录只能有一条。如果在”robots.txt”文件中，加入”User- agent:SomeBot”和若干Disallow、Allow行，那么名为”SomeBot”只受到”User-agent:SomeBot”后面的 Disallow和Allow行的限制。

Disallow:
该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被 robot访问。例如”Disallow:/SEO” 禁止robot访问/SEO.html、 /seoabc.html、/seoindex.html，而”Disallow:/SEO/” 则允许robot访问/seo.html、/seoabc.html，不能访问/seop/index.html。”Disallow: “说明允许robot访问该网站的所有url，在”/robots.txt”文件中，至少要有一条Disallow记录。如果”/robots.txt” 不存在或者为空文件，则对于所有的搜索引擎robot，该网站都是开放的。

Allow:
该项的值用于描述希望被访问的一组URL，与Disallow项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL 是允许robot访问的。例如”Allow:/hibaidu”允许robot访问/hibaidu.htm、/hibaiducom.html、 /hibaidu/com.html。一个网站的所有URL默认是Allow的，所以Allow通常与Disallow搭配使用，实现允许访问一部分网页 同时禁止访问其它所有URL的功能。

需要特别注意的是Disallow与Allow行的顺序是有意义的，robot会根据第一个匹配成功的Allow或Disallow行确定是否访问 某个URL。

下面介绍下使用”*”和”$”：
使用统配符和模糊匹配,笔者只了解baidu是支持得使用通配符”*”和”$”来模糊匹配url。

“$” 匹配行结束符。
“*” 匹配0或多个任意字符。
禁止所有搜索引擎访问网站的任何部分

下面这些问题你都能回答出来么？

1）DIV+CSS页面布局为什么这么火爆？
2）为什么使用Table布局是不明智的？
3）用CSS页面布局能给我们的网页设计带来什么好处？
4）为什么用CSS布局页面会提高效率降低成本？
5）DIV+CSS布局页面对SEO有什么影响？
6）学会DIV+CSS会降低失业的风险提高职场竞争实力？
7）Table布局页面会带来哪些问题？
8）DIV+CSS布局页面为什么会提高页面的亲和力？
9）使用CSS排版比Table有哪些优势？
10）为什么会使网站保持视觉一致性变得那么容易？

什么是网址 url 规范化(URL canonicalization)？

url 网址规范化指的是当出现了有大于一个的链接指向含有相同内容的网页时，通过各种方法让搜索引擎只挑选其中一个最喜欢的的网址，同时告诉搜索引擎不收录和索引其他网址的过程，从搜索引擎的角度上说，url 规范化减少了对一个网站的重复页面的索引。网站重复页面问题也是搜索引擎优化(SEO)中很多人关注的一部分。url 网址规范化是一个将url进行标准化的过程，Google 中文官方博客 建议我们指定 url范式。

CSS 使用浮动会造成布局的混乱，通常清除浮动的方法是，利用一个如下样式的空 Div：

.clear{clear:both;}

更为优良的 CSS 代码是：

.clear:after{content:".";display:block;height:0;clear:both;visibility:hidden;}
.clear{zoom:1;}

这个方法目前已经广泛使用，淘宝、口碑，都是这种用法。通过 after 伪类 :after 和 针对 IE6 的独立 CSS Hack 来实现，完全兼容主流浏览器。

当然，这在通过 CSS 在元素之后追加 “.” 并不必要，因为还需要 visibility 来隐藏掉它。通过优化，代码如下：

.clear:after{content:"020";display:block;height:0;clear:both;}
.clear{zoom:1;}

其中，020 指在容器后添加空格，这样就避免使用 visibility 隐藏可视性了。

另外，不推荐使用空 div 的方法。单单为了清除浮动而在结构良好的 HTML 中插入没有语义的容器，未免有些突兀。