User-agent:
该项的值用于描述搜索引擎robot的名字。在”robots.txt”文件中，如果有多条User-agent记录说明有多个robot会受 到”robots.txt”的限制，对该文件来说，至少要有一条User-agent记录。如果该项的值设为*，则对任何robot均有效， 在”robots.txt”文件中，”User-agent:*”这样的记录只能有一条。如果在”robots.txt”文件中，加入”User- agent:SomeBot”和若干Disallow、Allow行，那么名为”SomeBot”只受到”User-agent:SomeBot”后面的 Disallow和Allow行的限制。

Disallow:
该项的值用于描述不希望被访问的一组URL，这个值可以是一条完整的路径，也可以是路径的非空前缀，以Disallow项的值开头的URL不会被 robot访问。例如”Disallow:/SEO” 禁止robot访问/SEO.html、 /seoabc.html、/seoindex.html，而”Disallow:/SEO/” 则允许robot访问/seo.html、/seoabc.html，不能访问/seop/index.html。”Disallow: “说明允许robot访问该网站的所有url，在”/robots.txt”文件中，至少要有一条Disallow记录。如果”/robots.txt” 不存在或者为空文件，则对于所有的搜索引擎robot，该网站都是开放的。

Allow:
该项的值用于描述希望被访问的一组URL，与Disallow项相似，这个值可以是一条完整的路径，也可以是路径的前缀，以Allow项的值开头的URL 是允许robot访问的。例如”Allow:/hibaidu”允许robot访问/hibaidu.htm、/hibaiducom.html、 /hibaidu/com.html。一个网站的所有URL默认是Allow的，所以Allow通常与Disallow搭配使用，实现允许访问一部分网页 同时禁止访问其它所有URL的功能。

需要特别注意的是Disallow与Allow行的顺序是有意义的，robot会根据第一个匹配成功的Allow或Disallow行确定是否访问 某个URL。

下面介绍下使用”*”和”$”：
使用统配符和模糊匹配,笔者只了解baidu是支持得使用通配符”*”和”$”来模糊匹配url。

“$” 匹配行结束符。
“*” 匹配0或多个任意字符。
禁止所有搜索引擎访问网站的任何部分

    互联网的发展总是在不断地催生新技术的产生，而HTML 5和CSS 3是最近一直被讨论的热门话题，关于HTML 5与Flash之间的唇枪舌战一直不断，而CSS 3的新功能也让人们备受期待。那么HTML 5和CSS3究竟有哪些让我们眼前一亮的东西呢？

    HTML 5草案的前身名为Web Applications 1.0，于2004年被WHATWG提出，于2007年被W3C接纳，并成立了新的HTML工作团队。在2008年1月22日，第一份正式草案发布。 HTML 5是近十年来Web开发标准最巨大的飞跃。和以前的版本不同，HTML 5并非仅仅用来表示Web内容，它的新使命是将Web带入一个成熟的应用平台，在HTML 5平台上，视频，音频，图象，动画，以及同电脑的交互都被标准化。那么我们来看一下HTML 5的技术概览有哪些：

如何让你的CSS代码更具有组织性和易维护性，为什么你的样式表总是臃肿和混乱的？有些时候是源于一开始书写时的混乱和草率，有时候也是因为后期的维护和各种HACK的需要，但不管如何，书写出干净、易于管理的CSS很简单，下面是10条改进的方法：
1.井井有条。
和许多其他的事情一样，首先要保持一个良好的组织性，而不是想到ID就写ID，想到CLASS就写CLASS，而要使样式表保持一个连贯的结构，这能让你充分的利用样式的继承。首先定义你最常用的项目，然后是不太常用到的然后是其他，这会使你的CSS属性得到正确的继承，当你需要重新定义一个特殊的风格时会很简单，也会使得你以后对该CSS的修改和编辑更加迅速，因为它遵从简单、可读、有逻辑的结构。
一个良好的CSS结构应该包括以下一些部分：

下面这些问题你都能回答出来么？

1）DIV+CSS页面布局为什么这么火爆？
2）为什么使用Table布局是不明智的？
3）用CSS页面布局能给我们的网页设计带来什么好处？
4）为什么用CSS布局页面会提高效率降低成本？
5）DIV+CSS布局页面对SEO有什么影响？
6）学会DIV+CSS会降低失业的风险提高职场竞争实力？
7）Table布局页面会带来哪些问题？
8）DIV+CSS布局页面为什么会提高页面的亲和力？
9）使用CSS排版比Table有哪些优势？
10）为什么会使网站保持视觉一致性变得那么容易？

什么是网址 url 规范化(URL canonicalization)？

url 网址规范化指的是当出现了有大于一个的链接指向含有相同内容的网页时，通过各种方法让搜索引擎只挑选其中一个最喜欢的的网址，同时告诉搜索引擎不收录和索引其他网址的过程，从搜索引擎的角度上说，url 规范化减少了对一个网站的重复页面的索引。网站重复页面问题也是搜索引擎优化(SEO)中很多人关注的一部分。url 网址规范化是一个将url进行标准化的过程，Google 中文官方博客 建议我们指定 url范式。

网站运营对服务的设置优化也要粗浅的掌握一些！

一、尽可能的减少 HTTP 的请求数

这个第一条是我们大多数SEO所知道的，我再做一个简单的描述：大多数的HTTP请求都是前端的，用户的大多数时间都被用来下载图片、CSS样式表、各种Scripts、Flash等等。当然或许将css，js文件拆分多个是因为css结构，共用等方面的考虑。阿里巴巴中文站当时的做法是开发时依然分开开发，然后在后台 对js，css进行合并，这样对于浏览器来说依然是一个请求，但是开发时仍然能还原成多个，方便管理和重复引用。yahoo甚至建议将首页的css和 js 直接写在页面文件里面，而不是外部引用。因为首页的访问量太大了，这么做也可以减少两个请求数。而事实上国内的很多门户都是这么做的。

CSS 使用浮动会造成布局的混乱，通常清除浮动的方法是，利用一个如下样式的空 Div：

.clear{clear:both;}

更为优良的 CSS 代码是：

.clear:after{content:".";display:block;height:0;clear:both;visibility:hidden;}
.clear{zoom:1;}

这个方法目前已经广泛使用，淘宝、口碑，都是这种用法。通过 after 伪类 :after 和 针对 IE6 的独立 CSS Hack 来实现，完全兼容主流浏览器。

当然，这在通过 CSS 在元素之后追加 “.” 并不必要，因为还需要 visibility 来隐藏掉它。通过优化，代码如下：

.clear:after{content:"020";display:block;height:0;clear:both;}
.clear{zoom:1;}

其中，020 指在容器后添加空格，这样就避免使用 visibility 隐藏可视性了。

另外，不推荐使用空 div 的方法。单单为了清除浮动而在结构良好的 HTML 中插入没有语义的容器，未免有些突兀。