中文分词技术实验:百度、雅虎、谷歌大比拼

sowang

原文：http://news.newhua.com/html/Net_news/2007-8/30/0783016212849415_20.shtml

    作者: SEO独孤九剑


       本人是搜索引擎优化技术的爱好者，这篇文章将采用大部分人都可以看得懂的简单方式，让大家欣赏一下中国三大搜索引擎的分词技术。很幸运，我们的三大搜索引擎 都在他们的快照里把查询语句拆分，然后用不同颜色的高亮来显示，大家可以一目了然地看到他们的分词方法。搜狗、有道这些非主流的搜索引擎都没有这种功能。 腾讯搜搜采用的是谷歌的内核，快照可以直接看到，但是却没有分词高亮显示。谷歌已经去掉了“快照”功能，只有上Google去，并且需要使用代理服务器或者用一点小技巧才能看到。雅虎跟易搜使用相同的搜索核心，这次我使用的是易搜，也就是以前“悲情谢幕”的一搜，现在马云同志好马勇吃回头草，变成了易搜，继续造福中国人民。


　　分词技术第一例：红色摇滚很搞笑

　　从拆词的情况来看，谷歌竟然并没有把“摇滚”看作是一个词！它是不是在搞笑？这就意味着，当你的谷歌里搜索“摇滚”的时候，谷歌把这句话也当成候选的结果“斗牛士摇来摇去，公牛说：本牛不操无名之辈，滚！”

雅虎比谷歌更懂中文！人家起码知道摇滚是一个词。

　　呵呵，这就是业界一直盛传的百度很牛逼的分词技术了，把“红色摇滚”整个儿好地看成一个词，赞。它连“很搞笑”都看成是一个整体！

　　分词技术第二例：比尔盖茨正在重装操作系统

　　谷歌果然不给微软面子，连“盖茨”这个名儿都不算一个词，“重装”自然也不算了，更不要提“操作系统”了，感觉谷歌就像一个绝世武林高手，把一张 纸 抛向空中，然后吆喝一声，用手中的宝剑唰唰唰唰地把那张纸碎尸万段。一个美眉泪奔：人家写给盖茨的情书，你怎么把它喜唰唰了？谷歌道：查无此人。

　　谷歌拆分的本领太幼稚了，雅虎当然胜出，“比尔盖茨”和“重装”都成了词，可见马云忽悠大家说雅虎搜索最好还不算太离谱，起码分词比谷歌先进。

　　百度大亨闪亮登场，一切完美，可以认出“操作系统”。宏哥果然厉害，叹服。

　　分词技术第三例：谁在用吉它弹奏一曲十八摸

　　谷歌又来喜唰唰了，不服不行，“吉它”“弹奏”都被棒打鸳鸯两头散。注意：我的搜索词里头有一个“在”字，谷歌一脚把它踢飞，我也泪奔～

　　雅虎还行吧，咦？曲十八是什么？是一个风流才子吗？反正我是不知道，大家有知道的M我。

　　终于轮到终极Boss出场了，老实说，我不写这篇文章还不知道宏哥的分词技术能够强大到如此的地步！它将我的查询词用三种方法来分词。先下一下这三张快照：

　　为什么百度会存在多种分词版本？正如我在“授谷歌绝杀百度的独孤九剑”那篇文章里提到，优秀的分词策略是这样：尽量不拆分，需要拆分时，先把长的拆成中的，如果结果还是少，再把中的拆成短的。


　　当然，这是原则，执行过程中却并不一定严格按照这种拆分来排序，要看别的参数。在百度里搜“谁在用吉它弹奏一曲十八摸”，有三条搜索结果，其中只 有第二条是包括了完整的“谁在用吉它弹奏一曲十八摸”，排在第一条的结果是“谁在用吉他弹 奏一曲十八摸”，注意，红色部分与使用的查询语句不同。使用“吉它”百度一下，找到相关网页约2,490,000篇，使用“吉他”百度一下，找到相关网页 约22,600,000篇。由此可见，“吉他”是比“吉它”更常使用的词语，百度把查询语句拆分之后，发现“吉它”的同义词“吉他”可能是更好的词，于 是，百度将更常用的词“吉他”代替“吉它”之后将更合适的搜索结果放到第一！兄弟们，不服不行啊！

　　百度拥有如此强大的分词技术，加上产品稳定、可靠、河蟹，再拥有贴吧、知道等用户贴性很高的产品，拥有hao123作为把菜鸟导入百度怀抱的利器，怪不得宏哥可以放心地去东京打小日本的主意。正如百度产品部出来的一位朋友说：“竞争对手太不争气。”

　　百度的分词技术有什么弊端吗？

　　有。

　　我上次提到过，在搜“上海紫园”的词时，百度不知道凭什么，把“上海紫”看成了一个词，并且在搜索结果里含有一大堆“上海紫”的结果，严重违背了 先 不拆，后小拆的原则。在这个词上，谷歌反倒比百度要好，虽然谷歌的词库很小，可是它用两个词相近则拥有更高优先级的办法来弥补。我的本意是表扬一下百度的 “先不拆”的良好原则，不料却发现了百度的一个弊端。百度应当调整拆词的参数，不要把“上海紫”这样的也看作一个词。呵呵，应该是我的记忆出问题，我上次 本意应该是让大家搜索“紫园一号”的。这个词就大概能看出谷歌跟百度的搜索差别。


　由于两词相近优先级高，所以谷歌的分词技术弊端并没有想象的那么严重，但是在搜索很多的词之后，会发现它的结果总差那么一点儿，这就是差距了，在 此 做个小猜测，谷歌使用的词库来自新华字典，还可能是小学生版。雅虎的词库则来自汉语大词典，百度……估计是自创的词典，连“红色摇滚”都算词了呀。

　　其实我是谷歌的Fans，不喜欢百度和雅虎的商业气味太重，写这个排名出来，是希望谷歌的领导注意谷歌自身水平的提高，而不是用拉拢迅雷、天涯这样的招术，这是旁门左道，对谷歌的进步毫无用处。

      版权声明：
      作者：SEO独孤九剑（http://www.seo9.org）
      友情提示：转载文章保留作者的声明与链接将提升您的网站形象

sowatch

SEO独孤九剑选例偏

google的分词大概不会像SEO独孤九剑那样算吧！快照里是那样的，但看看搜索结果页面，是那样吗？就第一例“红色摇滚很搞笑”而言，看看搜索结果页面，google去了一个停用词“很”，其余的多是分成“红色摇滚”、“搞笑”或“摇滚”、“搞笑”。如果真如他说的那么夸张，google直接滚蛋得了。但事实是google搜索的相关度是最高的，这是不争的事实。

常搜索你会知道，百度的分词对有的查询词分得好，有的差，甚至极差！

百度对娱乐八卦方面的信息做了特殊处理，所以对一些娱乐八卦的东西，百度分得最好，这一点不可否认。



[ 本帖最后由 sowatch 于 2007-8-31 01:47 编辑 ]

url

分词是第一步，对搜索结果确定相关度并排序同样关键。