专注收集记录技术开发学习笔记、技术难点、解决方案
网站信息搜索 >> 请输入关键词:
您当前的位置: 首页 > Go

悟空:用Go语言编纂的全文搜索引擎

发布时间:2011-06-29 18:06:44 文章来源:www.iduyao.cn 采编人员:星星草
悟空:用Go语言编写的全文搜索引擎

最近Go语言1.5版正式发布,国内关于Go语言的学习和应用也逐渐火热,InfoQ也将关注并推动国内Go语言社区的发展。悟空开源项目是用Go语言编写的全文搜索引擎,InfoQ记者采访了它的作者陈辉,了解了这个项目背后的一些信息。

悟空搜索引擎的特点是高度可定制,具有如下特性:

  • 高效索引和搜索(1M条微博500M数据28秒索引完,1.65毫秒搜索响应时间,19K搜索QPS)
  • 支持中文分词(使用作者自己研发的Go语言中文分词工具sego分词包并发分词,速度27MB/秒)
  • 支持计算关键词在文本中的紧邻距离(token proximity)
  • 支持计算BM25相关度
  • 支持自定义评分字段和评分规则
  • 支持在线添加、删除索引
  • 支持持久存储
  • 可实现分布式索引和搜索
  • 采用对商业应用友好的Apache License v2发布

项目的架构如下图:

引擎中处理用户请求、分词、索引和排序分别由不同的协程(goroutines)完成。

  1. 主协程,用于收发用户请求
  2. 分词器(segmenter)协程,负责分词
  3. 索引器(indexer)协程,负责建立和查找索引表
  4. 排序器(ranker)协程,负责对文档评分排序

具体的原理可以在入门教程里查看,并且在这个教程里,作者用不到200行Go代码实现一个微博搜索网站。

这个项目的作者是陈辉,以前在Google美国工作,2014年回国后加入阿里巴巴,现在是阿里巴巴广告事业部的大数据营销总经理。

在这篇文档里,他谈到了创建悟空搜索引擎的初衷:

知识应该容易获得

……

通用的搜索引擎并不能解决这个问题:首先,不能有针对性的垂直搜索,对内容的抓取和索引简单粗暴,无法得到结构化数据,看不到隐藏的内容属性;其次,通用搜索引擎对内容的排序无法进行定制,实时性不够,无法成为网站社区的有机的一部分。

一个好的网络社区应该允许用户在阅读时搜索,搜索成为阅读的一部分;网站内部的流量应该是个性化的、有机的,而不应该由生硬的推荐系统主导用户阅读的方向。很可惜这样的网络社区很少,这种局面的造成一部分是因为缺乏一个开源的、容易定制的、高效的搜索引擎的存在。

他的另一个初衷是认为搜索引擎技术应该普及:“所有大数据领域的工程师都应该在职业生涯的某个时刻试着重写一个搜索引擎,了解一下其中的技术问题,并尝试去解决这些问题。”

InfoQ记者对他进行了采访,了解了他对Go语言的看法,以及悟空搜索引擎背后的一些故事。

InfoQ:您是如何和Go语言结缘的,现在是否仍然关注Go语言?

陈辉:最早是从Google内部的海报上知道Rob Pike给的TechTalk,关于一种新的编程语言,我对新的编程语言一直比较感兴趣,于是就去听了一下。

当时在Google内部有一种鄙视Python的风气,有个资深的工程师还写了一篇文章《为什么你不应该用Python》,认为超过100行的代码就不应该用Python写。我自己在使用Python时也很头疼,感觉这就是一种ad hoc的语言,写出来的代码很不好维护,更要命的是还很丑陋,写完就不想再多看一眼。

听完TechTalk的第一感觉就是Go可以取代Python进行快速开发,于是用Go写了几个内部小项目,非常顺手,当时Rob Pike还亲自review了我的代码,给了不少使用规范的建议。

后来我的开源项目基本上都用Go写了,包括中文分词,机器学习等,见我的GitHub项目列表。

现在因为工作比较忙很少再写,不过如果有人想重头创作一个项目,我仍然会向他推荐Go。

InfoQ:说说您使用Go语言的体会,它有哪些优缺点?

陈辉:最大的优点是易于维护,代码写完之后几个月再去看完全没有生疏感,仿佛在Go中实现一个功能只有这么一种写法。而且还有gofmt这个格式化工具,让团队中所有人的代码风格都是一样的。Go是一种不会让团队其他小伙伴看代码时皱眉头的语言,没有什么比这更重要了。

其次Go语言有C语言的优势,但没有C++的弱点。首先是强类型语言,任何严肃的软件项目都不应该选择使用弱类型语言。然后Go的interface能满足90%以上的OOP需求,但又没有C++的种种陷阱。最后,执行速度足够快。

然后,Go有很好的代码管理、build和profiling功能。import一个GitHub的就好像使用本地目录一样,这天然解决了开源软件中的协同开发的问题。profiling的能力强大,加上build体系替代了一个好的IDE的最主要的功能。

最后,goroutines提供了天然的并发编程支持,这也是我最喜欢使用的功能之一。

当然它也不是没有缺点,在我眼里Go的缺点:对virtual function的支持不是很好(或者不存在?),无法通过继承实现代码复用。另外,pointer的使用有时候让人困惑。

InfoQ:请介绍一下“悟空”开源项目的开发历史。

陈辉:最早是13年7月开始写的,基本上是利用周末的时间,花了一个月写完了悟空最主要的代码,8月初扔到了GitHub上。14年一月份给引擎添加了持久存储,中间有几位contributor贡献了代码。

透露一下,阿里巴巴内部有使用悟空。

InfoQ:悟空和其它搜索引擎相比,有哪些特点?

陈辉:据我所知还有一个Go写的搜索引擎,Bleve,不过好像不支持中文分词。

悟空不是一个完整的搜索引擎,我也从来不打算让它变完整。我只想写一些容易被修改的、能融入你的业务需求的基础代码,这些代码只实现基本功能,同时也足够精简,让你能了然于心,可以快速修改实现你想要的功能。换句话说,你只要花一天时间就可以熟悉悟空的代码,让它成为你自己的搜索引擎。

InfoQ:能否介绍一下悟空搜索引擎应用到高并发和大数据量场景下,可能会出现的性能瓶颈?以及有哪些优化手段?

陈辉:目前悟空的索引结构都是基于内存的,单机的内存大小成为瓶颈。解决方式有两个,一是引入SSD等存储,二是分布到多台机器上。我比较倾向于后者,因为内存会越来越便宜。

InfoQ:悟空搜索引擎未来有什么开发计划?

陈辉:如果有时间,可能会加入docker的支持。

如果你想了解更多关于悟空搜索引擎,这里有.NET社区知名开发者Oren Eini的一篇探索它代码的文章,感兴趣的读者可以阅读。

 

  码农必须要加班?NO!

  知道码农们都想摆脱加班狗、外卖脸的称号,所以我们来了!

  我们做了一个能让程序员之间共享知识技能的APP,觉得可以颠覆程序员的工作方
式!

  有人说我们痴心妄想,但我们不那么认为。

  为了能煽烂说我们痴心妄想的人的脸,现在我们急需程序员业内的牛哔-人物来给
我们“号脉”!“诊断费”丰厚!毕竟我们不差钱儿,只是想做到最好!

  圈圈字典中讲到,牛哔-人物是指群成员数高于1000人的QQ群主或关注人数高于
2000人的贴吧吧主或粉丝人数高于10000人的微博博主或成员数高于2000主题贴的版主
或单帖阅读量高于2000博客主或人脉超级广的圈内红人。

  对于未能达标的未来大神们,我们只能含泪表示:蜀黍,咱们来日方长,这次暂
时不约好吗?待他日你立地成神,我必生死相依!

  来?还是不来?

  圈圈互动 接头暗号:1955246408 (QQ)

友情提示:
信息收集于互联网,如果您发现错误或造成侵权,请及时通知本站更正或删除,具体联系方式见页面底部联系我们,谢谢。

其他相似内容:

  • ModernUI课程:定义一个Logo

    ModernUI教程:定义一个Logo ModernWindow的标题栏包含了一块区域用来显示自定义的窗体Logo: 这个窗体logo通过ModernWindow.LogoD...

  • Django忘记管理员账号和密码的解决方法

    Django忘记管理员账号和密码的解决办法 看着Django的教程学习搭建网站,结果忘记第一次创建的账号和密码了。结果搭建成功以后,一直...

  • GO语言小结(1)——基本知识

    GO语言总结(1)——基本知识 1、注释(与C++一样)   行注释://  块注释:/*   ...  */ 2、标识符   可以这么说,除了数字开头...

  • golang 惯用的文件读取方式

    golang 常用的文件读取方式 Golang 的文件读取方法很多,刚上手时不知道怎么选择,所以贴在此处便后速查。 一次性读取 小文件推荐一...

  • 查询深圳市通相关信息

    查询深圳通相关信息 用 HTTP.GET 从开放 API 中查询深圳通信息,然后将 JSON 数据存入结构体中,再格式化输出。 注意:获取的并不是实...

  • Go语言设计模式实践:结合(Composite)

    Go语言设计模式实践:组合(Composite) 关于本系列 这个系列首先是关于Go语言实践的。在项目中实际使用Go语言也有段时间了,一个体会就...

  • 列出索引和遍历目录

    列出目录和遍历目录 获取目录列表用 ioutil.ReadDir(),遍历目录用 filepath.Walk(),使用方法请参考文章示例。 示例代码: package ma...

  • io 包的惯用接口速记

    io 包的常用接口速记 我没有 C/C++ 基础,没有接口的概念,且从 Python 投奔而来,Python 的极简主义(一个结果往往只提供一个方法),让我在...

  • 代理服务扩充

    代理服务扩展 之前自己实现了一个代理服务,当时考虑的是只要支持SOCKS5就好了,因为我经常用CHROME,配合着SwitchySharp,体验还是很棒...

  • 文件的创造与打开

    文件的创建与打开 文件操作是个很重要的话题,使用也非常频繁,熟悉如何操作文件是必不可少的。Golang 对文件的支持是在 os package ...

热门推荐: