1. 程式人生 > >中文分詞詞庫彙總(一)

中文分詞詞庫彙總(一)

最近需要對招投標領域的中文詞彙進行統計和分析,首選需要分詞,分詞需要詞庫。

一、從網上找了不少詞庫,各有特點,在這裡整理一下。詞的數量有:4萬,5.7萬,9.1萬,13.3萬,15.5萬,19.6萬,21.3萬,21.7萬,21.8萬,30萬。

二、從主流的幾個分詞工具包中,提取了詞庫,分別為:

分詞工具 詞庫中詞的數量 最後更新時間
jieba 16.6萬 2015年
IK 27.5萬 2012年
mmseg 15萬 2014年
word 64.2萬 2015年

下一篇文章對比一下這些詞庫的區別