THULAC：一个高效的中文词法分析工具包

##目录

项目介绍
编译和安装
使用方式
各类分词的性能对比
词性解释
THULAC模型介绍
注意事项
其他语言实现
历史
开源协议
相关论文
作者

##项目介绍

THULAC（THU Lexical Analyzer for Chinese）由清华大学自然语言处理与社会人文计算实验室研制推出的一套中文词法分析工具包，具有中文分词和词性标注功能。THULAC具有如下几个特点：

能力强。利用我们集成的目前世界上规模最大的人工分词和词性标注中文语料库（约含5800万字）训练而成，模型标注能力强大。
准确率高。该工具包在标准数据集Chinese Treebank（CTB5）上分词的F1值可达97.3％，词性标注的F1值可达到92.9％，与该数据集上最好方法效果相当。
速度较快。同时进行分词和词性标注速度为300KB/s，每秒可处理约15万字。只进行分词速度可达到1.3MB/s。

##编译和安装

python版

  将thulac放到目录下，通过 import thulac 来引用

##使用方式 ###1.分词和词性标注程序 ####1.1.命令格式

python版

通过python程序import thulac，新建thulac(args)类，其中args为程序的参数。之后可以通过调用thulac.run()运行分词和词性标注程序；也可以通过调用thulac.cut()进行单句分词。

代码示例

  import thulac
  
  thu1 = thulac.thulac("-seg_only")  #设置模式为行分词模式
  thu1.run() #根据参数运行分词程序，从屏幕输入输出
  print " ".join(thu1.cut("我爱北京***")) #进行一句话分词
  #	==============================================
  thu2 = thulac.thulac("-input cs.txt") #设置模式为分词和词性标注模式
  thu2.run() #根据参数运行分词和词性标注程序，从cs.txt文件中读入，屏幕输出结果
  print " ".join(thu2.cut("我爱北京***")) #进行一句话分词和词性标注

####1.2.通用参数 -t2s 将句子从繁体转化为简体 -seg_only 只进行分词，不进行词性标注 -deli delimeter 设置词与词性间的分隔符，默认为下划线_ -filter 使用过滤器去除一些没有意义的词语，例如“可以”。 -user userword.txt 设置用户词典，用户词典中的词会被打上uw标签。词典中每一个词一行，UTF8编码(python版暂无) -model_dir dir 设置模型文件所在文件夹，默认为models/

####1.3.python版特有的参数

-input input_file	设置从文件读入，默认为命令行输入
-output output_file	设置输出到文件中，默认为命令行输出

###2.模型训练程序模型训练程序train_c是THULAC分词模型的训练程序，用户可以使用train_c训练获得THULAC的分词模型。目前只有C++版本。

####2.1.命令格式

	./train_c [-s separator] [-b bigram_threshold] [-i iteration] training_filename model_filename   
	使用training_filename为训练集，训练出来的模型名字为model_filename

####2.2.参数意义

	-s 				设置词与词性间的分隔符，默认为斜线/
	-b				设置二字串的阀值，默认为1
	-i				设置训练迭代的轮数，默认为15

####2.3.训练集格式我们使用默认的分隔符（斜线/）作为例子，训练集内容应为

	我/r 爱/vm 北京/ns ***/ns

类似的已经进行词性标注的句子。

若要训练出只分词的模型，使用默认的分隔符（斜线/）作为例子，训练集内容应为

	我/ 爱/ 北京/ ***/

类似的句子。

####2.4.使用训练出的模型将训练出来的模型覆盖原来models中的对应模型，之后执行分词程序即可使用训练出来的模型。

###3.获取模型获取已经训练好的THULAC模型，请登录thulac.thunlp.org网站填写个人信息进行下载。

##代表分词软件的性能对比我们选择LTP、ICTCLAS、结巴分词等国内代表分词软件与THULAC做性能比较。我们选择Windows作为测试环境，根据第二届国际汉语分词测评发布的国际中文分词测评标准，对不同软件进行了速度和准确率测试。

在第二届国际汉语分词测评中，共有四家单位提供的测试语料（Academia Sinica、 City University 、Peking University 、Microsoft Research）, 在评测提供的资源icwb2-data中包含了来自这四家单位的训练集（training）、测试集（testing）, 以及根据各自分词标准而提供的相应测试集的标准答案（icwb2-data/scripts/gold）．在icwb2-data/scripts目录下含有对分词进行自动评分的perl脚本score。

我们在统一测试环境下，对若干流行分词软件和THULAC进行了测试，使用的模型为各分词软件自带模型。THULAC使用的是随软件提供的简单模型Model_1。评测环境为 Intel Core i5 2.4 GHz 评测结果如下：

msr_test（560KB）

Algorithm	Time	Precision	Recall
LTP-3.2.0	3.21s	0.867	0.896
ICTCLAS(2015版)	0.55s	0.869	0.914
jieba	0.26s	0.814	0.809
THULAC	0.62s	0.877	0.899

pku_test（510KB）

Algorithm	Time	Precision	Recall
LTP-3.2.0	3.83s	0.960	0.947
ICTCLAS(2015版)	0.53s	0.939	0.944
jieba	0.23s	0.850	0.784
THULAC	0.51s	0.944	0.908

除了以上在标准测试集上的评测，我们也对各个分词工具在大数据上的速度进行了评测，结果如下：

CNKI_journal.txt（51 MB）

Algorithm	Time	Speed
LTP-3.2.0	348.624s	149.80KB/s
ICTCLAS(2015版)	106.461s	490.59KB/s
jieba	22.5583s	2314.89KB/s
THULAC	42.625s	1221.05KB/s

##词性解释 a/形容词 c/连词 d/副词 e/语气词 f/方位词 g/助词 h/前接成分 id/习语 j/简称 k/后接成分 l/处所词 m/数词 mq/数量词 n/名词 ni/机构名 np/人名 ns/地名 nz/其它专名 o/拟声词 p/介词 q/量词 r/代词 t/时间词 u/助词 v/动词 w/标点 x/其它

##THULAC模型介绍

我们随THULAC源代码附带了简单的分词模型Model_1，仅支持分词功能。该模型由人民日报分词语料库训练得到。
我们随THULAC源代码附带了分词和词性标注联合模型Model_2，支持同时分词和词性标注功能。该模型由人民日报分词和词性标注语料库训练得到。
我们还提供更复杂、完善和精确的分词和词性标注联合模型Model_3和分词词表。该模型是由多语料联合训练训练得到（语料包括来自多文体的标注文本和人民日报标注文本等）。由于模型较大，如有机构或个人需要，请填写“doc/资源申请表.doc”，并发送至 thunlp@gmail.com ，通过审核后我们会将相关资源发送给联系人。

##注意事项

该工具目前仅处理UTF8编码中文文本，之后会逐渐增加支持其他编码的功能，敬请期待。

##其他语言实现

###THULAC（C++版） https://github.com/thunlp/THULAC

###THULAC（Java版） https://github.com/thunlp/THULAC-Java

##历史

##开源协议

THULAC面向国内外大学、研究所、企业以及个人用于研究目的免费开放源代码。
如有机构或个人拟将THULAC用于商业目的，请发邮件至thunlp@gmail.com洽谈技术许可协议。
欢迎对该工具包提出任何宝贵意见和建议。请发邮件至thunlp@gmail.com。
如果您在THULAC基础上发表论文或取得科研成果，请您在发表论文和申报成果时声明“使用了清华大学THULAC”，并按如下格式引用：
- 中文：孙茂松, 陈新雄, 张开旭, 郭志芃, 刘知远. THULAC：一个高效的中文词法分析工具包. 2016.
- 英文： Maosong Sun, Xinxiong Chen, Kaixu Zhang, Zhipeng Guo, Zhiyuan Liu. THULAC: An Efficient Lexical Analyzer for Chinese. 2016.

##相关论文

Zhongguo Li, Maosong Sun. Punctuation as Implicit Annotations for Chinese Word Segmentation. Computational Linguistics, vol. 35, no. 4, pp. 505-512, 2009.

##作者

Maosong Sun （孙茂松，导师）, Xinxiong Chen（陈新雄，博士生）, Kaixu Zhang (张开旭，硕士生）, Zhipeng Guo（郭志芃，本科生）, Zhiyuan Liu（刘知远，助理教授）.

jfhrecoba/THULAC-Python

THULAC：一个高效的中文词法分析工具包