中文分词算法:
基于词典
优点:简单、意实现
缺点:慢、歧义切分问题、不同词典对结果的印象较大、缺乏自学习的智能性
包含:
正向最大匹配(MM,Maximum matching)
邻近算法
逆向最大匹配(RMM)
双向最大匹配
最短路径匹配
基于统计
包含:
N-gram模型
隐马尔科夫模型(HMM,Hidden Markov Model)
基于规则
包含:
扩充转移网络法
矩阵约束法
基于字标注
基于人工智能技术(基于理解)
包含:
神经网络分词算法
专家系统分词算法
神经网络专家系统集成算法