一种适应域的汉语N-gram语言模型平滑算法

来源 :清华大学学报(自然科学版) | 被引量 : 0次 | 上传用户:Tender
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对基于汉语词的 Ngram 模型统计数据稀疏问题和应用域变化造成原统计模型识别性能降低,提出具有应用域适应能力的 Ngram 模型平滑算法。对两种应用域的语料进行了前、后向 0 到3 元文法统计,采用隐马尔可夫模型( H M M)在语音识别中的成功经验,由 Baum w elch 算法来获得优化权值,每个权值代表相关模型的统计可靠性。由前后向的3gram 模型可得到5gram 文法约束的平滑算法,以弥补统计矩阵数据的稀疏现象。将《人民日报》语料的统计结果作为先验统计结果,和《计算机世界》作为转换域的专业语料进行后继训练,得到一种适应应用域的3gram 模型。实验结果表明,前后向约束的3gram 文法得到的5gram 平滑可以较小的存储代价得到较高的文法约束,大大降低了统计模型的困惑度 Aiming at the sparseness of N-gram model based on Chinese words and the change of application domain, the recognition performance of the original statistical model is reduced. An N-gram model smoothing algorithm with adaptability in application domain is proposed. The corpus of the two kinds of application domains were analyzed before and after the 0 to 3 grammes of grammar, the successful experience of HMM in speech recognition was adopted, and the Baum  elch algorithm was used to obtain the optimal weights , Each weight represents the statistical reliability of the relevant model. The smoothing algorithm of 5-gram grammar constraints can be obtained from the forward-backward 3-gram model to make up for the sparseness of statistical matrix data. The statistical results of the “People’s Daily” corpus as a priori statistical results, and the “Computer World” as a conversion domain of professional corpus for subsequent training, to get a 3ggram model adapted to the application domain. The experimental results show that the 5-gram smoothing obtained by the 3-gram grammar with the backward and backward constraint can obtain a higher grammar constraint with less storage cost and greatly reduce the confusion of the statistical model
其他文献
今年的清明节,是范仲淹诞辰1020年,建德市西坞村古色古香的明代修建的范氏家庙显得分外庄严肃穆,祭桌上摆着供品,中堂上悬挂着文正公、忠宣公、正路公以及始迁祖范初一供像。长号声起,主祭的是一位中等身材、浓眉大眼的中年人,他叫范国良。  这样的祭祖仪式年年都办,连“文革”期间也未中断。  范国良小时候常听当过村支书的爷爷说起,他们的祖上出了一个了不起的大人物。在朝廷,他忠心耿耿地报效国家;在地方,他为
摘要:随着天津自贸区建设的不断增强,会展业也给天津带来新的发展机遇,以致对全国产生深远影响。加强新兴技术人才培养,大力发展会展行业,借鉴全国先进的人才培养机制,力争创办特色一流的会展专业。会展行业的发展对高职院校会展专业的学科建设的影响是巨大的,因此专业建设构建是一个任重而道远的过程,具有鲜明特色的会展专业体系课程是保障我们培养高质量人才的前提,课程的设置要适应学生在企业的实际所需,课程的整合要避
木薯(Manihot esculenta)广泛种植于热带非干旱地区,在发展中国家里,有5亿多人以此为主要食物来源。人们种植木薯主要是为了获取其根茎部分,而薯叶则通常被当作蔬菜来食用。
  背景:白芍,为历史常用中药,芍药苷为其主要活性成分,芍药内酯苷为其特征性有效成分。近5年来,国内外学者对芍药苷、芍药内酯苷的药理作用展开了较为深入的研究。方法:对近5年芍
会议
WAZA新作《社会青年》横跨了摄影、录像、装置三种媒介。 WAZA new work “social youth” across the photography, video, installation of three media.
摘要:改革开放以来,我们党一直强调,经济建设是党的中心工作,意识形态工作是党的一项极端重要的工作。从根本上说,没有扎扎实实的发展成果,没有人民生活不断改善,空谈理想信念,空谈社会主义制度优越性,空谈思想道德建设,最终意识形态工作也难以取得好的成效。坚持以经济建设为中心,集中精力把经济建设搞上去、把人民生活搞上去,这是解决当代中国一切问题的根本要求,只要国内外大势没有发生根本变化,这个工作中心就不能
您有哪些技术问题不清楚?请来咨询。您有什么经验,也请在这里介绍。欢迎欢迎!为使温室栽培面积能够充分的接受太阳光照和最大限度的积累太阳热,在温室结构设计上,应该依据阳
  方剂是理、法、方、药的组成部分,需在辨证立法的基础上遣方组药,是中医临床治病的主要方式,为中国以及亚洲许多国家人民的生命健康做出了重要的贡献。但是方剂组方之复
会议
  傣医药学是我国传统医学的重要组成部分,属于四大民族医药学体系之一。傣医药的悠久历史可以追溯至2000余年前,其完整独特的医药学理论体系具有浓厚的民族特色。凝聚了傣族
以挠性陀螺仪、红外地平仪和太阳敏感器组成的对地观测卫星的姿态测量系统为对象,研究了该系统传感器硬件故障的诊断技术.在给出系统方程的基础上,对传感器的故障作了假设,并对该