基于增量学习的文本校对研究 |
| |
作者姓名: | 李建义 白雪丽 王洪俊 |
| |
作者单位: | 1. 北华航天工业学院计算机学院;2. 拓尔思信息技术股份有限公司 |
| |
基金项目: | 河北省自然科学基金项目(F2019409056); |
| |
摘 要: | 基于深度学习的文本校对是近年的研究热点,而在当下这个大数据时代的背景下,新的数据和知识源源不断的涌现,模型需要不断的更新以适应最新的数据分布。本文引入增量学习的方法,在已有模型的基础上,使用最新的数据进行增量训练,并采用基于回放机制的增量学习方法针对增量训练过程中遇到的灾难性遗忘问题进行研究。实验结果表明,本文提出的增量学习方案可以稳步提升模型性能。
|
关 键 词: | 深度学习 文本校对 增量学习 灾难遗忘 回放机制 |
|
|