本文旨在通过研究两个最先进的生成模型(扩散模型和变压器)的适应来弥合这一差距,以在哈萨克州进行文本生成。扩散模型(例如denoising扩散概率模型)在英语的高质量和多样化的文本生成中显示出令人鼓舞的结果[2]。这项研究为哈萨克语和土耳其语的自然语言处理领域做出了宝贵的贡献,为确定语法类别提供了工具。它的优势在于使用机器学习算法和广泛的数据集,这些算法与语言处理的复杂性以及算法适用性的潜在局限性相平衡[3]。同样,在下游任务上进行了微调的经过验证的变压器在各种NLP基准测试中占主导地位[4]。尽管在释义数据集上进行了一些工作[5]。该研究重点介绍了基于样本的机器翻译的基本方面:确定句子之间的相似程度。这涉及将输入句子与数据库中的相应示例对齐,选择该句子的片段,然后对其进行调整或释义以产生预期的翻译[6]。所审查的文章介绍了搜索系统中信息检索技术的新的语言和算法解决方案的开发,考虑到语法和语义的元素,包括turkic文本[7]。该文档提供了总结哈萨克文文本的方法的详细描述[8],这些研究并不能解决我们解决的问题。此外,还有一些努力在哈萨克语[9]中定义语义上的单词[9],以及使用生成的预先训练的预先训练的变压器对哈萨克语文本生成的一些初步工作,THR研究涉及对哈萨克语的文本生成模型的经验评估,其特征在于其有限的资源和复杂的形态[10]。研究研究了哈萨克语的语法特征[11]。然而,这些作品都没有全面解决哈萨克(Hazakh)的文本发电挑战,这是一种低资源,形态上丰富的突厥语。
主要关键词