生成式人工智能的最新进展,通常称为语言模型 (LM) 或大型语言模型 (LLM),归功于非常适合关联语言的新模型。重要的是,LM 和 LLM 并不局限于人类语言的处理和生成。在机器学习术语中,语言可以指在上下文(语法、单词之间的关系)内可以传达含义的任何符号(例如单词)。在语言中,单词会创建序列,含义不仅依赖于单词选择,还依赖于这些单词之间的关系。为了有效地捕捉这些关系,LLM 适用于处理序列和维护足够的内存,并且旨在处理大型数据集。LLM 可以执行各种自然语言处理任务,包括文本生成、语言翻译、文本摘要、问答等。