详细内容或原文请订阅后点击阅览
Google 的新 AI 模型生成整个文本，而不是逐字生成
DiffusionGemma 将整个段落创建为“噪声”，并依次产生所需的外观，其工作方式与图像生成系统类似。
来源:OSP网站大数据新闻即使是最强大的大型语言模型也是通过选择当前单词之后最有可能的单词来工作的。这非常适合基于云的分布式基础设施，但当在单个 GPU 上本地执行时，其资源可能效率低下。对此，使用“扩散”方法的全文合成领域的研究已经进行了一段时间，类似于图像：AI生成器产生随机噪声，然后绕过“揭示”所需的图片。
直到最近，文本扩散的实验并没有带来令人满意的结果，但最近 Google 推出了根据该方案工作的 DiffusionGemma 模型，并宣布在强大的 GPU 上本地执行时，与传统的 LLM 相比，其推理速度提高了四倍。作为示例，Google 引用了具有 18 GB 视频内存的 Nvidia RTX 5090。
在 DiffusionGemma 具有优势的主要应用中，谷歌列举了几乎实时的代码生成、编辑现成的文本和代码、创建非线性文本结构等。该公司强调，该模型针对 Nvidia 的消费级 GPU 以及基于 Hopper 和 Blackwell 架构的企业级系统进行了优化。