Flan

使用大语言模型的生成AI项目生命周期的案例研究

大型语言模型代表了一种破坏性的技术，该技术旨在彻底改变人工智能的发展。虽然许多文献综述和调查文章讨论了它们的好处，并解决了安全和合规性问题，但仍缺乏研究生成AI系统的实施生命周期的研究。本文通过介绍生成AI生命周期的各个阶段，详细介绍旨在解决潜在学生查询的聊天机器人的开发来解决这一差距。利用Google Flan LLM和提问管道，我们处理了用户提示。此外，我们还编辑了一个包含教育程序域知识的输入文件，该文件已预处理并使用HuggingFace库将其凝结到向量嵌入中。此外，我们设计了一个聊天界面，用于使用简化的用户交互。聊天机器人产生的响应既是描述性的，又与提示相关，其质量提高了，以响应更详细的提示。但是，考虑到CPU的处理能力限制，一个重要的约束是输入文件的尺寸限制。