生成的AI和大型语言模型正在通过提高开发人员和知识工作者的生产力来改变行业实践。该项目旨在为我们的赞助商类别管理团队开发一个基于生成AI的聊天机器人。聊天机器人将公司数据与自然语言一起使用,以提供特定领域的见解,例如定价,供应商支出,风险评估和材料清单分析。这种集成减少了对Excel等传统工具的依赖,简化了谈判和民主化数据访问,从而减少了新员工的学习曲线。我们的方法涉及与Langchain的Text-2-SQL代理的检索 - 演示代代理,并与Langchain的Kuzuqachain代理并行在图形知识数据库上。这些代理基于查询生成SQL或密码代码,以检索和提供自然语言的准确信息。通过针对各种提示进行精确测试评估了模型的有效性。使用指令调整和及时的工程,聊天机器人返回了所选用例的准确且上下文相关的响应,但没有幻觉,但是在复杂的查询中进行了令牌处理,经历了限制。我们建议将聊天机器人嵌入现有的仪表板中,从针对技术熟练的新经理的飞行员开始,以完善数据检索过程,并计划后续扩展以涵盖其他用例。
主要关键词