超越巨型模型:为什么人工智能编排是新架构

人工智能编排将专门的模型和工具协调成大于各个部分之和的系统。

来源:KDnuggets

简介

在过去的两年里,人工智能行业一直在竞相构建越来越大的语言模型。 GPT-4、Claude、Gemini:每个人都承诺成为每个人工智能问题的单一解决方案。但是,当公司竞相创造最大的大脑时,生产环境正在悄然发生一场革命。开发人员不再问“哪种模型最好?”并开始问“如何让多个模型协同工作?”

这一转变标志着人工智能编排的兴起,它正在改变我们构建智能应用程序的方式。

#为什么一个人工智能无法统治所有人

单一、全能的人工智能模型的梦想很有吸引力。一次 API 调用,一次响应,一张账单。但事实证明,现实更为复杂。

考虑一个客户服务应用程序。您需要情感分析来衡量客户情绪,需要知识检索来查找相关信息,需要生成响应来制作回复,还需要进行质量检查来确保准确性。虽然 GPT-4 在技术上可以处理所有这些任务,但每项任务都需要不同的优化。经过训练以擅长情感分析的模型与针对文本生成优化的模型进行了不同的架构权衡。

突破不在于建立一个模型来统治所有这些。这是协调多个专家。

这反映了我们之前在软件架构中看到的模式。微服务取代了整体应用程序,并不是因为任何单个微服务都更优越,而是因为事实证明,协调的专业服务更具可维护性、可扩展性和有效性。人工智能正在迎来微服务时代。

#三层堆栈

理解现代人工智能应用需要分层思考。生产部署中出现的架构看起来非常一致。

//模型层

//工具层

//编排层

模型是音乐家,工具是乐器,编排是告诉每个人何时演奏的乐谱。

#编排框架:理解模式

//链模式(顺序逻辑)