鹦鹉：具有语义变量的基于LLM的应用程序的有效服务__

鹦鹉：具有语义变量的基于LLM的应用程序的有效服务

可下载资源数量

已经购买

下载数量：1

单价	0 1.0
Coupon	100% 0%
Total	0 1.0

点击下载点击购买并下载

点击购买，资源将自动在新窗口打开.

机构名称：

鹦鹉：具有语义变量的基于LLM的应用程序的有效服务

¥ 1.0

热度

本文介绍了Parrot，这是一种LLM服务系统，侧重于基于LLM的应用程序的端到端体验。Parrot提出了语义变量，这是将应用程序级知识暴露于公共LLM服务的统一的抽象。语义变量注释请求提示符中的输入/输出变量，并在连接多个LLM请求时创建数据管道，从而提供了一种编程LLM应用程序的NATU-ralal方法。将语义变量暴露于公共LLM服务允许其执行惯例数据流分析，以发现多个LLM请求之间的相关性。这种相关性为基于LLM的应用程序的端到端性能打开了一个全新的优化空间。广泛的评估表明，鹦鹉可以为流行的LLM应用程序的流行和实际用例实现高度改进。

添加pdf代下载 VIP点击下载文件