以 AI 方式处理认知失调

以 AI 方式处理认知失调

以 AI 方式处理认知失调

语言模型如何处理提示中的冲突指令？

如果系统消息、提示和示例中的指令相互矛盾，LLM 将在响应中遵循哪些指令？作者创建。

交叉发布于 Art Fish Intelligence。

交叉发布于 Art Fish Intelligence Art Fish Intelligence 。

语言模型如何处理提示中的冲突指令？

认知失调是一个心理学术语，描述了持有两个或多个相互矛盾的信念的人所经历的心理不适。例如，如果你在杂货店，看到收银台的商品数量为“10 件或更少”，但队列中的每个人都有 10 件或更多商品，你该怎么办？

认知失调

在 AI 的背景下，我想知道大型语言模型 (LLM) 如何处理以矛盾指令形式出现的认知失调（例如，提示 LLM 将英语翻译成韩语，但给出英语到法语翻译的示例）。

在本文中，我通过向 LLM 提供矛盾的信息来进行实验，以确定 LLM 更有可能与哪些矛盾信息保持一致。

系统消息、提示说明和少量示例

作为用户，您可以通过以下三种方式之一告诉 LLM 要做什么：

在系统消息中直接描述任务

在系统消息中直接描述任务