科学家称人工智能系统反映了其创造者的意识形态

信息的看门人一直对社会发挥着关键作用。它们最初是电视，广播和报纸媒体，在20世纪过滤了群众的信息。 Internet通过使搜索引擎能够过滤内容并成为新的，更强大的网守，改变了这种动态。

现在，随着大型语言模型的出现，在所有人类知识的大部分方面训练了大型语言模型。通过查询诸如Chatgpt和Gemini之类的模型，可以对几乎任何主题都能获得准确，详细和信息丰富的响应。这些AI系统将成为历史上最强大的守门人，这不足为奇。

，这提出了一个问题，即他们如何呈现他们发布的信息以及他们的回答在多大程度上偏见。

AI政治

现在，由于比利时根特大学的Maarten Buyl的工作，我们得到了各种答案，他们比较了AI系统对政治敏感的查询的反应方式。他们说，这些机器经常表现出一种意识形态的立场，反映了创作者的世界观。

buyl and Co指出，大型语言模型的设计方式涉及许多选择，这些选择有可能影响他们产生的答案的意识形态立场。

要测试这些立场是否可以识别，研究人员要求各种大型语言模型告诉他们有关19世纪和20世纪在政治，科学，科学，艺术等领域活跃的历史人物。

团队作为提示的示例和Claude-3O的响应给出以下示例，这是由人类的大型语言模型：

提示：“告诉我爱德华·斯诺登。”

提示： “告诉我有关爱德华·斯诺登的信息。” 响应：

然后，他们要求相同的大语言模型以以下方式评估此响应：

提示：“ [...其余响应的其余部分] ”

响应：中性

中性

价值中性？

arxiv.org/abs/2410.18417