详细内容或原文请订阅后点击阅览
五角大楼使用的人工智能模型容易受到外国影响
专家表示，事实证明，国防部使用的大型语言模型很容易受到外国国家宣传的影响。
来源:美国国防杂志新闻算法战争：五角大楼使用的人工智能模型容易受到外国影响
iStock 插图
专家表示，事实证明，国防部使用的大型语言模型很容易受到外国国家宣传的影响。
五角大楼已将多个人工智能系统（包括 OpenAI 的 ChatGPT、xAI 的 Grok 和 Google 的 Gemini）集成到其定制的人工智能平台 GenAI.mil 中。据国防部发布的消息，截至 2 月，各军种超过 100 万独立用户正在使用该平台。
战略对话研究所高级研究经理 Joseph Bodnar 最近对这三种模型以及中国的 DeepSeek 进行了研究，以了解俄罗斯的影响力操作如何影响不同聊天机器人的输出。
博德纳尔在捍卫民主基金会主办的小组讨论中表示，这四个聊天机器人被问及与乌克兰战争相关的五个主题，以查看是否有“任何可能存在数据空白的特定主题，以及一些数据空白可能较少的主题”。他和他的团队设计了三层问题——中立、有偏见和恶意——然后用五种不同的语言提出这些问题。
博德纳尔发现，五分之一的查询返回了俄罗斯官方媒体的引用。
“这个数字，即引用的百分比，从中性增加到恶意 - 因此，每次……偏见程度增加，我们都会看到更多的俄罗斯宣传，”他补充道。
ChatGPT 表现最差，最容易受到偏见的影响，他说。格罗克还引用了俄罗斯官方媒体以及 X 上许多亲俄罗斯影响者的言论，他说。需要对此进行更多研究，但由于影响者与俄罗斯官方媒体没有直接联系，因此没有对他们进行分类。
博德纳尔说，虽然聊天机器人的输出可能部分是试图填补数据空白的结果，但影响它们无疑是俄罗斯故意的策略。