“不信任和核实”:海军陆战队在新的指导和特遣部队下谨慎地接受生成式人工智能

12 月发布的美国海军陆战队“生成人工智能指南”对聊天机器人持谨慎乐观的态度,并指示指挥部成立工作组来评估可能有用的 GenAI。

来源:美国防务快讯网

华盛顿 - 随着美国军事行动采用生成的AI,海军陆战队已经发布了有关如何安全实施新技术的行进命令,包括一项计划在主要司令部站立吉奈特遣队的计划。

采用生成ai

于12月4日正式发行,指令NAVMC 5239.1旨在将AI Hype Squad和Doomsayers之间的差异分开。在谨慎的一面,它提醒海军陆战队,Genai模型可能会“幻觉”(“化妆”的艺术术语,并要求“系统用户应该不信任并在使用前验证所有输出。”然而,在乐观的一面,政策敦促领导人让海军陆战队试试这项技术:“不鼓励命令禁止使用Genai能力。”

NAVMC 5239.1 幻觉

“相反,”政策继续说:“命令应开发全面的治理流程,以周到地平衡Genai工具和能力的好处和潜在风险,确保其使用支持更广泛的组织目标,同时保持运营安全和正直。”

相关:AIS@P:陆军的目标是尽快获得AI的AI

ais@p:陆军的目标是尽快获得英特尔,干扰器和传感器的AI

具体来说,新政策为指挥官提供了2025年如何安全,负责任地使用Genai的新待办事项清单。备忘录的四页精美打印中的一些亮点:

  • “命令负责识别其Genai开发人员,系统所有者和系统用户,以减轻在工作流程中采用Genai工具时的剩余风险。”换句话说,知道谁在使用AI,并知道他们真正使用的AI。尽管该指南并未具体提及,但Chatgpt点燃的炒作周期中,许多中间人公司都提供了Genai功能,这些功能只是将用户的查询发送到诸如OpenAI和重新包装答案之类的公开发动机,并具有重大的安全风险。
  • 明显的安全风险 负责的AI工具包