小组成员:Barry Dropping,Microsemi 产品线管理高级总监 Kevin Coggins,Booz Allen Hamilton 定位、导航和授时副总裁 James Platt,DHS 定位、导航和授时办公室主任
本文全面探讨了针对大型语言模型(LLM)的安全威胁引起的道德挑战。这些复杂的数字存储库越来越多地整合到我们的日常生活中,使其成为攻击的主要目标,这些攻击可以损害其培训数据和数据源的机密性。本文深入研究了对社会和个人隐私的这种安全威胁的细微伦理影响。我们仔细检查了五个主要威胁,包括注射注射,越狱,可识别的信息(PII)暴露,性明确的内容和基于仇恨的内容 - 超出了仅仅标识,以评估其关键的道德后果以及他们为强大的防御策略创造的紧迫性。对LLM的不断依赖强调了确保这些系统在道德准则范围内运作的关键需求,尤其是因为它们的滥用可能导致重大的社会和个人伤害。我们提出了概念化和开发针对LLMS量身定制的评估工具,该工具将达到双重目的:指导开发人员和设计师在测试阶段的LLM Chatbot响应的伦理学维度进行审查。通过将LLM的反应与人类在道德背景下的人类期望的反应进行比较,我们旨在辨别AI行为与更广泛的社会所拥有的道德价值一致的程度。最终,本文不仅强调了LLMS带来的道德问题;它还突出了培养对这些系统的信任的道路。
大型语言模型 (LLM) 的出现彻底改变了用户访问信息的方式,从传统的搜索引擎转向使用 LLM 进行直接问答交互。然而,LLM 的广泛采用也暴露出一个重大挑战,即幻觉,即 LLM 生成的响应连贯但事实不准确。这种幻觉现象导致用户不信任基于 LLM 的信息检索系统。为了应对这一挑战,本文提出了基于幻觉检测的动态检索增强 (DRAD),作为一种检测和缓解 LLM 中幻觉的新方法。DRAD 通过基于实时幻觉检测动态调整检索过程,改进了传统的检索增强。它有两个主要组件:实时幻觉检测 (RHD),用于在没有外部模型的情况下识别潜在幻觉;基于外部知识的自我校正 (SEK),用于使用外部知识纠正这些错误。实验结果表明,DRAD 在检测和缓解 LLM 中的幻觉方面表现出色。我们所有的代码和数据都是开源的,网址为 https://github.com/oneal2000/EntityHallucination。
上表列出了长期内各种投资组合策略的目标和范围。但是,为了应对不断变化的市场条件或其他相关因素,实际配置可能会在建议的范围内变化,并可能倾向于防御性或积极性地向范围的两端倾斜。我们为每个部分设定了一个范围,以便在投资组合因特定机会而失去平衡时提供容量,根据引人注目的机会或基本问题战术性地增加和/或减少某个部分的权重。
该报告还参考了一系列虚拟政策对话,这些对话将政策制定者、私营部门代表和国际组织聚集在一起,分享知识并确定潜在的解决方案和政策行动的优先领域。私营部门代表包括:Booking.com、欧洲旅游协会 (ETOA)、欧洲酒店业协会 (HOTREC)、欧盟旅游技术公司、国际航空运输协会 (IATA)、STR、TUI 集团、世界经济论坛 (WEF)、世界旅行和旅游理事会 (WTTC)。国际组织也参加了这些讨论,包括:国际劳工组织 (ILO)、联合国环境署、联合国教育、科学及文化组织 (UNESCO)、联合国世界旅游组织 (UNWTO)、世界银行和世界贸易组织 (WTO)。
该报告还参考了一系列虚拟政策对话,这些对话将政策制定者、私营部门代表和国际组织聚集在一起,分享知识并确定潜在的解决方案和政策行动的优先领域。私营部门代表包括:Booking.com、欧洲旅游协会 (ETOA)、欧洲酒店业协会 (HOTREC)、欧盟旅游技术公司、国际航空运输协会 (IATA)、STR、TUI 集团、世界经济论坛 (WEF)、世界旅行和旅游理事会 (WTTC)。国际组织也参加了这些讨论,包括:国际劳工组织 (ILO)、联合国环境署、联合国教育、科学及文化组织 (UNESCO)、联合国世界旅游组织 (UNWTO)、世界银行和世界贸易组织 (WTO)。
摘要:云和其他数据伪像经常限制从远程感知的地球观测中检索关键变量。我们训练具有高保真海洋模拟的自然语言处理(NLP)启发的算法,以准确地重建海面温度(SST)领域的掩盖或缺失数据,这是由全球气候观察系统确定的54个基本气候变量之一。我们证明,所谓的模型(称为e nki)反复超过先前采用的钻头技术,最多可以在重建错误中的数量级,同时即使在大多数像素被掩盖的情况下也显示出非凡的性能。此外,对具有至少40%的掩盖百分比的真实红外传感器数据的实验显示出比该传感器的已知不确定性少的重建误差(均方根误差(RMSE)≲0.1K)。我们将E nki的成功归因于NLP的细心性质与现实的SST模型输出相结合,这种方法可以扩展到其他远程感知的变量。这项研究表明,基于E nki或其他类似的先进系统的系统可能会产生最佳解决方案,以减轻气候关键海洋数据集中对迅速变化的地球进行采样的蒙面像素。
•先前发表的联合咨询。•创作机构事件响应参与,包括最近的CISA事件响应参与,网络威胁参与者持续持续,长期访问受害者的环境并损害了域控制器(DC)。参与者在整个入侵过程中使用了Lotl技术。•创作机构红色团队评估,包括联邦民用行政部门(FCEB)网络的CISA Red Team评估,并应网络所有者的要求,非联邦网络的要求。(CISA的红色团队经常使用公开已知的Lotl技术来执行,持久性,横向移动,发现和凭证访问,而网络辩护人很少检测他们的活动。)•与机构间和行业专家的网络安全和事件响应方面的合作努力。