XiaoMi-AI文件搜索系统
World File Search SystemMitigating
降低LLMS中的隐私风险
对手可以提示该模型提取出来的姓名，电子邮件地址，电话号码或其他敏感信息，以实现恶意目的，如图1所示。一般数据保护法规（欧洲议会和欧盟理事会，2016年）赋予个人被遗忘的权利（RTBF），这可能会限制其个人信息的不同和间接商业使用。这种情况导致我们提出问题：我们如何使LLMS能够保护特定个人的私人数据以减轻隐私风险？在LLM的昂贵培训过程中，将所有私人信息从培训数据中移动并从头开始重新训练它不是一个实用的解决方案（Lison等人。，2021; Kandpal等。，2022;刘等。，2024a）。因此，研究人员旨在采用机器学习（MU）作为替代方案，旨在消除不受欢迎的数据和相关模型的影响而无需重新培训的影响（Cao和Yang，2015; Bourtoule et e;，2021; Jang等。，2022; Si等。，2023;张等。，2023a; Maini等。，2024;刘等。，2024a）。为了评估MU甲基的性能，一些研究已经尝试了问题 -
通过有针对性的伽马射线传递和卷积神经网络来缓解化学疗法副作用：迈向精确肿瘤学的一步
化学疗法的系统性会导致广泛影响患者生活质量的广泛副作用。这项研究提出了一个新型框架，将卷积神经网络（CNN）与精确的伽马射线递送系统相结合，以选择性地靶向恶性细胞，从而最大程度地减少对健康组织的附带损害。在12,000个注释的成像数据集上对基于RESNET-50的CNN进行了培训，并与用于实时靶向的机器人辐射系统集成在一起。对合成组织模型的实验验证表明，健康组织损伤降低了92％，报告的副作用降低了78％。统计分析确认模型灵敏度（97.2％），特异性（94.8％）和提高的治疗精度。这项研究为推进个性化肿瘤学并减少化学疗法的身体和情感损失奠定了基础。
'减轻健康风险的生物多样性'Miri Tsalyuk博士（MT
2024年9月16日，Biodivera+政策简介信息表：“生物多样性减轻健康风险” Miri Tsalyuk博士（MT Ecogical Consulting）由瑞典环境保护署（SEPA）代表Biodivera+签订了合同，以制作基于Biodivera+ 2018-2019-2019-2019 Biodivhealth Research call call Call and Call and Biodive+。生物维持健康呼吁“生物多样性及其对动物，人类和植物健康的影响”旨在支持生物多样性和健康问题联系的研究项目。The call was supported by 16 national/regional funding organisations from 11 countries: FWF (Austria), FWO, BELSPO, F.R.S.-FNRS (Belgium), BNSF (Bulgaria), ETAg (Estonia), ANR, GUA-REG (France), DFG, VDI/VDE-IT (Germany), Irish EPA (Irland), RCL （立陶宛），NCN（波兰），Uefiscdi（罗马尼亚），SAS（Lsovakia），SNSF（瑞士）。知识和方法论使用了政策摘要“减轻健康风险的生物多样性”是基于此呼吁资助的十个研究小组中六个的科学结果：生物艾弗里德，Bioroddis，Bioroddis，Bioroddis，Dr.Forest，Dimoc，Dimoc，Attiversa和Pussresseyl。摘要总结了项目的一些关键结果，并提供了与当前欧盟政策流程相关的相关政策建议。摘要是由Miri Tsalyuk生态咨询（MT，以下称）在与SEPA工作组，Biodivera+科学与政策工作组以及各个项目的研究人员协商的协商后起草的。在2023年举行了两个聚类研讨会，以在Biodivhealth研究呼叫的政策摘要中选择主要主题和关键消息，并确定每次摘要中将列出的主要结果。使用的所有来源均在下面列出。参与者包括研究小组的协调教授，MT和Biodivera+的成员。摘要中的研究结果基于研究小组的科学手稿，并与每个手稿的科学家密切合作起草。一般科学文献用于为所提出的结果提供背景和佐证。关键消息和政策建议由召集此摘要的政策咨询小组审查。质量控制和验证是由以下质量控制和验证完成的（研究小组）：Antiversa Christophe Merlin Thomas Berendonk uli Kluemper Biodiv-Afreid-Afreid-Afreid Herwig Leirs Erik Verheyen Joachim Joachim MarietMariënariMariënartinePeeters Martine Peeters bioroddis natalie bioroddis nathalie bioroddis nathalie peter peter peter straul peter straul straul straul straul coc
通过随机分散模型预测控制
摘要 - 连接和自动化的车辆（CAV）网络中的通信延迟显着影响基于连接的优化协调，增加了碰撞风险和降解系统性能。现有方法受到实时计算挑战，过时的数据，可扩展性约束和管理不确定性的困难的限制。本文提出了一种随机分散的模型预测控制（SDMPC）框架，以通过合并一种新颖的随机近似方法来模拟不确定性，以减轻通信延迟的不利影响。我们的方法提供了对安全限制的紧密概率约束，从而确保了准确的训练有素的预测并改善了协调。仿真结果表明，与在各种通信延迟条件下的常规方法相比，所提出的SDMPC框架减少了平均轨迹偏差，并降低了碰撞风险。这些改进使SDMPC成为大型CAV网络的有效解决方案，从而提高了安全性和效率。
通过随机分散模型预测控制
摘要 - 连接和自动化的车辆（CAV）网络中的通信延迟显着影响基于连接的优化协调，增加了碰撞风险和降解系统性能。现有方法受到实时计算挑战，过时的数据，可扩展性约束和管理不确定性的困难的限制。本文提出了一种随机分散的模型预测控制（SDMPC）框架，以通过合并一种新颖的随机近似方法来模拟不确定性，以减轻通信延迟的不利影响。我们的方法提供了对安全限制的紧密概率约束，从而确保了准确的训练有素的预测并改善了协调。仿真结果表明，与在各种通信延迟条件下的常规方法相比，所提出的SDMPC框架减少了平均轨迹偏差，并降低了碰撞风险。这些改进使SDMPC成为大型CAV网络的有效解决方案，从而提高了安全性和效率。
减轻远程医疗智能家庭整合中的网络安全和隐私风险
如何引用此NIST技术系列出版物：Pulivarti R，Littlefield K，Patrick B，Wang S，Williams R（2024）远程医疗智能家庭整合中的网络安全和隐私风险：医疗保健行业风险管理方法。（美国马里兰州盖瑟斯堡国家标准技术研究所），NIST网络安全白皮书（CSWP）NIST CSWP 34 IPD。https://doi.org/10.6028/nist.cswp.34.ipd
图像胜于雄辩：从因果中介的角度来理解和减轻视觉模型中的偏见
在广泛的数据集上预先训练的视觉语言模型（VLMS）可以通过将性别信息与特定对象或场景相关联，无意中地学习偏见。当前方法，该方法着重于修改输入并监视模型的输出概率分数的变化，通常从模型组件的角度来全面地偏见。我们提出了一个框架，该框架结合了因果中介分析，以确保并绘制VLM中偏见产生和传播的途径。我们的框架适用于广泛的视觉语言和多模式任务。在这项工作中，我们将其应用于对象检测任务并将其应用于GLIP模型。这种方法使我们能够确定干预措施对模型偏差的直接影响以及干预措施对通过不同模型组件介导的偏差的间接影响。我们的结果表明，图像效果是偏见的主要因素，其影响明显高于文本特征，特别是占MSCOCO和PASCAL-SONTIC数据集中偏见的32.57％和12.63％。值得注意的是，图像编码器的贡献超过了文本编码器和深层融合编码器的贡献。进一步的实验证实，语言和视力方式的贡献是对齐和不集中的。因此，在图像编码器中着重于模糊的性别表示，这对模型偏见做出了最大的贡献，在MSCOCO和PASCAL-SENTENCE数据集中，有效地降低了偏见22.03％和9.04％，并且具有最小的性能损失或增加的计算需求。1
通过虚拟反事实校准在社会智能理解中缓解LMM的语言偏见
社会情报对于了解复杂的人类表达和社会影响至关重要。虽然大型的多模型模型（LMM）在社会智能问题答案中表现出了显着的表现（SIQA），但由于在预训练阶段中基于文本的数据的独立流行，它们仍然倾向于产生依靠语言先验的回答，并依靠相关上下文。要解释LMM的上述语言偏见，我们采用了一个结构的因果模型，并认为反事实推理可以通过避免LMMS内部常识知识与给定的结论之间的虚假相关性来减轻偏见。但是，构建多模式反事实样本是昂贵且具有挑战性的。为了应对上述挑战，我们提出了一个输出d Istribution c校准网络，该网络具有v irtual c-osunterfactual（dcvc）数据。DCVC设计了一个新颖的外部分配校准网络，以减轻负面语言偏见的影响，同时保留有益的先验。扰动被引入LMMS的输出分布，以模拟从上下文中的分布的分布转移，该分布被用来构建相反的aug augs数据。在多个数据集上进行的实验证明了我们提出的方法的有效性和可实现性。
减轻大型语言模型中的实体级幻觉
大型语言模型 (LLM) 的出现彻底改变了用户访问信息的方式，从传统的搜索引擎转向使用 LLM 进行直接问答交互。然而，LLM 的广泛采用也暴露出一个重大挑战，即幻觉，即 LLM 生成的响应连贯但事实不准确。这种幻觉现象导致用户不信任基于 LLM 的信息检索系统。为了应对这一挑战，本文提出了基于幻觉检测的动态检索增强 (DRAD)，作为一种检测和缓解 LLM 中幻觉的新方法。DRAD 通过基于实时幻觉检测动态调整检索过程，改进了传统的检索增强。它有两个主要组件：实时幻觉检测 (RHD)，用于在没有外部模型的情况下识别潜在幻觉；基于外部知识的自我校正 (SEK)，用于使用外部知识纠正这些错误。实验结果表明，DRAD 在检测和缓解 LLM 中的幻觉方面表现出色。我们所有的代码和数据都是开源的，网址为 https://github.com/oneal2000/EntityHallucination。
使用萘普生的透皮凝胶制备和评估
在日益数字的金融环境中，金融机构面临着越来越多的网络安全威胁，危及敏感的客户数据和运营完整性。本文研究了人工智能（AI）和数据分析在减轻金融机构内的网络安全风险中的关键作用。通过利用高级算法和机器学习技术，银行可以增强其实时检测和应对网络威胁的能力。该研究始于财务部门普遍的网络安全挑战的概述，例如网络钓鱼攻击，勒索软件和内部威胁。然后，它探讨了AI驱动的系统如何主动识别漏洞，监视网络流量并分析用户行为以检测可能表示安全漏洞的异常。本文还强调了金融机构的案例研究，这些机构已成功实施了AI解决方案来加强其网络安全姿势。此外，它讨论了围绕AI在网络安全部署的道德含义和监管考虑因素。这些发现强调了多层安全方法的重要性，该方法将人类专业知识与AI驱动的见解相结合，从而为不断发展的网络威胁创造了弹性的防御。本研究旨在为寻求通过AI和数据分析的战略应用来增强其网络安全框架的金融机构提供可行的建议。