XiaoMi-AI文件搜索系统
World File Search System模型权重
使用（不是）大语模型在正式DSL中生成模拟模型 - 反应网络的研究
形式语言是建模和仿真的组成部分。他们允许将知识蒸馏成简明的模拟模型，可自动执行，解释和分析。但是，可以说最容易获得模型的方法是通过自然语言，这是计算机不容易解释的。在这里，我们评估了如何将大型语言模型（LLM）用于将自然语言形式化为模拟模型。现有研究仅使用非常大的LLM（例如商业GPT模型）进行探索，而无需微调模型权重。要缩小这一差距，我们展示了如何对开放量，7B参数Mistral模型进行微调，以将自然语言描述转化为特定于域语言的反应网络模型，从而提供自我托管，计算和内存有效的替代方案。为此，我们开发了一个合成数据代理，以作为微调和评估的基础。我们的量词评估表明，我们的微调Mistral模型可以恢复高达84的地面真相模拟模型。5％的案件。此外，我们的小规模用户研究展示了该模型在各个领域的一次性生成以及交互式建模的实际潜力。虽然有前途，但以当前形式，微型的小LLM无法赶上大型LLM。我们得出的结论是，需要更高质量的培训数据，并期望将来的小型和开源的LLM提供新的机会。
对大型语言模型中最近的后门攻击和防御的调查
大型语言模型（LLMS）弥合了人类语言理解与复杂问题解决问题之间的差距，在几个NLP任务上实现了最先进的性能，尤其是在几次射击和零照片的设置中。尽管LLMS具有明显的功效，但由于对计算资源的限制，用户必须使用开源语言模型或将整个培训过程外包给第三方平台。但是，研究表明，语言模型容易受到潜在的安全漏洞的影响，尤其是在后门攻击中。后门攻击旨在通过中毒训练样本或模型权重，将目标漏洞引入语言模型中，从而使攻击者能够通过恶意触发器来操纵模型响应。尽管对后门攻击的现有调查提供了全面的概述，但他们缺乏对专门针对LLM的后门攻击的深入检查。为了弥合这一差距并掌握该领域的最新趋势，本文通过专注于微调方法，介绍了对LLM的后门攻击的新观点。具体来说，我们将后门攻击系统地分类为三类：全参数微调，参数效率微调和没有微调1。基于大量审查的见解，我们还讨论了未来关于后门攻击的研究的关键问题，例如进一步探索不需要微调或开发更多秘密攻击算法的攻击算法。
大象诱导多能干细胞的推导 parasurf大象诱导多能干细胞的推导parasurf
动机：识别抗体结合位点，对于开发疫苗和治疗性抗体至关重要，这些抗体是耗时且昂贵的过程。准确地预测了伞形结合位点，可以通过提高我们对抗体 - 抗原相互作用的理解来加快发展的速度。结果：我们提出了Parasurf，这是一个深度学习模型，可通过纳入表面几何和非几何因素来显着增强副群预测。对三种突出的抗体 - 抗原基准测试和测试，帕苏尔夫几乎在几乎所有指标中都取得了最先进的结果。与仅限于可变区域的模型不同，Parasurf证明了能够准确预测抗体整个FAB区域的结合得分的能力。此外，我们使用所采用的三个数据集中最大的分析进行了广泛的分析，重点介绍了三个关键组成部分：（1）对每个互补性确定区域环路的Paratope预测的详细评估，（2）模型的性能在重链上独家培训，以及（3）重型训练模型的结果，而无需将重型链置于重型链中。可用性和实现：Parasurf的源代码，以及所使用的数据集，预处理管道和经过训练的模型权重，可在https://github.com/aggelos-michael-michael-papadopoulos/parasurf上免费获得。联系人：angepapa@iti.gr，axenop@iti.gr补充信息：补充数据可从BioInformatics Online获得。
加速人工智能：联合学习如何保护隐私、促进协作和改善结果
摘要 跨机构合作受到数据共享挑战的限制。这些挑战阻碍了创新，特别是在人工智能领域，模型需要多样化的数据来确保强大的性能。联邦学习 (FL) 解决了数据共享挑战。在典型的协作中，数据被发送到中央存储库，在那里训练模型。使用 FL，模型被发送到参与站点，在本地进行训练，并聚合模型权重以创建具有改进性能的主模型。在 2021 年北美放射学会 (RSNA) 会议上，进行了一个名为“加速人工智能：联邦学习如何保护隐私、促进协作和改善结果”的小组讨论。“两个小组分享了见解：来自 EXAM 研究 (EMC CXR AI 模型) 的研究人员和美国国家癌症研究所早期检测研究网络 (EDRN) 胰腺癌工作组的成员。EXAM 汇集了 20 家机构，创建了一个模型来预测急诊科出现 COVID-19 症状的患者的氧气需求。EDRN 合作的重点是通过早期检测改善胰腺癌患者的预后。本文介绍了小组的主要见解，包括直接引用。小组成员描述了 FL 的动力、FL 的长期潜在愿景、FL 面临的挑战以及 FL 的直接前进道路。
基于 CatBoost 的微调言语障碍检测模型
言语障碍 (SD) 的分类对于治疗患有言语障碍 (SI) 的儿童至关重要。自动 SD 分类可以帮助言语治疗师为农村地区的 SI 儿童提供服务。检测 SD 的自动化技术可以客观评估语音属性，包括发音、流利度和韵律。临床检查和定量评估可以深入了解患者的说话能力和局限性。现有的用于 SD 检测的深度学习 (DL) 模型通常缺乏对不同人群和语音变化的泛化，导致在应用于具有不同语言背景或方言的个体时性能不佳。本研究介绍了一种基于 DL 的模型，用于使用语音样本对正常和异常语音进行分类。为了克服过度拟合和偏差，作者构建了具有 MobileNet V3 和 EfficientNet B7 模型权重的卷积神经网络模型，用于特征提取 (FE)。为了提高性能，他们将挤压和激励块与基于 MobileNet V3 的 FE 模型集成在一起。同样，使用结构修剪技术改进了基于 EfficientNet B7-mod el 的 FE。增强型 CatBoost 模型使用提取的特征区分正常和异常语音。实验分析使用包含 4620 个健康儿童话语和 2178 个 SI 儿童话语的公共数据集进行。比较研究揭示了所提出的 SD 分类模型的卓越性能。该模型的表现优于当前的 SD 分类模型。它可以用于临床环境以支持语言治疗师。使用多样化语音样本进行大量训练可以提高所提模型的通用性。
使用联邦学习的糖尿病预测
摘要：联合学习是一种在医学领域中用于解决集中化，隐私和机密性等问题的创新方法。它收集了来自几个本地模型的多种数据，并在仅共享结果而不是数据的全球模型中汇总了它。它是一种协作模型培训方法，可实现最佳性能。我们为糖尿病患者预测建立了框架工作，该框架由人工神经网络（ANN），经常性神经网络（RNN）和长期短期内存（LSTM）网络组成。这些模型对分布在多家医院的本地数据进行独立培训，以确保隐私和数据安全。为了改善数据集和地址类不平衡，使用了探索数据分析（EDA）技术和合成少数民族过度采样技术（SMOTE）。EDA有助于理解数据的基本模式和特征，而Smote会生成合成数据点以平衡类。和在全球模型中，我们汇总了所有本地模型权重，并根据其预测精度检查现有本地模型之间的最佳模型。在我们的框架工作中，ANN的精度为89％。因此，考虑这些值进行预测。在训练不同的模型后，我们通过RNN获得了89.00％的精度，ANN的精度为89.99％，精度为89.08％。使用LSTM模型。因此，我们继续使用ANN模型来预测糖尿病。成功提交所有权重后，我们通过全球模型中的最佳性能策略获得了这些精度水平。这种方法可确保绩效最高的模型用于鉴定，从而在协作医疗保健环境中增强糖尿病患者鉴定系统的整体有效性和实际性。
联合学习的最佳客户选择算法
research p oster s ummary联合学习（FL）系统[5]允许培训机器学习模型分布在多个客户端，每个客户都使用私人数据。传统上，在几轮中，FL执行三个步骤直到停止条件发生：1。服务器将全局模型权重发送给客户端； 2。每个客户端在本地使用私人数据训练模型，并将其权重发送给服务器；和3。服务器合并了客户端的权重，以制定改进的全局模型。由于资源和数据的异质性，客户选择在FL系统的功效[1]，[2]，[6]，[8]，[8]，[11] - [14]中起着至关重要的作用。训练回合所花费的时间由最慢的客户确定。此外，能源消耗和碳足迹也被视为主要问题。在这种情况下，我们提出了FL：MEC和ECMTC的两种最佳时间和能源的客户选择算法。第一个将训练时间和总能量消耗最小化，而第二个则逆转了两个指标之间的优先级，同时还要满足截止日期。尽管相关工作的贡献，但据我们所知，这项工作是第一个提出算法，通过共同优化执行时间和能源消耗，同时定义每个客户应在本地使用多少数据，从而使具有异质资源的客户选择算法。在我们的方法中，客户选择被建模为必须分配给一组客户端r的任务t数。每个客户端I具有一组分配容量（A I），其中任务象征着本地数据单位。此外，我有时间（P I）和能量（E I）成本与其分配的任务数（X I）相关的每个客户端。给定的一轮具有与其所选客户端相关的pan和en gy的费用，分别表示为优化目标c max和σe，它们定义为c max：= maxi∈Rp i（x i）和σe：= p
日本生成人工智能（AI）市场
亚洲互联网联盟（AIC）关于关于生成人工智能（AI）市场的事实调查调查（日本），日本日本2024年11月22日至市场研究部门的咨询调查，日本政策计划和研究办公室，通用市场的政策计划和研究办公室，经济事务局经济事务局，日本公平贸易委员会（JFTC）的贸易委员会（JFTC）在ASIA INTERK COMPATION（AIC）上（AIC）（AIC）的竞争（AIC）（AIC）（AIC）的竞争（AIC）（AIC）（AIC）的机会（AIC）（AIC）的机会（AIC Remocks）（FARKE）在生成的AI市场中。AIC是一个由亚太地区领先的互联网和技术公司组成的行业协会，目的是促进互联网和ICT政策问题的理解和解决。我们认识到平衡和前瞻性的竞争政策在促进创新，实现增长以及确保从初创公司到既定参与者的所有市场参与者的公平和竞争环境的重要性。下面，我们对几个关键领域的观点，包括开源AI模型，合作伙伴关系和培训数据注意事项。我们希望这些见解对JFTC在制定知情有效的政策框架方面的努力有意义地做出贡献。1。开源AI模型（pp。JFTC讨论文件的12-13）开源模型在促进生成AI的竞争环境中起着至关重要的作用。他们降低了进入障碍，使初创企业和新进入者可以开发和部署AI解决方案，而没有经常与专有模型相关的过高成本。这种方法将有助于平衡创新和透明度的好处，并需要减轻风险。开源AI模型鼓励透明度，更广泛地审查和改进技术规格，从而有助于安全，安全和加速的技术进步。建议：●鼓励“负责”的开放式方法：JFTC应考虑启用或促进负责任的开源AI开发的政策。●支持创新与协作：开源AI模型通过提供负担得起的解决方案并促进技术进步来增强创新，促进协作和支持经济增长。在斯坦福大学论文中突出显示的是，开放对模型权重的访问可以推动下游市场的创新，从而降低了基础模型水平的市场集中度。