LLM 代表了最先进的技术,在性能和语言质量方面超越了其他当前的 T2T 模型。因此,它们被认为是 T2T 模型考察的代表。LLM 是强大的神经网络,最多可拥有一万亿个参数。它们在大量文本语料库上进行训练,专门用于处理和生成文本。LLM 的训练通常可分为两个阶段:首先,进行无监督训练,使 LLM 对文本有大致的了解。接下来是微调,使 LLM 专门用于特定任务(NIST,2024)。文本是基于随机相关性生成的;概率分布用于预测在给定上下文中接下来可能出现哪个字符、单词或单词序列。LLM 的输出通常表现出很高的语言质量,因此通常与人类书写的文本难以区分。
低温电子显微镜(cryo-EM)已成为确定大型蛋白质复合物和分子组装体结构的主要实验技术,2017 年的诺贝尔奖就是明证。尽管低温电子显微镜已得到极大改进,可以生成包含大分子详细结构信息的高分辨率三维(3D)图谱,但利用这些数据自动构建结构模型的计算方法却远远落后。传统的低温电子显微镜模型构建方法是基于模板的同源性建模。当数据库中找不到模板模型时,手动从头建模非常耗时。近年来,使用机器学习(ML)和深度学习(DL)的从头低温电子显微镜建模已成为大分子结构建模中表现最好的方法之一。基于深度学习的从头低温电子显微镜建模是人工智能的重要应用,其成果令人印象深刻,对下一代分子生物医学具有巨大潜力。因此,我们系统地回顾了具有代表性的基于 ML/DL 的从头低温电子显微镜建模方法。并从实践和方法论的角度讨论了它们的意义。我们还简要介绍了低温电子显微镜数据处理工作流程的背景。总体而言,本综述为从头分子结构建模的人工智能 (AI) 现代研究以及这一新兴领域的未来方向提供了入门指南。
1 弗莱堡大学医学中心骨科和创伤外科系,弗莱堡大学医学院,弗莱堡 79108,德国;sara.uelkuemen@hotmail.de(S.Ü.);pm.obid@gmail.com(PO);gernotmichaellang@gmail.com(GML)2 洛雷托医院脊柱外科系,弗莱堡 79100,德国;frank.hassel@rkk-klinikum.de(FH);alisia.zink@gmail.com(AZ)3 帕拉塞尔苏斯医科大学实验神经再生研究所、脊髓损伤和组织再生中心萨尔茨堡(SCI-TReCS),奥地利 5020 萨尔茨堡; s.couillard-despres@pmu.ac.at 4 海德堡大学医院口腔颌面外科系,69120 海德堡,德国;veronika.shavlokhova@med.uni-heidelberg.de 5 奥地利组织再生集群,1200 维也纳,奥地利 6 医学情报与信息学,慕尼黑工业大学医学院 Rechts der Isar 医学中心,81675 慕尼黑,德国;martin.boeker@tum.de * 通信地址:babak.saravi@jupiter.uni-freiburg.de
胡一鹏 1,2,4 约瑟夫·雅各布 1,3 杰弗里·JM·帕克 1,5,6 大卫·J·霍克斯 1,2,4 约翰·R·赫斯特 3 丹奈尔·斯托亚诺夫 1,2,5 1 伦敦大学学院医学图像计算中心,2 威康/EPSRC 介入和外科科学中心,3 伦敦大学学院呼吸科,4 医学物理和生物医学工程系,5 计算机科学系,伦敦大学学院,Gower Street,伦敦 WC1E 6BT,英国 6 Bioxydyn Limited,Pencroft Way,曼彻斯特,M15 6SZ,英国 通信:yipeng.hu@ucl.ac.uk 由严重急性呼吸系统综合症冠状病毒 2 引起的 COVID-19 大流行,发生在一个被基于大数据、计算能力和神经网络的人工智能(AI)迅速改变的世界。近年来,这些网络的目光越来越多地转向医疗保健领域的应用。COVID-19 是一种全球性疾病,对健康和经济造成破坏,或许不可避免地会吸引全球学术界和工业界的计算机科学家的关注和资源。AI 支持应对疫情的潜力已在广泛的临床和社会挑战 [1] 中提出,包括疾病预测、监测和抗病毒药物发现。随着疫情对世界人民、工业和经济的影响不断扩大,这种情况可能会持续下去,但对当前疫情的一个令人惊讶的观察是,迄今为止,AI 在 COVID-19 管理中的影响有限。本通讯重点探讨了在前线医疗服务中未能成功采用为 COVID-19 诊断和预后开发的 AI 模型的潜在原因。我们强调了模型在疫情的不同阶段必须解决的不断变化的临床需求,并解释了将模型转化为反映当地医疗环境的重要性。我们认为,基础研究和应用研究对于加速人工智能模型的潜力都至关重要,在迅速发展的疫情期间尤其如此。 从这个角度看,对 COVID-19 的反应,或许可以让我们一窥全球科学界应如何应对未来的疾病爆发,以更有效地应对。
大规模视觉语言预训练模型的最新进展已在自然图像领域中的零样本/少样本异常检测方面取得了重大进展。然而,自然图像和医学图像之间巨大的领域差异限制了这些方法在医学异常检测中的有效性。本文介绍了一种新颖的轻量级多级自适应和比较框架,以重新利用 CLIP 模型进行医学异常检测。我们的方法将多个残差适配器集成到预训练的视觉编码器中,从而实现不同级别视觉特征的逐步增强。这种多级自适应由多级、逐像素的视觉语言特征对齐损失函数引导,将模型的重点从自然图像中的对象语义重新校准到医学图像中的异常识别。调整后的特征在各种医学数据类型中表现出更好的泛化能力,即使在模型在训练期间遇到看不见的医学模态和解剖区域的零样本场景中也是如此。我们在医学异常检测基准上进行的实验表明,我们的方法明显优于当前最先进的模型,在零样本和少样本设置下,异常分类的平均 AUC 改进分别为 6.24% 和 7.33%,异常分割的平均 AUC 改进分别为 2.03% 和 2.37%。源代码可从以下网址获取:https://github.com/MediaBrain-SJTU/MVFA-AD
使用扩散模型进行图像修复通常使用预条件模型(即针对绘画任务进行微调的图像条件模型)或后条件模型(即在推理时重新用于绘画任务的非条件模型)。预条件模型在推理时很快,但训练成本极高。后条件模型不需要任何训练,但在推理过程中很慢,需要多次前向和后向传递才能收敛到理想的解决方案。在这里,我们推导出一种不需要昂贵训练但推理速度很快的方法。为了解决昂贵的推理计算时间,我们在潜在空间而不是图像空间上执行前向-后向融合步骤。这是通过扩散过程中新提出的传播模块解决的。在多个领域进行的实验表明,我们的方法达到或改善了状态
摘要:社会企业包含不同的逻辑,因此寻找能够调和经济和社会目标冲突的商业模式非常复杂。我们认为数字技术可以帮助社会企业家克服这一困难。事实上,本文旨在通过对这些不同研究流派进行系统的文献综述,全面介绍(1)商业模式创新、(2)社会企业和(3)基于人工智能的创造力支持工具的文献现状。我们的目的不是对这三种文献进行全面回顾,而是确定将它们联系起来的主要主题和子主题。在此基础上,我们提出了一种新的观点,即复杂的商业模式创新(例如处理社会企业混合模式的创新)如何通过基于人工智能的创造力支持工具得到推动,并制定了扩大对这一有希望的联系的研究议程。
虽然基础模型有时被认为与“通用人工智能”(GPAI)完全相同,但实际上它们只是众多 GPAI 类型中的一种(尽管非常强大)。其他 GPAI 类型包括(通常非常基础的)用于一系列任务(例如模式检测或翻译)的 AI 系统。
在本文中,我们从现代 Hopfield 模型的角度研究表格学习。具体来说,我们使用广义稀疏的现代 Hopfield 模型来学习表格数据表示和预测。在这项工作中,引入了 BiSHop(双向 S 分析 Hop 场模型)作为端到端表格学习的创新框架,解决了深度表格学习中的两个挑战:非旋转不变数据结构和特征稀疏性。受到联想记忆和注意力机制之间新建立的联系的启发,BiSHop 采用了双组分策略。它通过双向学习模块按列和按行顺序处理数据,每个模块都配备广义稀疏 Hopfield 层。这些层通过引入可学习的稀疏性扩展了传统的 Hopfield 模型。从方法论上讲,BiSHop 支持多尺度表示学习,能够有效地捕捉特征内和特征间的交互,并在各种尺度上具有自适应稀疏性。在各种真实世界数据集上进行的经验验证表明,BiSHop 以更少的超参数优化 (HPO) 运行超越了当前最先进的方法的性能,标志着深度表格学习的重大进步。
桌面仿真。Simulink 中的桌面仿真使您能够验证 BMS 设计的功能方面,例如充电放电行为(使用单电池等效电路公式)、电子电路设计以及反馈和监督控制算法。在桌面上,使用行为模型模拟电池系统、环境和算法。例如,您可以探索主动与被动电池平衡配置和算法,以评估每种平衡方法对给定应用的适用性。您可以使用桌面仿真探索新的设计理念,并在制作硬件原型之前测试多种系统架构。您还可以在桌面仿真中执行需求测试,例如通过验证在检测到隔离故障时接触器是否无法打开或关闭。
