反事实说明通过回答“如果”方案,阐明了复杂的系统决策,表明最小输入变化如何导致不同的结果[1]。这对于机器学习(ML)至关重要,其中了解模型的理由与决策本身一样重要[2]。通过检查假设的替代方法,反事实解释使ML模型的决策更加透明和可理解。尽管对反事实解释的兴趣越来越大,但文献上存在有关用于创建它们的生成方法的差距。变异自动编码器(VAES)[3],生成对抗网络(GAN)[4]和deno的扩散概率模型(DDPMS)[5]非常值得注意,尤其是生成反事实,尤其是对于复杂的数据模态,例如图像等复杂的数据模态,在其中调整了不隔离的功能。但是,现有的调查通常忽略生成方面或高维数据方案[6,7,8]。我们的工作通过着重于复杂数据中的反事实解释的生成模型来解决这一差距,从而对其能力和局限性提供了全面的理解。在本文中,我们探讨了反事实解释的生成模型的常见用例,并突出了主要的挑战。我们通过其生成技术对方法进行分类,并检查对标准过程的修改,以满足反事实要求。我们的讨论旨在通过确定反事实解释中推进生成方法的关键挑战和潜在方向来刺激进一步的研究。while
在2017年引入了变压器[1],其次是开创性的LLM,例如Openai的GPT [2]和Google的Bert [3],标志着语言理解和发电的新时代的开始。最近,生成的LLM(例如GPT-3 [4],Llama [5]和Chatgpt [6])推进了这种演变,使其具有前所未有的高度,无缝地融合了生成的AI,并在合成数据生成的领域中引发了一个新的时代[7] - [7] - [13]。生成AI的起源可以追溯到关键模型,例如生成对抗网络[14](gans)和变异自动编码器[15](VAE),该模型降低了生成逼真的图像和信号的能力[16]。但是,直到近年来LLM的出现,生成的AI才真正蓬勃发展。这些LLM在广泛的数据集上训练,展示了生成连贯和上下文相关文本的前所未有的能力,从而突破了AI在与语言相关的任务中所能达到的界限。合成数据创建领域中生成AI和LLM的融合不仅代表了技术的进步,还代表了我们的数据创建方法和AI模型培训的范式转变。
计算机工程系,Keystone工程学院摘要:室内设计中生成AI的整合已改变了传统方法,使设计师能够以令人印象深刻的效率探索新概念。本文介绍了领先的生成模型的比较研究,例如风格,变异自动编码器(VAE),PIX2PIX和强化学习(RL) - 在将草图转化为示意图中的效率上,以产生多样化的室内布局,并产生多样化的室内布局和优化空间。通过分析这些模型的结果,我们表明了它们创建独特的设计解决方案,同时增强美学吸引力。该研究强调了设计精度的实质性增强,强调了生成AI模型提升设计过程并创建更量身定制的内部解决方案的潜力。本调查检查了每个模型的方法和性能,并研究了使用生成AI推进室内设计领域的未来可能性。关键字:生成AI,室内设计,StyleGAN,差异自动编码器(VAE),PIX2PIX,增强学习指数术语:简介,目标,文献调查,方法论,结果和分析,结论
摘要:集成深度学习方法在塑造计算机辅助设计(CAD)和计算机辅助工程(CAE)系统的连续发展方面至关重要。本评论探讨了CAD和CAE中深度学习的整合,特别是专注于用于模拟3D车轮的生成模型。它突出了传统CAD/CAE的挑战,例如手动设计和仿真限制,并提出了深度学习,尤其是生成模型作为解决方案。这项研究旨在自动化和增强3D车轮设计,改进CAE模拟,预测较高的特征并优化性能指标。它采用了深度学习体系结构,例如变异自动编码器(VAE),卷积神经网络(CNN)和生成的对抗网络(GAN),从不同的3D车轮设计中学习并生成优化的解决方案。添加的结果包括更有效的设计过程,提高了模拟精度和适应性的设计解决方案,从而促进了将深度学习模型集成到现有的CAD/CAE Sys-sys-syss中。这种整合有望通过提供对这些技术潜力的见解来改变设计和工程实践。
推荐系统已成为将人们与信息联系起来的重要工具。稀疏,复杂且快速增长的数据为传统推荐算法带来了新的挑战。为了克服这些挑战,已经提出了各种基于深度学习的建议算法。其中,基于变异的自动编码器(VAE)的推荐方法脱颖而出。vae s基于一个可信的概率框架,该框架适用于数据稀疏性,并且与其他基于深度学习的模型兼容以处理多模式数据。此外,vae s的深刻生成结构有助于以良好的方式进行贝叶斯推断。基于VAE的推荐算法已经引起了许多新型图形模型,并实现了有希望的性能。在本文中,我们进行了一项调查,以系统地总结了最近的基于VAE的推荐算法。总结了基于VAE的推荐算法的四个常用特征,并提出了基于VAE的建议算法的分类法。我们还确定了未来的研究指示,对推荐算法中VAE S的高级观点以及应用的应用,以激发推荐系统的VAE上的未来工作。
佐治亚州,美国摘要: - 生成人工智能(AI)的进步正在通过引入自动数据驱动的工作流程来大大减少开发时间和成本来重塑药物发现景观。本文探讨了针对药物发现中生成的AI应用程序量身定制的过程发现和自动化工作流,涵盖了数据摄入和预处理到分子生成,验证和优化的关键阶段[1]。通过过程发现的镜头,我们确定了传统药物发现工作流程中的关键瓶颈和自动化机会,以证明生成的AI,尤其是生成对抗性网络(GAN)和变异自动编码器(VAES)等生成模型如何有效地产生多样的分子候选者。工作流的每个阶段都集成了自动化,以简化高通量虚拟筛选,优化铅化合物并提高药理学特性(例如生物利用度,功效和安全性)的预测精度。通过将自动化嵌入到这些过程中,生成的AI不仅可以加速候选化合物的产生,还可以针对复杂的生物学标准进行评估。本文进一步解决了数据质量,可解释性和法规依从性的挑战,同时展示了现实世界中的案例研究,其中AI驱动的过程自动化导致了突破性的治疗发现。这个结构化的工作流为寻求利用工艺自动化和生成AI的研究人员和行业专业人员提供了蓝图,以推动药物发现中的创新,效率和可扩展性[1]。关键字: - 生成AI,药物发现,过程改进,医疗保健,自动化。
摘要生成型AI是人工智能世界中的一种变革性技术,正在重塑我们如何在艺术,商业和医疗保健等各个领域创建和与数字内容进行交互。本文从早期神经网络到GPT-4和基于扩散的模型等最新发展开始,研究了生成AI的历史旅程。通过探索关键技术,例如生成对抗网络(GAN),变化自动编码器(VAE)和变压器体系结构,我们对这些模型如何彻底改变了内容的生成。这些进步为创造力和创新打开了新的大门,但它们也引入了重大挑战。详细讨论了偏见,道德问题和人工智能的环境成本,尤其是数据中心的不断增长的数据。本文进一步研究了生成AI的双重影响:增强生产率的能力,同时还会导致传统行业和人类互动的中断。作为使用AI量表的使用,这项研究强调了对其发展和部署的可持续和道德方法的迫切需求。通过研究生成AI的潜力和陷阱,本研究旨在为这种有影响力的技术的未来提供平衡的前景。
摘要:基于利用数据可视化技术的先前开发的部分合成数据生成算法,该研究扩展了新型算法以生成完全合成的表格医疗保健数据。在这种增强的形式中,该算法是基于生成对抗网络(GAN)或变分自动编码器(VAE)的常规方法的替代方法。通过迭代应用原始方法,该适应算法采用UMAP(均匀的歧管近似和投影),一种维度降低技术,通过低维聚类来验证生成的样品。这种方法已成功地应用于三个医疗领域:前列腺癌,乳腺癌和心血管疾病。生成的合成数据已被严格评估,以获得保真度和效用。结果表明,基于UMAP的算法在不同情况下优于基于gan和vae的生成方法。在保真度评估中,它在不同属性的真实数据和合成数据的累积分布函数之间达到了较小的最大距离。在实用程序评估中,基于UMAP的合成数据集增强了机器学习模型性能,尤其是在分类任务中。总而言之,此方法代表了一种可实现安全,高质量合成医疗保健数据的强大解决方案,从而有效地解决了数据稀缺挑战。
扩散模型在生成建模中取得了前所未有的性能。扩散模型常用的潜在代码公式是一系列逐渐去噪的样本,而不是 GAN、VAE 和正则化流的更简单(例如高斯)潜在空间。本文提供了扩散模型潜在空间的替代高斯公式,以及将图像映射到潜在空间的可重构 DPM 编码器。虽然我们的公式纯粹基于扩散模型的定义,但我们展示了几个有趣的后果。(1)从实证上讲,我们观察到在相关领域独立训练的两个扩散模型会出现一个共同的潜在空间。根据这一发现,我们提出了 CycleDiffusion,它使用 DPM 编码器进行非配对的图像到图像转换。此外,将 CycleDiffusion 应用于文本到图像的扩散模型,我们表明大规模文本到图像的扩散模型可用作零样本图像到图像编辑器。(2)人们可以通过控制基于能量模型的统一即插即用公式中的潜在代码来指导预训练的扩散模型和 GAN。使用 CLIP 模型和人脸识别模型作为指导,我们证明扩散模型比 GAN 对低密度亚群和个体的覆盖率更高。1
随着变压器和视觉模型(VLM)的出现,例如剪辑,微调大型预培训模型最近已成为持续学习的普遍策略。这导致发展了许多促使策略以适应基于变形金刚的模型而不会引起灾难性遗忘。但是,这些策略通常会损害预先训练的剪辑模型的原始零射击功能,并难以适应明显偏离预训练数据的域。在这项工作中,我们提出了持续的生成培训,以进行增量及时学习,这是一种简单而新颖的方法,可以减轻遗忘,同时调整剪辑。简而言之,我们采用各种自动编码器(VAE)来学习视觉编码器嵌入空间内的类调节分布。然后,我们利用这些分布来采样新的合成视觉嵌入式,并在随后的任务中训练相应的特定类文本提示。通过对不同领域的广泛实验,我们表明,这种生成的重播方法可以适应新任务,同时改善零射击功能,并使用针对CL方案量身定制的新型度量标准进行了评估。值得注意的是,进一步的分析表明,我们的方法可以通过关节及时调整弥合差距。该代码库可从https://github.com/ aimagelab/mammoth获得。