XiaoMi-AI文件搜索系统
World File Search SystemSGMS
良好的分数不会导致良好的生成模型
基于得分的生成模型（SGM）是生成建模的一种主要方法，其以其从复杂的高维数据分布生成高质量样本的能力而闻名。该方法享有经验成功，并得到严格的理论收敛属性的支持。特别是，已经表明，如果良好地学习了基础得分函数，SGM可以从接近地面真相的分布中生成样品，这表明SGM作为生成模型的成功。我们在本文中提供了反例。通过Sam-Ple复杂性参数，我们提供了一个特定的设置，其中得分函数的学习良好。然而，在这种情况下，SGM只能输出训练数据点的高斯模糊，从而模仿核密度的影响。这一发现引起了一系列最近的发现，该发现表明SGM可以表现出强烈的记忆效果，并且无法产生。
![arxiv：2312.05989v2 [cs.lg] 15 Sep 2024](/simg/4\4a113b15883d212e8cc7acc710d29df13fa90cfd.webp)
arxiv：2312.05989v2 [cs.lg] 15 Sep 2024
有两种主要的扩散模型方法：降解扩散概率模型（DDPMS）（Sohl- Dickstein等，2015； Ho等，2020）和基于得分的生成模型（Song＆Ermon，2019）（SGMS）（SGMS）。以前的DDPM逐渐通过向前过程将样品从目标分布转换为噪声，并训练向后的过程逆转转换并用于生成新样品。另一方面，SGM使用得分匹配技术（Hyvärinen＆Dayan，2005; Vincent，2011）来学习数据生成分布的得分函数的近似，然后使用Langevin Dynamics生成新样本。由于对于现实世界的分布，得分功能可能不存在，Song＆Ermon（2019）建议在训练样本中添加不同的噪声水平以覆盖整个实例空间，并训练神经网络以同时学习所有噪声水平的得分函数。
基于得分的生成模型破坏
基于得分的生成模型（SGM）在巨大的图像生成任务中取得了显着的成功，但它们的数学基础仍然受到限制。在本文中，我们分析了SGM在学习下高斯概率分布家族时的近似和概括。我们将相对于标准高斯度量的相对密度而言，引入了概率分布的复杂性概念。我们证明，如果对数相关密度可以通过一个神经网络局部近似，该神经网络可以适当地界定参数，那么经验分数与匹配的经验分布产生的分布近似于总变化的目标分布与尺寸与独立的速率。我们通过例子说明了我们的理论，其中包括某些高斯人的混合物。我们证明的一种基本要素是为与前进过程相关的真实分数函数得出无维度的深神网络近似率，这本身就是有趣的。
对基于分数生成模型的噪声时间表的分析
基于得分的生成模型（SGM）旨在通过仅使用来自目标的噪声扰动样本来学习得分功能来估算目标数据分布。最近的文献广泛地集中在评估目标和估计分布之间的误差上，从而通过Kullback-Leibler（KL）Divergence和Wasserstein距离来测量生成质量。在对数据分布的轻度假设下，我们为目标和估计分布之间的KL差异建立了上限，这取决于任何依赖时间依赖的噪声时间表。在额外的规律性假设下，利用了有利的潜在收缩机制，与最新结果相比，我们提供了瓦斯坦斯坦距离的更严格的误差。除了具有易处理外，该上限还结合了在训练过程中需要调整的目标分布和SGM超参数的特性。最后，我们使用模拟和CIFAR-10数据集1通过数值实验来说明这些边界，并在参数族中识别最佳的噪声时间表范围。
对基于分数生成模型的噪声时间表的分析
基于得分的生成模型（SGM）旨在通过仅使用来自目标的噪声扰动样本来学习得分功能来估算目标数据分布。最近的文献广泛地集中在评估目标和估计分布之间的误差上，从而通过Kullback-Leibler（KL）Divergence和Wasserstein距离来测量生成质量。在对数据分布的轻度假设下，我们为目标和估计分布之间的KL差异建立了上限，这取决于任何依赖时间依赖的噪声时间表。在额外的规律性假设下，利用了有利的潜在收缩机制，与最新结果相比，我们提供了瓦斯坦斯坦距离的更严格的误差。除了具有易处理外，该上限还结合了在训练过程中需要调整的目标分布和SGM超参数的特性。最后，我们使用模拟和CIFAR-10数据集1通过数值实验来说明这些边界，并在参数族中识别最佳的噪声时间表范围。
第九届瑞士地球科学会议
第一次瑞士地球科学会议于 2003 年 11 月在巴塞尔举行。第一次 SGM 的主要发起人 Stefan Schmid 及其在巴塞尔大学的同事在 2003 年还无法预见到，他们为瑞士地球科学家提供年度讨论平台的想法会取得如此成功。从那时起，来自瑞士各地和邻国的地球科学家每年 11 月都会抓住机会在 SGM 上聚会一次，交流想法。过去 8 年，包括瑞士南部应用科学大学在内的瑞士主要大学的地质学和地理学系接待了地球科学界。过去几年 SGM 的成功得益于瑞士科学院 SCNAT 及其地球科学平台的持续支持。我谨代表当地组委会向 Pierre Dèzes (SCNAT) 表示诚挚的感谢。他对 SGM 的坚定承诺使得我们今天能够在苏黎世相聚。
PSMA 指导的涎腺肿瘤成像和治疗：一项单中心回顾性研究
我们分析了前列腺特异性膜抗原 (PSMA) PET/CT 的诊断性能以及 177 Lu-PSMA-617 放射性配体治疗 (RLT) 在唾液腺恶性肿瘤 (SGM) 中的剂量、疗效和安全性。方法：我们从数据库中确定了 28 名接受 PSMA PET/CT 检查的 SGM 患者。CT 和 PSMA PET/CT 图像由 3 名匿名阅读者在联合阅读会话中分别评估。病理学发现分为 6 个 TNM 区域，病变范围分为无疾病（n=1，4%）、单灶性（n=2，7%）、寡转移性（n=9，32%）、多灶性（n=3，11%）或播散性（n=13，47%）。对于每个区域，测量摄取量最高的病变的 SUV max，并使用 PROMISE 标准对每个患者进行视觉 PSMA 表达评分。使用 Student t 检验测试 PSMA 表达与临床和组织病理学标志物之间的关联。五名患者接受了治疗内剂量的 PSMA RLT。使用 RECIST 1.1 评估疗效，并根据《不良事件常用术语标准》5.0 版对不良事件进行分级。结果：与 CT 相比，PSMA PET/CT 在 28 名患者中的 11 名（39%）显示了额外的转移性病变，导致 3 名（11%）和 6 名（21%）患者的 TNM 分期和病变范围上调。PSMA PET/CT 分别在 1 名（4%）、4 名（14%）、2 名（7%）和 4 名（14%）患者中检测到 CT 隐匿的局部肿瘤、区域淋巴结、非区域淋巴结和骨转移；在其他预定区域未检测到额外的病变。6 名患者（25%）的 PSMA 表达水平高于肝脏。男性患者的 SUV max 明显高于女性患者（15.8 vs. 8.5，P = 0.007），且骨骼病变的 SUV max 明显高于肺部病变（14.2 vs. 6.4，P = 0.006）。5 名患者中有 3 名在 1 个周期后停止 PSMA RLT，原因是肿瘤剂量不足。未发生 4 级或更高级别的不良事件。结论：在 SGM 中，与 CT 相比，PSMA PET/CT 显示出更高的检出率，并导致约三分之一的患者分期上升。男性和存在骨转移与 PSMA 表达明显较高有关。PSMA RLT 耐受性良好，但由于肿瘤剂量不足，大多数患者未接受超过 1 个周期的治疗。