Wichern

smitin：生成音乐变压器的自我监测的推理时间干预 /作者= koo，junghyun;威奇，戈登； Germain，FrançoisG； Khurana，Sameer； Le Roux，Jonathan /CreationDate = 2025年1月23日 /受试者=人工智能，机器学习，语音< /div < /div>

摘要我们介绍了自我监控的推理时间干预（SMITIN），这是一种使用分类探针来控制自回归的生成音乐变压器的方法。这些简单的逻辑回归探针通过使用表现出特定的音乐性状（例如，鼓声/不存在鼓或真实/合成音乐）的小型音频示例对变压器中每个注意力头的输出进行了训练。然后，我们将注意力头转向探针方向，以确保生成模型输出捕获所需的MUSICAL性状。此外，我们监视探针输出，以避免在自回归产生中添加过量的干预措施，这可能会导致时间上不一致的音乐。我们在音频延续和文本到音乐应用程序中客观和主观验证结果，证明了将控件添加到大多数音乐家的重新培训甚至灌感都是不切实际的大型生成模式中的能力。建议的干预方法的音频样本可在我们的演示页面上