具有扩散模型的生成文本视频检索
机构名称:
¥ 1.0

现有的文本视频检索解决方案本质上是侧重于最大程度地提高条件可能性的模型,即P(候选人|查询)。虽然很简单,但这种事实上的范式却忽略了基本的数据分布p(查询),这使得识别出分布数据的挑战。为了解决这一限制,我们从生成观点创造性地解决了此任务,并将文本和视频之间的相关性建模为其关节概率P(候选人,查询)。这是通过基于扩散的文本视频检索框架(扩散-RET)来完成的,该框架将检索任务建模为从噪声中产生关节分布的过程。在训练过程中,从发电和犯罪的角度优化了Diffusionret,其发电机通过生成损失优化,并且具有对比度损失的训练的特征提取器。以这种方式,diffusionret巧妙地杠杆化了生成和歧视方法的优势。在五个常用的文本检索基准测试中进行了广泛的实验,包括MSRVTT,LSMDC,MSVD,ActivityNet字幕和DIDEMO,并具有出色的性能,证明了我们方法的效果。更加谨慎,没有任何修改,diffusionret甚至在外域检索设置中表现良好。我们认为这项工作带来了对相关领域的基本见解。代码可从https://github.com/jpthu17/diffusionret获得。

具有扩散模型的生成文本视频检索

具有扩散模型的生成文本视频检索PDF文件第1页

具有扩散模型的生成文本视频检索PDF文件第2页

具有扩散模型的生成文本视频检索PDF文件第3页

具有扩散模型的生成文本视频检索PDF文件第4页

具有扩散模型的生成文本视频检索PDF文件第5页

相关文件推荐

具有生成AI
2024 年
¥1.0
具有AWS的生成AI
2024 年
¥1.0
具有生成深度学习
2024 年
¥4.0
具有AWS的生成AI
2024 年
¥2.0