Principled Coarse-Grained Acceptance for Speculative Decoding in Speech
推测性解码通过让快速草稿模型提出由更大的目标模型验证的标记来加速自回归语音生成。然而,对于生成声学标记的语音法学硕士来说,精确的标记匹配过于严格:许多离散标记在声学或语义上是可互换的,从而降低了接受率并限制了加速。我们引入了原则性粗粒度(PCG),它在从目标模型的嵌入空间派生的声学相似性组(ASG)级别验证建议。通过将每个标记的概率质量分布在...
When Models Masquerade as Oceans: The Latest Adventure in Simulated Stirring
这是现代气候科学的循环堡垒:模型验证模型,根据合成数据计算统计显着性,用“稳健性”和“一致性”等短语消除不确定性。