Adaptive Knowledge Distillation for Device-Directed Speech Detection
设备指导的语音检测（DDSD）是一项二进制分类任务，将用户的查询与语音助手（VA）与背景语音或侧面对话分开。这对于实现自然主义用户体验很重要。为此，我们提出知识蒸馏（KD），以提高DDSD准确性，同时确保有效部署。具体而言，我们引入了一种新型的自适应KD方法，该方法从ASR大型预训练的声学编码器（教师）的一般表示转移知识。我们将特定于任务的适配器应用在（冷冻）教师编码器之上，培训…
