尽管关于对话代理的设计和使用的研究越来越多,但对话代理仍然难以完全取代人工服务。因此,越来越多的公司采用人机协作系统来提供客户服务。了解人们如何从人机协作对话中获取信息非常重要。虽然现有的工作依赖于自我报告的方法来从用户那里获得定性反馈,但我们在彻底检查了现实世界的客户服务日志后,总结出了人机协作对话中用户消息的分类系统,可以客观地反映用户的信息需求。我们将用户消息分为五类和 15 种特定类型,与三个高级意图相关。两位注释者独立对来自 300 次对话的同一组 1,478 条用户消息进行分类,并达到了中等一致性。我们总结并报告了不同消息类型的特征,并比较了它们在仅有人类、AI 或两者代表的会话中的使用情况。我们的结果表明,不同类型的消息在使用频率、长度和与会话中其他消息的文本相似性方面存在显著差异。此外,在我们的数据集中使用不同消息类型的频率在与不同类型的代表的会话中似乎是一致的。但我们也观察到在与不同代表的会话中,一些特定消息类型存在一些显著差异。我们的结果用于建议人机协作对话系统中一些需要改进的领域和未来的工作。
主要关键词