Kleinberg

反转问题：为什么算法应推断精神状态，而不仅仅是预测2023年10月6日的行为，乔恩·克莱恩伯格（Jon Kleinberg），詹斯·路德维格（Jens Ludwig），sendhil mull

摘要越来越多地将机器学习应用于人类行为。这些算法越来越遭受一个隐藏但严重的问题。之所以出现，是因为他们经常预测一件事，而希望另一件事。采用推荐系统：它可以预测点击，但希望识别偏好。或一种使放射科医生自动化的算法：它可以预测在静置的诊断，同时希望确定其反思性判断。心理学向我们展示了此类预测任务的目标与我们希望实现的目标之间的差距：人们可以无意识地点击；专家可能会疲倦并犯系统错误。我们认为这种情况无处不在，称它们为“反演问题”：真正的目标需要理解在行为数据中直接测量的精神状态，而必须与行为倒转。识别和解决这些问题需要借鉴行为和计算科学的新工具。