引起这些问题的关键因素是大型社交媒体平台的选择,主要是通过预测的参与可能性对内容进行排名。对参与度优化的排名算法可以优先考虑情感和极端内容,并将其显示给他们估计最有可能与之互动的人(将观看,单击,回复,转发等)。根据乔纳森·斯特雷(Jonathan Stray),杰夫·艾伦(Jeff Allen)和其他贡献者的说法,“我们对在内容排名中使用非参与信号的了解”,基于参与的排名不成比例地放大了低质量,误导性或轰动性内容,这些内容会激发观众中强烈的情感反应而不是瞄准它们的真实价值。5 Facebook本身发表的一项研究表明,更接近违反其服务条款的内容,获得更高的参与度,从而通过推荐系统进行更大的放大。6