一些Reddit用户只是喜欢不同意,新的AI驱动巨魔点算法

在当今的在线景观中,要确定巨魔和误导性散布者等有害参与者比以往任何时候都更难。

来源:英国物理学家网首页
信用:Unplash/CC0公共领域

在当今的在线景观中,要确定巨魔和误导性散布者等有害参与者比以往任何时候都更难。

经常,发现恶意帐户的努力集中在分析他们的说法上。但是,我们的最新研究表明,我们应该更加关注他们的工作以及他们如何做。

,我们已经开发了一种方法,仅根据其行为模式(与他人互动的方式)确定潜在有害的在线演员,而不是他们共享的内容。我们在最近的ACM网络会议上介绍了结果,并获得了最佳论文。

提出了我们的结果 ACM Web会议

除了看人们说的话

发现有问题的在线行为的传统方法通常依赖两种方法。一种是检查内容(人们在说什么)。另一个是分析网络连接(跟随谁)。

网络连接

这些方法有局限性。

用户可以规避内容分析。他们可以仔细编码他们的语言,或者在不使用明显的触发单词的情况下共享误导性信息。

用户可以规避 内容分析

网络分析在Reddit等平台上缺乏。在这里,用户之间的连接并不明确。社区围绕主题而不是社会关系组织。

reddit 社会关系

我们想找到一种方法来确定不容易被认出的有害行为者。我们意识到我们可以专注于行为 - 人们如何互动,而不是他们说的话。

教AI了解人类行为在线了解人类行为

我们的方法使用一种称为逆增强学习的技术。这是一种通常用于理解自主驾驶或游戏理论等领域的人类决策的方法。

逆增强学习

我们对这项技术进行了调整,以分析用户在社交媒体平台上的行为。

满足“不同意”

r/news r/worldnews r/政治 r/the_donald 挣扎

足球迷和游戏玩家

R/SOCCER r/loageflegends 传统智慧 R/SOCCER r/loageflegends传统智慧