社交网络的广泛使用已改变了人们交流,共享信息和与他人联系的方式。尽管这些平台提供了许多好处,但它们也会引起有害行为,例如网络欺凌,在线骚扰和仇恨言论。在线骚扰可能会对受害者产生严重的心理,情感和社会后果,这是确保安全和积极的数字环境的关键问题。社交网络的匿名性和影响力常常加剧问题,因为有害内容会迅速传播并影响大量受众。调节在线内容的传统方法在很大程度上取决于手动审查和用户报告。但是,这些方法耗时,效率低下,通常无法实时检测滥用内容。因此,在升级之前能够识别和缓解在线骚扰的自动化系统迫切需要。机器学习(ML)和自然语言处理(NLP)通过在社交媒体上自动检测有害内容来提供有希望的解决方案。
主要关键词