Instagram 将使用人工智能来防止照片和评论中的攻击

去年,Instagram 推出了先进的评论过滤器,该过滤器使用机器学习来识别复杂上下文中的冒犯性单词和短语。现在,该公司正在对照片和标题采取类似的方法。

来源:Robogeek新闻频道(关于机器人技术的俄罗斯与世界新闻)

去年,Instagram 推出了先进的评论过滤器,该过滤器使用机器学习来识别复杂上下文中的冒犯性单词和短语。现在,该公司正在对照片和标题采取类似的方法。

因此,它已经宣布使用人工智能来“主动检测欺凌行为”,然后再将内容发送给主持人审核。新功能将在未来几周内向用户推出。同样的技术也将被添加到视频中以过滤评论。

这是自 Instagram 新任首席执行官 Adam Mosseri 上任以来发布的第一个产品公告,他在上个月创始人 Kevin Systrom 和 Mike Krieger 匆忙离职后接任。据报道,此次分裂源于两位管理员与母公司 Facebook 之间持续紧张的关系,Facebook 经常干扰 Instagram 的运营。

随着公众对 Facebook 的信任度下降,Instagram 仍然是该公司产品阵容中的一个亮点。这一资源仍然很受欢迎且有利可图,并且尚未因破坏 Facebook 信任的丑闻而受到玷污。在这种情况下,使用人工智能来帮助清除攻击性信息并保持 Instagram 作为良好幽默和积极情绪的存储库非常重要。

值得注意的是,Instagram不仅会分析照片的评论,还会直接控制照片本身。人工智能识别出的潜在欺凌行为的一个例子是屏幕上的比较图像,其中一个人可能会与另一个人进行负面比较。目前尚不清楚人工智能还会寻找哪些其他因素。