结合人工智能和人类专业知识,更好地保护 K-12 学生的在线安全

迫切需要有效的解决方案来保护学生免受自杀、自残、网络欺凌和接触有害内容等威胁。全面的 K-12 学生安全工具需要结合机器学习检测以实现速度和规模,以及人工审核以实现背景和细微差别。文章《结合人工智能和人类专业知识以更好地保护 K-12 学生在线》首先出现在教育和职业新闻中。

来源:教育和职业新闻

结合人工智能和人类专业知识,更好地保护 K-12 学生在线安全

结合人工智能和人类专业知识,更好地保护 K-12 学生在线安全

结合人工智能和人类专业知识,更好地保护 K-12 学生在线安全

内容警告 - 本文讨论自杀意念。如果您或您认识的人处于危机中,请致电、发短信或聊天 988 以联系 988 自杀和危机生命线,或访问 988lifeline.org 获取更多资源。

内容警告 - 本文讨论自杀意念。如果您或您认识的人处于危机中,请致电、发短信或聊天 988 以联系 988 自杀和危机生命线,或访问 988lifeline.org 988lifeline.org 获取更多资源。

人工智能是 2024 年的主要主题之一。讨论经常围绕其对工作的影响展开,但可以通过创新方式将其用于补充人类洞察力以应对重大社会挑战。

例如,根据美国疾病控制和预防中心的数据,自杀是 10-14 岁人群的第二大死亡原因(2022 年)。这影响到从家庭到教育工作者的每个人。在密苏里州的一个小镇,当一名学生搜索“服用多少泰诺会死亡?”和“自杀的最佳方法是什么?”时,一名 K-12 安全支持专家收到了警报。这些在线搜索触发了学校的学生安全工具,该工具使用机器学习来识别有害内容。专家立即收到通知并能够迅速干预,为学生提供必要的支持以防止自残。

根据美国疾病控制和预防中心的数据。 密苏里州 Neosho 区

另一个需要人工干预的例子是,当机器学习驱动的解决方案将解剖文本标记为露骨内容时,但这可能是合法的科学课程。人工审阅者可以通过检查学生年龄和科目等背景来验证教育意图。

94% GoGuardian

要了解更多信息,请访问 GoGuardian.com

要了解更多信息,请访问 GoGuardian.com