详细内容或原文请订阅后点击阅览
社会工作者的人工智能工具对儿童的叙述进行“乱码”记录
一线工作人员表示，英格兰和苏格兰议会使用的转录工具错误地表明了自杀意念人工智能工具正在社会工作记录中犯下潜在的有害错误，从自杀意念的虚假警告到简单的“胡言乱语”。Keir Starmer 去年倡导了他所谓的“令人难以置信的”节省时间的社会工作转录技术。但与《卫报》共享的 17 个英格兰和苏格兰议会的研究现已发现，人工智能生成的幻觉正在悄然出现。继续阅读...
来源:教师网络 | 卫报教育博客一线工作人员表示，人工智能工具正在社会工作记录中犯下潜在的有害错误，从自杀意念的虚假警告到简单的“胡言乱语”。
Keir Starmer 去年倡导了他所谓的“令人难以置信的”节省时间的社会工作转录技术。但与《卫报》共享的 17 个英格兰和苏格兰议会的研究现已发现，人工智能产生的幻觉正在悄然出现。
随着许多地方当局开始使用人工智能记事本来加速记录和总结与成人和儿童服务用户的会议，艾达·洛夫莱斯研究所 (Ada Lovelace Institute) 进行的一项为期八个月的研究发现，“官方护理记录中出现了一些对人们经历可能有害的歪曲”。
该独立智库发现，一名使用人工智能转录工具创建摘要的社会工作者表示，该技术错误地“表明存在自杀意念”，但“客户实际上从未……谈论自杀意念或计划或任何事情”。
另一位人士表示，人工智能的笔记可能会提到“鱼指、苍蝇或树木”，而事实上，一个孩子正在谈论他们的父母打架。社会工作专家表示，此类故障尤其令人担忧，因为它可能会导致人们忽视危险的行为模式。
其他社会工作者对与带有地方口音的人的对话转录不准确表示担忧。一位人士描述了他们的人工智能生成的转录内容经常包含“胡言乱语”。另一个人说：“这在办公室里成了一个笑话。”
从克罗伊登到雷德卡和克利夫兰，数十个议会已为社会工作者提供了使用人工智能转录工具的机会，该工具可以记录和总结案例对话。潜在的时间节省对长期人员短缺的市政厅很有吸引力。
研究还发现，人工智能转录可显着节省时间，并使社会工作者能够更多地关注与服务用户的关系。
联系