摘要 本研究评估了对话式人工智能 (CAI) 在纠正认知偏差和识别人机交互中的情感方面的有效性,这对于数字心理健康干预至关重要。认知偏差——系统性偏离规范思维——会影响心理健康,加剧抑郁和焦虑等状况。治疗聊天机器人可以使认知行为疗法 (CBT) 更易于获得且更实惠,提供可扩展和即时的支持。该研究采用结构化方法,使用基于临床的虚拟案例场景模拟典型的用户-机器人交互。在两类认知偏差中评估了表现和情感识别:心智理论偏差(人工智能拟人化、对人工智能的过度信任、归因于人工智能)和自主性偏差(控制错觉、基本归因错误、公正世界假设)。使用定性反馈机制和序数量表来量化基于准确性、治疗质量和对 CBT 原则的遵守情况的反应。通过脚本交互评估治疗机器人(Wysa、Youper)和通用 LLM(GTP 3.5、GTP 4、Gemini Pro),由认知科学家和临床心理学家双重审查。统计分析表明,治疗机器人在偏见纠正方面始终优于非治疗机器人,并且在 6 种情感识别偏见中有 4 种表现出色。数据表明,非治疗聊天机器人在解决某些认知偏见方面更有效。关键词:认知偏见、对话式人工智能、聊天机器人、数字心理健康、偏见纠正、情感识别 * 通讯作者。电子邮件:marcin.rzadeczka@umcs.pl,邮寄地址:Wydział Filozofii i Socjologii UMCS, pl。Marii Curie-Skłodowskiej 4, pok。204, 20-031 卢布林数据和协议:https://data.mendeley.com/datasets/h2xn2bxz5r/1 预印本 doi:https://doi.org/10.48550/arXiv.2406.13813
ChatGPT 的趋势很难被忽视,因为该工具自 2022 年底以来就一直是媒体的头条新闻。除了众多相关用例之外,OpenAI 的解决方案的可访问性和自然语言质量也使其脱颖而出。虽然生成式人工智能并不新鲜——当然也不是人工智能——但到目前为止,它只是特定专家和研究实验室的领域。ChatGPT 的真正革命性不在于技术本身,而在于它针对广泛受众的能力。与社交网络和其他数字应用一样,生成式人工智能已迅速进入企业领域。63% 的法国公司正在考虑将生成式人工智能引入他们的工作方法中。1 原因是,虽然只有 13% 的员工每天使用生成式人工智能,但几乎一半 (45%) 的员工每周使用它几次。然而,很少有人确切知道生成式人工智能是什么或它是如何工作的。虽然 71% 的法国人听说过它,但只有 36% 的人了解它。因此,大多数用户不一定意识到生成式人工智能的风险,尤其是 ChatGPT。这种缺乏意识可能会给公司带来严重后果:68% 的员工在工作中使用 ChatGPT 时没有告知雇主。2
创建对话式人工智能的科学和艺术涵盖了计算机科学的多个领域。学习和利用这些领域的进步来创建最先进的对话式虚拟助手是本课程的核心重点。在整个课程中,学生将实践端到端虚拟助手的创建,涵盖自然语言处理、对话管理、响应生成和其他应用程序。学生还将使用涵盖传统技术和尖端技术的工具来创建这些人工智能,以创造超越现有虚拟助手的新体验。学生的任务是将他们创建的人工智能体验与他们选择的一组真实 API(例如 Spotify、Fitbit、Unity 等)集成在一起。该项目以演示日结束,在演示日中,将分享创作供其他人尝试,在本学期,这些公开演示将以视频提交的形式发布在课程网站上。
• 只有在明确定义 GenAI 模型输出要求的主题专家的帮助下,偏见才能得到缓解。确定应保护公平性的受保护类别(例如性别、种族)以及应如何衡量公平性和包容性尤为重要。 • 虽然 GenAI 可以帮助审查和开发代码以及找到解决逻辑和技术问题的方法,但逻辑和数学推理的正确性不能被视为理所当然。 • 虽然 GenAI 可以成功地自动生成平凡的预约取消电子邮件,但 GenAI 系统生成的内容应始终经过事实核查。只有人为参与才能减轻幻觉的风险以及算法可能泄露敏感数据或不情愿地复制训练数据中已经存在的内容的风险。 • 只有经验丰富的创意人员和设计师才能验证 GenAI 模型生成的内容是否符合您的企业品牌、愿景和语气。 ChatGPT 的沟通风格是通过平均化示例来预测序列中最有可能出现的下一个单词,这可能缺乏个性和吸引力。Gartner 预计,30% 的对外营销信息将在 GenAI 的帮助下开发。如果你盲目依赖 GenAI 算法的输出,你将如何脱颖而出?
生成人工智能技术在教学与学习中的发展(教学与学习)3.生成人工智能(Generative AI)是一种人工智能形式,它使用机器学习模型根据用户输入创建内容。生成式人工智能应用程序使用算法来操纵和合成数据,以创建各种形式的内容,这些内容看起来新颖、逼真,就好像它们是由人类制作的一样。生成式 AI 应用程序有多种形式,可以生成文本(如 ChatGPT 和 Jasper AI)、图像(如 Craiyon 和 Midjourney)、音乐(如 Amper 和 MuseNet)、语音(如 Speechify 和 Murf)、视频(如 Synthesia 和 DeepBrain.AI)等形式的内容。现在,有更多的应用程序正在或将被开发供各方使用,这是技术行业不断向前发展的趋势。4.总体来说,有多种生成式 AI 应用程序可用于 PdP,以快速、轻松地丰富信息发现。如果正确有效地使用,生成式人工智能可以用来支持 PdP。例如,它可以用于: