生成式预训练 Transformer 大型语言模型的最新进展强调了在学术环境中不公平使用人工智能 (AI) 生成内容的潜在风险,并加大了寻找检测此类内容的解决方案的力度。本文研究了人工智能生成文本检测工具的一般功能,并根据准确性和错误类型分析对其进行了评估。具体来说,该研究试图回答以下研究问题:现有检测工具是否能够可靠地区分人类书写的文本和 ChatGPT 生成的文本,以及机器翻译和内容混淆技术是否会影响对人工智能生成文本的检测。该研究涵盖了 12 种公开可用的工具和两种在学术环境中广泛使用的商业系统(Turnitin 和 PlagiarismCheck)。研究人员得出结论,现有的检测工具既不准确也不可靠,主要偏向于将输出归类为人类书写的文本,而不是检测人工智能生成的文本。此外,内容混淆技术会显著降低工具的性能。该研究做出了几项重要贡献。首先,它总结了该领域最新的类似科学和非科学成果。其次,它展示了迄今为止最全面的测试之一的结果,该测试基于严格的研究方法、原始文档集和广泛的工具覆盖范围。第三,它讨论了在学术环境中使用检测工具检测人工智能生成的文本的含义和缺点。
可访问性、公平性、风险和道德:特定学生可能更熟悉生成式 AI 工具。根据 2023 年 5 月的皮尤研究中心的一项研究,家庭收入较高且受过正规教育的美国人更有可能了解 ChatGPT,而听说过 ChatGPT 的白人成年人使用聊天机器人进行娱乐、工作或教育的可能性始终低于亚裔、西班牙裔或黑人同龄人。有些人将这项技术视为弥补不平等的一种方式。目前,许多生成式 AI 工具都是免费的,但这些工具的更强大版本开始收取订阅费。有一些风险和实际预防措施需要牢记并与学生讨论:拥有这些工具的公司会收集信息,因此您和您的学生不应输入机密信息。查看您使用或建议作为课堂材料的任何工具的隐私政策。大型语言模型是根据来自互联网的信息进行训练的,因此它们的输出包含存在于这些数据中的误解、偏见、暴力、种族主义、性别歧视等。大型语言模型对知识产权的使用存在争议;有关侵犯知识产权的诉讼正在审理中。生成式人工智能会编造(产生)不存在但听起来合理的信息。生成式人工智能也会受到人类书写提示的偏见的影响。生成式人工智能工具不是搜索引擎;输出需要检查。并非所有生成式人工智能工具都符合《美国残疾人法案》定义的无障碍要求。人工智能公司因不公平的劳工行为而受到批评。
• 鼓励学生利用技术,包括生成式 AI 工具,来加深对课程材料的理解。• 学生可以在本课程中使用人工智能工具(包括生成式 AI)作为学习辅助工具或帮助完成作业。但是,学生最终要对他们提交的作业负责。• 学生必须将人工智能工具生成的任何内容以及用于生成内容的提示作为作业的附录提交。• 人工智能工具生成的任何内容都必须适当引用。许多发布标准引用格式的组织现在提供有关引用生成式 AI 的信息(例如 MLA:https://style.mla.org/citing-generative-ai/ )。• 学生可以选择在完成本课程的作业时使用生成式 AI 工具;此用途必须记录在每个作业的附录中。文档应包括使用了哪些工具、如何使用它们以及如何将 AI 的结果纳入提交的作品中。
SAE 认为 AI 应该增强而不是取代人类教学。通过利用 AI,我们的教育工作者可以在开发学习和教学方法时找到新的机会。我们还必须确保为毕业生提供进入创意媒体行业所需的技能,并在他们的工作流程中迅速采用 AI 工具。我们必须确保生成 AI 的使用不会取代创意媒体教育的其他重要方面,例如批判性思维、解决问题和协作。虽然生成 AI 可以成为产生新想法和探索创造性可能性的强大工具,但它无法取代这些核心技能的重要性。
在本课程中,您可以完全不受限制地使用基础模型(ChatGPT、GPT、DALL-E、Stable Diffusion、Midjourney、GitHub Copilot 以及之后的任何模型),用于任何目的,不会受到任何惩罚。但是,您应该注意,所有大型语言模型仍然倾向于编造不正确的事实和虚假引用,代码生成模型倾向于产生不准确的输出,而图像生成模型有时会产生极具攻击性的产品。无论最初来自您还是基础模型,您提交的任何不准确、有偏见、冒犯或其他不道德的内容都将由您负责。如果您使用基础模型,必须在提交的论文中承认其贡献;如果您未经承认就使用基础模型,您将受到惩罚。尽管有这些免责声明,我们还是鼓励使用基础模型,因为它可以让您在更短的时间内提交更高质量的作业。
凯捷是全球领先的企业合作伙伴,通过利用技术的力量帮助企业转型和管理业务。集团每天都在以“通过技术释放人类能量,实现包容和可持续的未来”为目标。凯捷是一家负责任的多元化组织,拥有来自 50 多个国家的近 35 万名团队成员。凭借 55 年的悠久历史和深厚的行业专业知识,凯捷深受客户信赖,能够满足客户从战略、设计到运营的全方位业务需求,而云、数据、人工智能、连接、软件、数字工程和平台等快速发展和创新的世界正是其推动力。集团 2022 年的全球营收为 220 亿欧元。
“我是一名人力资源沟通专家,拥有五年多的经验。在过去三年中,我一直负责 Hartley 公司的人力资源沟通工作。在这个职位上,我管理一个由三人组成的团队,我们负责向 8,000 名员工传达所有福利和政策。在此职位之前,我的职业生涯始于 General Financial 的人力资源协调员,两年间我学到了很多东西。当我的经理调到 Hartley 时,她邀请我一起负责他们的人力资源沟通工作。我很喜欢在 Hartley 的时光,但我开始考虑下一步该怎么做,因为目前的职位没有太多的成长空间。在我职业生涯的这个阶段,我觉得我已经准备好将我的技能运用到一个更全球化的组织中,以应对一些新挑战,这就是我如此感兴趣的原因这个职位。”这是我的简历:{resume}
LLM 在一个过程中逐字生成较长的文本。为了生成每个单词,LLM 根据前面的上下文为英语词汇表中的每个单词分配一个概率。上下文最初是我给系统的提示,然后通过添加 LLM 到那个时间点生成的每个单词来扩展。该模型不是取最有可能的单词,而是根据其可能性随机“采样”下一个单词。图中单词的颜色表明模型认为它在前面的上下文中出现的可能性有多大。“accomplished” 一词被涂成红色,因为模型认为它是低概率的延续,在前面的上下文中可能性小于 1%。以下是它可以选择的其他更高概率的单词,而不是输出“accomplished”:
