ChatGPT“造成了难以言喻的混乱”3,对其“阴暗面”表示担忧,敦促企业为人工智能接管做好准备4,并警告大型语言模型的“黑暗风险”,以及当人工智能编写的文本与人类编写的文本变得无法区分时对人类造成的后果5。此外,还有一些人认为人工智能工具的引入对人类的创作过程构成了威胁,认为可以通过使用提示来创建文本或图片,而不是费力但有益的写作和绘画过程6。《自然》杂志的编辑(《ChatGPT 等工具……》,2023 年)指出,“ChatGPT 可以撰写出像样的学生论文,总结研究论文,很好地回答问题以通过医学考试并生成有用的计算机代码”。事实上,一些作者甚至宣称大学论文已经消亡,因为学生使用人工智能技术来撰写论文7。