生成式人工智能可能会产生不可接受或非法的结果，包括错误信息、知识产权侵权、深度伪造、个人信息、诽谤性言论以及歧视性、偏见性和有害性内容。目前正在开发技术防护手段，但考虑到相关计算的复杂性，预测所有情况下人工智能的行为相当困难。此外，大多数国家的知识产权法都是在人工智能技术出现之前制定的，这给人工智能成果的所有权带来了不确定性。