详细内容或原文请订阅后点击阅览
阿西莫夫机器人定律需要针对人工智能进行更新
1942 年，传奇科幻小说作家艾萨克·阿西莫夫在他的短篇小说《Runaround》中提出了机器人三定律。后来，这些定律在他的开创性短篇小说集《我，机器人》中广为流传。第一定律：机器人不得伤害人类，也不得因不作为而让人类受到伤害。第二定律：机器人必须服从人类的命令，除非这些命令与第一定律相冲突。第三定律：机器人必须保护自己的存在，只要这种保护不与第一定律或第二定律相冲突。虽然这些定律取材于小说作品，但几十年来，它们一直影响着人们对机器人伦理的讨论。随着人工智能系统（可视为虚拟机器人）变得越来越复杂和普及，一些技术专家发现阿西莫夫的框架对于考虑与人类互动的人工智能所需的潜在保障措施很有用。但现有的三定律还不够。今天，我们正在进入一个前所未有的人机协作时代，这是阿西莫夫几乎无法想象的。生成式人工智能能力的快速发展，尤其是在语言和图像生成方面，已经带来了超出阿西莫夫最初对身体伤害和服从的担忧的挑战。深度伪造、虚假信息和诈骗人工智能欺骗的泛滥尤其令人担忧。根据 FBI 的 2024 年互联网犯罪报告，涉及数字操纵和社会工程的网络犯罪造成的损失超过 1030 亿美元
来源:IEEE Spectrum _机器人1942 年，传奇科幻小说作家艾萨克·阿西莫夫在他的短篇小说《Runaround》中介绍了他的机器人三定律。这些定律后来在他的开创性故事集《我，机器人》中广为人知。
1942 年，传奇科幻小说作家艾萨克·阿西莫夫在他的短篇小说《Runaround》中介绍了他的机器人三定律。这些定律后来在他的开创性故事集《我，机器人》中广为人知。 科幻小说 艾萨克·阿西莫夫 机器人 我，机器人 我，机器人 。- 第一定律：机器人不得伤害人类，也不得因不作为而使人类受到伤害。第二定律：机器人必须服从人类的命令，除非这些命令与第一定律相冲突。第三定律：机器人必须保护自己的存在，只要这种保护不与第一定律或第二定律相冲突。
虽然这些定律源自小说作品，但几十年来，它们一直影响着人们对机器人伦理的讨论。随着人工智能系统（可视为虚拟机器人）变得越来越复杂和普及，一些技术专家发现阿西莫夫的框架对于考虑与人类互动的人工智能所需的潜在保障措施很有用。
生成式 AI