Science & Tech Spotlight: Malicious Use Of Generative AI
为什么这很重要生成式人工智能的使用正在迅速增长，并且继续以新的方式应用于公共和私营部门。但生成式人工智能也可以用于破坏性的方式。这包括制作有害内容、获取敏感信息或执行恶意指令。即使采取了适当的保护措施，当前的生成式人工智能系统也无法免受此类滥用的影响。关键要点攻击者拥有许多不同的恶意技术，可以有效地对抗生成式人工智能系统。人工智能的保障和防御需要持续开发和大量资源来维护。政策制定者面临着开发及时解决方案以应对快速变化的用途和威胁的挑战。该技术什么是恶意使用？攻击者或其他用户可能导致生成人工智能 (AI) 系统产生有害内容、泄露敏感信息或执行其他违背其预期目的和内置防护措施的指令。这包括网络犯罪
