摘要:人工智能(AI)已深入整合到不同的系统中,改变了行业并重塑了我们的日常生活。但是,这种广泛的采用还引入了培训数据,AI模型和AI驱动系统的关键隐私风险。本演讲将通过这三个方面探索隐私挑战。首先,我将引入第一次高保真攻击,该攻击暴露于预先训练的模型和商业AI服务中培训数据的隐私漏洞。接下来,我将提出一种新颖的物理模仿攻击,突出了基于AI的身份验证系统固有的隐私风险。此外,我将讨论第一个旨在消除旨在保护其知识产权的扩散模型中基于触发的模型水印的无数据框架。最后,我将以看法的前瞻性观点来解决新兴生成的AI技术中的隐私风险,例如大语言模型和稳定的扩散模型。