OpenBias

文本到图像生成模型中的开放式偏差检测

文本到图像生成模型正变得越来越流行，公众可以访问。由于这些模型看到大规模的部署，因此有必要深入研究其安全性和公平性，以免消散和永久存在任何形式的偏见。然而，存在的工作重点是检测封闭的偏见集，定义了先验的偏见，将研究限制为众所周知的概念。在本文中，我们解决了出现OpenBias的文本到图像生成模型中开放式偏见检测的挑战，该模型是一条新管道，该管道可识别和量化双质量的严重性，而无需访问任何预编译的集合。OpenBias有三个阶段。在第一阶段，我们利用大型语言模型（LLM）提出偏见，给定一组字幕。其次，目标生成模型使用相同的字幕绘制图像。最后，一个视觉问题回答模型认识到了先前提出的偏见的存在和范围。我们研究了稳定扩散1.5、2和XL强调新偏见的稳定扩散，从未研究过。通过定量实验，我们证明了OpenBias与当前的封闭式偏见检测方法和人类判断一致。