机构名称：
¥ 1.0
生成式人工智能的兴起正在改变数字图像的格局，并对在线创意社区产生重大影响。这导致了人工智能生成内容 (AIGC) 社交平台的出现，例如 Civitai。这些独特的社交平台允许用户构建和分享自己的生成式人工智能模型，从而增强了更多样化艺术表达的潜力。它们以社交网络的风格设计，还为艺术家提供了展示其作品（从模型生成）、参与讨论和获得反馈的手段，从而培养了社区意识。然而，这种开放性也引发了人们对此类平台滥用的担忧，例如使用模型传播欺骗性的深度伪造或侵犯版权。为了探索这一点，我们对 AIGC 社交平台进行了首次全面的实证研究，重点关注其用于生成滥用内容的情况。作为示例，我们构建了一个涵盖最大的 AIGC 社交平台 Civitai 的综合数据集。基于这个包含 87K 个模型和 2M 张图像的数据集，我们探索内容的特征并讨论审核策略以更好地管理这些平台。
探索在 Civitai 上使用滥用的生成式 AI 模型
主要关键词
相关文件推荐
