Snarkgpt

arxiv：2402.06414v1 [cs.lg] 2024年2月9日

诸如变形金刚这样的模型的生成AI在各个领域开辟了新的可能性，但也引起了人们对公平，透明和可靠性的关注，尤其是医学和法律等领域。本文强调了通过生成AI确保这些方法公平和质量的紧迫性。它使用加密技术（尤其是零知识证明（ZKP））探索，以解决对性能公正和准确性的担忧，同时保护模型隐私。将ZKP应用于Ma-Chine学习模型，称为ZKML（零知识机器学习），可以独立验证AI-I-Inti-Intergation contrication Aceration Actent，而无需揭示敏感的模型信息，促进透明度和信任。ZKML通过为模型预示例提供加密审核跟踪并确保用户统一的性能来增强AI的公平性。我们介绍了针对变形金刚的实用ZKML实现Snarkgpt，以授权用户验证输出准确性和质量，同时保留模型隐私。我们提出了一系列研究Snarkgpt的可伸缩性和能力的经验结果，以评估采用ZKML驱动方法来捕获生成AI模型中质量和表现公平问题的可行性和挑战。