越来越多地将商业、科学、政府和个人活动委托给人工智能代理(能够在有限监督下实现复杂目标的系统),可能会加剧现有的社会风险并引入新的风险。理解和减轻这些风险涉及严格评估现有的治理结构、在必要时修改和调整这些结构,以及确保关键利益相关者的责任。有关某些人工智能代理在何处、为何、如何以及由谁使用的信息(我们称之为可见性)对于这些目标至关重要。在本文中,我们评估了三类提高人工智能代理可见性的措施:代理标识符、实时监控和活动日志记录。对于每一种措施,我们都概述了在侵入性和信息量方面各不相同的潜在实现。我们分析了这些措施如何应用于从集中到分散的部署环境,并考虑到供应链中包括硬件和软件服务提供商在内的各种参与者。最后,我们讨论了我们的措施对隐私和权力集中的影响。进一步了解这些措施并减轻其负面影响有助于为人工智能代理的治理奠定基础。
主要关键词