为了保障公共安全而进行的技术监控(例如,摄像头、传感器、手机、 OSINT)渗透到个人生活的方方面面。在本文中,我们提出了这样一种观点,即人工智能的加入改变了监控生态系统的运作方式,因此值得产生一个新概念:监控人工智能生态系统。监控人工智能生态系统由相互关联的不同参与者(技术、人类、超人类、组织等)组成,所有这些参与者都参与了人工智能辅助的监控任务。它们不仅包含任何技术生态系统的通常复杂性,还包含人工智能的额外复杂性,具有技术和社会方面的新兴特征。我们主张在人工智能生态系统中开展工作时采用多方面视角,并描述(受人类学启发的)理解和解开人工智能监控生态系统的方法。民主控制的人工智能监控的发展需要系统地考虑五重螺旋(公共、私人、民间社会、学术界、自然)中的伦理、法律和社会方面(ELSA)。我们强调明确定义五重螺旋的哪些观点在人工智能监控中被考虑,哪些观点没有被考虑,以实现一套透明的(ELSA)价值观来指导人工智能监控的开发和实施。我们提供了一个示例,说明我们如何在智能城市技术开发和应用的试验场(即所谓的“生活实验室”)的背景下开发和应用(部分)这些方法。在这里,我们采取积极参与学者作为“批判性朋友”的立场,参与复杂的创新和评估过程。我们与该领域的对话伙伴一起,梳理和反思我们所探索的生活实验室设置中蕴含的(公共安全)价值观。最后,我们呼吁人们不要将监控人工智能系统理解为一个需要解决的问题,而要将其理解为一个需要高度多样化的利益相关者讨论的持续过程。
主要关键词