暗黑模式在数字服务和监管中越来越普遍,描述了设计人员使用欺骗性、操纵性或强制性策略来鼓励最终用户做出不符合他们最佳利益的决定的情况。过去几年中,有关暗黑模式的研究也显着增加。在这篇系统综述中,我们评估了 2014 年至 2022 年期间对暗黑模式进行实证描述的文献(n=79),以确定这些模式在数字系统中的存在、影响或用户体验。根据我们的分析,我们确定了当前评估暗黑模式的背景、存在和影响的关键领域;描述了常见的学科观点和框架概念;描述了主导方法;并概述了进一步提供方法支持和学术研究的机会,以增强学者、设计师和监管者的能力。
Jennifer King 是斯坦福大学以人为本人工智能研究所 (HAI) 的隐私和数据政策研究员。作为国际公认的信息隐私专家,她的研究考察了公众对网络隐私的理解和期望,以及包括人工智能在内的新兴技术的政策影响。她最近的研究探索了通知和同意的替代方案(与世界经济论坛合作)、加州新隐私法的影响以及操纵设计(暗黑模式)。她还共同指导了斯坦福大学的暗黑模式提示热线存储库。在加入 HAI 之前,她于 2018 年至 2020 年担任斯坦福法学院互联网与社会中心的消费者隐私主任。King 博士在加州大学伯克利分校信息学院完成了信息管理和系统(信息科学)博士学位。
摘要:由于野火风险增加和相关损失,北加州的火灾保险变得更加困难。政策取消已经大幅上升,几家大型保险公司宣布,他们将不再发布新的保单。对于无法找到常规房屋保险的房主来说,唯一的保险替代品是加利福尼亚公平计划可获得的有限且昂贵的承保范围。位于中央塞拉斯州的县被取消保险特别受到打击。全州,公平计划在2021年涵盖了3%的火灾保险政策。但是,在塞拉中部的几个县,这个数字超过20%,不包括必须完全放弃火灾保险的房主。根据野火模拟模型,最近的三项研究支持了中央塞拉斯县在北加州野火引起的结构损失的风险最高的观点。这些模型对大火的频率以及潜在暴露于野火的房屋的百分比具有相当大的重量。中央塞拉斯(Sierras)发生了许多大火,并且在荒野植被附近的房屋中有很高的房屋,但是这些大火主要是燃料驱动的,几乎没有结构损失。2013 - 2022年在北加州的大多数住房损失是北部塞拉斯和旧金山北部北部湾区风动大火的结果。所有损失中有85%发生在国家气象局发出的大风危险警告(RFW)的火灾中。与中央塞拉斯州相比,在秋天的火灾季节,北山脉和北湾地区的RFW天平均更高60%。强烈的下坡“暗黑破坏神”风起源于塞拉斯山脉以东的大盆地沙漠,参与了2013 - 2022年的七个最高损失大火,其中包括塞拉斯北部的营地大火(13,600座房屋被摧毁)和北湾地区的塔布布斯火灾地区(4,600 Houses毁灭了北湾地区)。检查了整个山脉和海湾地区109个气象站的记录,以确定2006年至2022年秋季秋季强烈的暗黑破坏风事件(40+ mph)的位置和频率。位于营地大火附近的Jarbo Gap气象站记录了强烈的暗黑破坏神事件的最高频率,平均每年1.6天。第二高频率的车站位于北湾地区,平均每年为0.9天。总体而言,与湾区站相比,塞拉斯州的气象站在50%的天气上记录了强烈的暗黑破坏风。尽管中央塞拉斯州的几个站进行了强烈的暗黑破坏风事件,但这些车站几乎全部都处于几乎没有房屋的6,000英尺以上的高度。在塞拉斯南部的任何气象站都没有发现强的暗黑破坏风,除了位于8,000英尺范围内的南部范围内的熊峰站。所有七个暗黑破坏神的火都发生在那段时间内。由强烈的暗黑破坏风驱动的射击适合被称为“黑天鹅”事件的一类灾难 - 罕见的事件具有很大的影响。气候模型预测,由于内部沙漠的变暖,暗黑破坏风型的风应该减少,但是海湾地区和塞拉斯山脉的气象站都看到了2017 - 2021年在2017 - 2021年中强烈的Diabio风天数量的大量增加。由于这些火灾很少发生,因此它们对将数千个模拟的结果平均产生的风险估计产生最小的影响。超级概率分析(Ager等,2021),提供了一种使用野火模拟来确定这种高损失,低概率事件的风险的方法。应用超出概率方法的应用,再加上准确捕获极端风事件的发生和影响的仿真模型,应导致风险评估,以更匹配2013 - 2022年十年中的实际损失,同时降低分配给中央Sierras的相对风险评级(和公平的计划策略)。
网络勒索——访问暗黑内容或暗网的用户面临声誉受损的威胁,直到支付赎金为止。 网络恐怖主义——出于政治动机使用计算机和信息技术在社会上造成严重破坏或普遍恐惧。 暗黑内容——匿名代理、深度伪造和元宇宙将看到非法异常内容的升级。让用户遭受网络勒索。 深度伪造——使用深度学习创建令人信服的文本、图像、语音和视频恶作剧,导致虚假内容和假货。 数字加法——鼓励过度和有害行为,使用零售中的推荐系统和“边玩边赚”游戏中的代币化等技术。 经济波动 – 由于不可预测或故意的算法行为而导致的市场风险和危机(参见2010 年的闪电崩盘)。 错误信息 – 不准确或故意误导的信息导致算法偏差,以及由不良或故意偏差的训练数据导致的错误信息。 社会操纵 – 通过人工智能算法和错误信息进行社会和政治操纵。 社会监视 – 利用新兴技术进行监视,例如中国的社会信用体系。 武器化 – 由人工智能驱动的自主武器机器人。
尽管我们 2022 年 10 月的活动以及下面的员工观点和建议专门关注数字媒体中针对儿童的模糊广告,但我们必须认识到这一问题出现的更广泛背景。网上有许多针对儿童的新兴趋势,其中许多趋势导致或加剧了模糊广告带来的危害。我们现在生活在一个数字世界中,孩子们将相当一部分空闲时间(和上学时间)花在网上。他们发现自己处于游戏平台、虚拟现实和社交媒体等沉浸式环境中,其中许多环境使用技术让他们比以往任何时候都更长时间、更频繁地参与其中;他们与有影响力的人、化身和新兴的人工智能形式互动,形成模糊朋友和陌生人、人与计算机之间界限的准社会关系;他们是侵入性数据收集的对象,通常被用来向他们推销营销或内容;他们每天都会收到数百条广告,随着孩子们上网时间的增加,这个数字还在增加;他们被引诱进行购买或通过使用暗黑模式交出数据;他们特别容易受到这些数字环境中普遍存在的欺诈行为的侵害。此外,正如美国卫生局局长最近指出的那样,人们越来越担心屏幕成瘾和因屏幕时间增加而导致的心理健康问题。
o “黑暗中的作者”,《黑暗反射》。斯图尔特·乔伊编辑。计划于 2024-25 年推出关于德国 Netflix 系列《暗黑》的选集。 o 《融合时代的德国电视特刊》特邀编辑,研讨会:日耳曼研究杂志(出版物 2025) o “法提赫·阿金的《天堂边缘》(2007 年)中的书信传递。”电影、媒体和视觉艺术中的书信纠葛。泰瑞·希金斯和凯瑟琳·福勒编辑。阿姆斯特丹:阿姆斯特丹大学出版社,2023 年。259-273。 o “从发现中发光:施拉格(ZDF 1969-1984)如何击败迪斯科(ZDF 1971-1982)。”听起来很德国。民族与跨国十字路口上的战后德国流行音乐。柯克兰·A·富尔克 (Kirkland A. Fulk) 主编。纽约:伯格汉,2020 年。13-24 页。o “如何保持合作”,女性主义德国研究 36.1(2020 年夏季):71-84。o “故乡:流散 - 乌尔里希·赛德尔 (Ulrich Seidl) 的《天堂:爱》(Paradise: Love),2012 年)。”焦虑的旅程:当代德国旅行文学。Karin Baumgartner 和 Monika Shafi 编。罗彻斯特:Boydell & Brewer,2019 年。247-263。o “从光中发现:施拉格 (ZDF 1969-1984) 如何击败迪斯科 (ZDF 1971-1982)。《德国政治与社会》第 123 期,35.2(2017 年夏季):48-59。o(与 Carina Yervasi 合作)“重新设想全球互联课堂中的侨民。”人文学科的全球联网教学:理论与实践。Alexandra Schultheis-Moore 和 Sunka Simon 编。伦敦/纽约:劳特利奇出版社,2015 年。136-155。o “梦幻飞船惊喜 - 第 1 期。”世界电影目录:德国。米歇尔·兰福德编。伦敦:智力,2011 年。140-141。o “不可抗拒的纯真:魏玛共和国和纳粹时代施拉格的再利用。”重制