摘要 - 培训后的机器学习旨在从机器学习模型的训练数据集中删除点:例如,当用户要求删除其数据时。虽然已经提出了许多未学习的方法,但没有一个使用户能够审核该过程。此外,最近的工作表明,用户无法仅凭检查模型参数的检查就无法验证其数据是否是从模型参数中删除的。而不是关于参数的推理,我们建议将可验证的删除学习视为安全问题。为此,我们提出了第一个对可验证的验证的加密定义,以正式捕获未学习系统的保证。在此框架中,服务器首先计算了该模型在数据集d上训练的证明。给定用户的数据点D要求删除,服务器使用未学习算法更新模型。然后,它提供了正确执行未学习和D /∈D'的证明,其中D'是新的训练数据集(即已删除了D)。我们的框架通常适用于我们作为可接受功能的不同学习技术。我们使用SNARKS和HASH链中的密码假设在框架中实例化协议。最后,我们为三种不同的学习技术实施了协议,并验证其对线性回归,逻辑回归和神经网络的可行性。
Miles Brundage 1† 、Shahar Avin 3,2† 、Jasmine Wang 4,29†‡ 、Haydn Belfield 3,2† 、Gretchen Krueger 1† 、Gillian Hadfield 1,5,30 、Klaaf Jing 67 、Helen Toner 8 , Ruth Fong 9 , Tegan Maharaj 4.28 , Pang Wei Koh 10 , Sara Hooker 11 , Jade Leung 12 , Andrew Trask 9 , Emma Bluemke 9 , Jonathan Lebensold 4.29 , Cullen O'Keefe , Mark Koren 11 13 , Théo Ryffel 14 , JB Rubinovitz 15 , Tamay Besiroglu 16 , Federica Carugati 17 , Jack Clark 1 , Peter Eckersley 7 , Sarah de Haas 18 , Maritza Johnson 18 , Ben Laurie 18 , Alex Ingerman 18 , Amanda Kraw 19 , Amanda Askew , Rosario Cammarota 20 , Andrew Lohn 21 ,大卫·克鲁格 4.27 , 夏洛特·斯蒂克斯 22 , 彼得·亨德森 10 , 洛根·格雷厄姆 9 , 卡丽娜·普伦克尔 12 , 比安卡·马丁 1 , 伊丽莎白·西格 16 , 诺亚·齐尔伯曼 9 , 塞吉安 23 , 弗伦斯·克鲁格 23 , 吉里什·萨斯特里 1 , 丽贝卡·卡根 8 , 阿德里安·韦勒 16.24 , 谢志伟 12.7 , 伊丽莎白·巴恩斯 1 , 阿兰·达福 12.9 , 保罗·沙尔 25 , 阿里尔·赫伯特-沃斯 1 , 马丁·拉瑟 25 , 沙尔根 4.27 , 卡里克·弗林 8 , 托马斯·克伦德尔·吉尔伯特 26 , 丽莎·戴尔 7 , 赛义夫·汗 8 , 约书亚·本吉奥 4.27 ,马库斯·安德永 12
2017。自动驾驶安全性:跨学科挑战。IEEE智能运输系统杂志。 Koopman和Wagner。 2019。 为什么深度学习AI如此容易愚弄。 自然。 D.天堂。 2020。 可在物理上可实现的对抗性示例,用于雷达对象检测。 在IEEE/CVF计算机视觉和模式识别会议的会议记录中。 tu等。 2020。 自动驾驶的深度多模式对象检测和语义分割:数据集,方法和挑战。 IEEE交易智能运输系统。 冯等。 2022。 可解释的深度学习:初学的现场指南。 人工智能研究杂志。 Ras等。 2022。 自动驾驶标准和开放挑战。 P. Koopman。 2023。 密集的强化学习,用于对自动驾驶汽车的安全验证。 自然。 冯等。IEEE智能运输系统杂志。Koopman和Wagner。 2019。 为什么深度学习AI如此容易愚弄。 自然。 D.天堂。 2020。 可在物理上可实现的对抗性示例,用于雷达对象检测。 在IEEE/CVF计算机视觉和模式识别会议的会议记录中。 tu等。 2020。 自动驾驶的深度多模式对象检测和语义分割:数据集,方法和挑战。 IEEE交易智能运输系统。 冯等。 2022。 可解释的深度学习:初学的现场指南。 人工智能研究杂志。 Ras等。 2022。 自动驾驶标准和开放挑战。 P. Koopman。 2023。 密集的强化学习,用于对自动驾驶汽车的安全验证。 自然。 冯等。Koopman和Wagner。2019。为什么深度学习AI如此容易愚弄。自然。D.天堂。2020。可在物理上可实现的对抗性示例,用于雷达对象检测。在IEEE/CVF计算机视觉和模式识别会议的会议记录中。tu等。2020。自动驾驶的深度多模式对象检测和语义分割:数据集,方法和挑战。IEEE交易智能运输系统。冯等。2022。可解释的深度学习:初学的现场指南。人工智能研究杂志。Ras等。 2022。 自动驾驶标准和开放挑战。 P. Koopman。 2023。 密集的强化学习,用于对自动驾驶汽车的安全验证。 自然。 冯等。Ras等。2022。自动驾驶标准和开放挑战。P. Koopman。2023。密集的强化学习,用于对自动驾驶汽车的安全验证。自然。冯等。
摘要 在设计和实施自主系统时,主要的(如果不是最关键的)困难之一是决策结构和逻辑路径的黑箱性质。人类价值观如何在现场体现和实现最终可能会被证明是有害的,甚至是完全顽固的。因此,考虑到智能代理的不透明结构所带来的风险,利益相关者的价值观变得尤为重要。本文探讨了如何通过自动驾驶汽车的信念-愿望-意图模型设计决策矩阵算法,以最大限度地降低不透明架构的风险。主要通过明确地面向可解释性和可验证性的价值进行设计。为此,本研究采用价值敏感设计 (VSD) 方法作为将这些价值观纳入设计的原则框架。VSD 被认为是一个潜在的起点,它为工程团队提供了一种系统的方法,可以将现有的技术解决方案正式纳入道德设计中,同时保持对新出现的问题和需求的灵活性。结论是,VSD 方法至少提供了一个足够强大的基础,设计师可以从此开始预测设计需求并制定突出的设计流程,以适应自动驾驶汽车所需的不断变化的道德环境。
可验证延迟函数 (VDF) 是一种加密原语,设计用于在规定的时间 t 内进行计算,而不管可用的并行计算能力如何,同时在计算完成后仍然易于验证。VDF 用于各种应用,例如随机数生成和区块链共识算法,其中需要延迟以确保某些操作不会执行得太快。关于 VDF 的开创性论文“可验证延迟函数”于 2018 年由 Boneh、Bonneau、Bünz 和 Fisch 发表 [ 9 ]。在论文中,作者介绍了 VDF 的概念,并描述了它在拍卖协议、工作量证明系统和安全多方计算等各种应用中的潜在用途。第一个有效的 VDF 是由 Pietrzak [ 42 ] 和 Wesolowski [ 50 ] 提出的;这两个 VDF 都基于未知顺序群的幂运算。我们参考 [ 10 ] 对这些 VDF 进行了概述。在寻找一种同时具有量子抗性的 VDF 这一未解决的问题的驱动下,De Feo、Masson、Petit 和 Sanso [ 25 ] 使用超奇异同源链作为“顺序慢速”函数来构建他们的 VDF。然而,考虑到双线性配对的使用,这种基于同源的 VDF 不具有量子抗性,而只提供一些量子烦恼。证明同源性的知识
选举守卫是一套灵活的开源工具,当与传统选举制度一起使用时,可以通过观察员,候选人,媒体甚至选民本身来验证端到端可验证的选举。选举守卫已被整合到各种系统中,并在威斯康星州,加利福尼亚,爱达荷州,犹他州和马里兰州的实际公共选举中以及美国国会的核心小组选举中使用。它也已在巴黎郊区的Neuilly-Sur-Seine郊区以及由瑞士/丹麦的组织进行在线选举中进行了公民投票。选举守卫的主要创新是加密工具与投票系统的核心力学和用户界面的分离。这种分离允许安全专家设计和构建加密的,而无需重新发明和替换现有的基础架构。的确,在其首选部署中,选举守卫并没有重新安置现有的投票,而是与基础架构进行统计,而是与自己的独立可验证的级别一起运行。尽管通过设计而非新颖的是,但在选举守卫中的许多加密图是引入了一些重要的创新,这极大地简化了验证过程。本文描述了选举守卫的设计,其创新以及许多从实施和不断增加的现实部署中的学习。
自 1984 年 Bennett 和 Brassard[1]提出量子密钥分发 (QKD) 协议以来,量子密码学引起了广泛的关注。它的安全性由海森堡不确定性原理、量子不可克隆定理等量子力学原理保证。量子密码学可以提供无条件安全的优势,使得量子密码学的研究越来越重要。目前,量子密码学的许多重要分支已被发展起来,如量子密钥分发[2,3]、量子签名 (QS)[4–6]、量子隐形传态 (QT) [7]、量子认证 [8]、确定性安全量子通信 [9]。量子签名可用于验证发送者的身份和信息的完整性。仲裁量子签名 (AQS) 因具有许多优点而备受关注。2002 年,曾文胜等 [9] 在量子密码学中提出了一种基于仲裁的量子签名方案。 [ 10 ] 利用格林-霍恩-泽林格 (GHZ) 态和量子一次性密码本 (QOTP) 提出了第一个仲裁量子签名方案。该方案在经典仲裁数字签名的设计基础上,利用可信第三方仲裁员提供的在线签名为签名者和接收者提供重新验证服务。2008 年,Curty 和 Lutkenhaus [ 11 ] 研究了该方案 [ 10 ],他们认为该方案描述不清楚,安全性分析不正确。针对 Curty 等人的争议,曾等人 [ 12 ] 更详细地证明了该方案 [ 10 ]。2009 年,为了降低协议的复杂度和提高效率 [ 10 ],李等人 [ 12 ] 提出了一种仲裁量子签名方案 [ 10 ]。 [ 13 ] 提出了一种基于Bell态而非GHZ态的AQS方案,并证明了其在传输效率和低复杂度方面的优势。遗憾的是,2010年,Zou和Qiu [ 14 ] 认为李的AQS方案可以被接收方否认,并提出了利用公告板等不使用纠缠态的安全方案的AQS协议。他们的方案进一步简化了李等人的协议,并利用单粒子设计了可以抵抗接收方否认的改进AQS方案,从而降低了AQS的物理实现难度。然而,2011年,Gao等人[ 15 ] 首次从伪造和否认方面对先前的AQS方案进行了全面的密码分析。
混合搜索利用词汇和语义搜索的优势,有效地找到具有精确匹配和类似含义的文档。y timiquel y优先级文档,并提供了平衡的方法。
本文的会议版本发表在第 48 届国际密码技术理论与应用会议 (EUROCRYPT 2019) 的论文集上。∗ 由 AFOSR YIP 奖项编号 FA9550-16-1-0495 和西蒙斯计算理论研究所的量子博士后奖学金资助。† 本工作部分是在 AG 加入 IRIF、CNRS/巴黎大学时进行的,在那里他得到了 ERC QCC 的支持,本工作部分是在 AG 加入 CWI 和 QuSoft 时进行的,在那里他得到了 ERC Consolidator Grant 615307-QPROGRESS 的部分支持。‡ 由 NWO Veni 创新研究基金 (项目编号 639.021.752) 资助; NWO Klein 资助项目编号为 OCENW.KLEIN.061;以及 CIFAR 量子信息科学计划。§ 由 NSF CAREER 资助项目 CCF-1553477、MURI 资助项目 FA9550-18-1-0161、AFOSR YIP 奖励编号 FA9550-16-1-0495 和 IQIM(NSF 物理前沿中心)(NSF 资助项目 PHY-1125565)以及戈登和贝蒂摩尔基金会(GBMF-12500028)提供支持。
验证安全代码(CSV):PFIRMA-52A9-C72A-833A-6FD6-B8B4-539D-79B5-79B5-8481可验证:日期:06/24/2024 13:22 | div>