摘要 - 随着自主驾驶技术的成熟,其关键组成部分的安全性和鲁棒性,包括传统预测至关重要。尽管诸如Waymo Open Motion之类的现实世界数据集提供了记录的实际场景,但大多数场景看起来很良性,通常缺乏各种各样的关键安全情况,这对于针对细微的风险开发可靠的模型至关重要。但是,使用模拟面对严重的模拟生成安全性数据,以使实际间隙进行严重的模拟。由于安全风险,使用现实环境甚至不太理想。在这种情况下,我们提出了一种方法来利用现有的现实数据集,通过识别安全的方案被纯粹地忽略了,例如,近距离失误和主动的动作。我们的方法扩大了安全率的范围,使我们能够在安全性的分配变化设置下研究轨迹预测模型。我们贡献了一种多功能方案表征方法,这是一种新的评分方案,用于使用反事实场景来重新评估场景以查找隐藏的风险场景,以及在这种情况下对轨迹预测模型的评估。我们进一步贡献了一种补救策略,实现了预测轨迹的碰撞率的平均降低10%。为了促进未来的研究,我们向公众发布了该整体安全式框架的代码:github.com/cmubig/safeshift
摘要:自主 CPS(信息物理系统)系统由信息和物理组件共同组成,共同实现物理世界中的高度自动化操作。此类系统的显著例子包括自动驾驶 (AD) 车辆和送货无人机/机器人,它们在现实世界中得到越来越多地部署和商业化。具体而言,由于 AD 技术在驾驶安全、效率和移动性方面具有显著优势,它一直是国际上的追求。在首届 DARPA 大挑战赛举办 15 年后,它的开发和部署变得越来越成熟和实用,一些 AD 车辆已经在公共道路上提供商业服务(例如凤凰城的 Google Waymo 和中国的百度阿波罗)。在 AD 技术中,AI 堆栈对安全性至关重要:它负责安全关键的驾驶决策,例如避免碰撞和车道保持,因此其中的任何安全问题都可能直接影响道路安全。在本次演讲中,我将介绍我最近的研究,该研究启动了第一次系统性的努力,旨在理解和解决工业级 AD AI 堆栈中的安全问题。我将重点介绍两个关键模块:感知和定位,并讨论我们如何能够发现新颖且实用的传感器/物理世界攻击,这些攻击可能导致端到端安全影响,例如撞上障碍物或越野驾驶。我还将简要介绍我最近对智能交通领域 AI 堆栈安全性的研究,尤其是由联网汽车 (CV) 技术支持的智能交通领域。最后,我将讨论防御和未来的研究方向。
Altair (JuneSang Lee) AMD (Xilinx) (Bassam Mansour) Ansys Curtis Clark, Wei-hsing Huang, Minggang Hou*, Xi Hu* Applied Simulation Technology (Fred Balistreri) Aurora System Dian Yang, Raj Raghuram Broadcom (Yunong Gan) Cadence Design Systems Kyle Lake, Jared James, John Philips, Kristoffer Skytte,Dingru Xiao*,Jianping Kong*,Shengli Wang*,Shiying Fang*,Zuli Qin*Celicesta(Sophia Feng)(Sophia Feng),Echo lv*,Lurker Li*Cisco Systems(Stephen Scearce) (Balaji Sankarshanan)Google(Hanfeng Wang)华为技术Danilo di febo,Marco de Stefano,Hang(Paul)Yan* Infineon Technologies AG(Christian Sporrer)(Christian Sporrer)Instituto de telecomunicaCisicecomecomenice,Abdelgader Abdalla) Mirmak, Hsinho Wu, Chuanyu Li* Keysight Technologies Ming Yan, Douglas Burns, Fangyi Rao, Pegah Alavi, Hee-Soo Lee, Heidi Barnes, Chuanbao Li*, Jiarui Wu* Marvell Steven Parker MathWorks Graham Kus, Walter Katz, Kerry Schotz Micron Technology [Randy Wolff],贾斯汀·巴特菲尔德(Justin Butterfield) Stahlberg,Todd Westerhoff,Scott Wedge,Randy Wolff Stmicroelectronics Olivier Bayet,Rahul Kumar,Raushan Kumar,Raushan Kumar,Manish-FTM Bansal,Sameer Vashishtha Synopsys Synopsys ted Mido(Tushar Pandey),Tushar Pandey) Teraspeed Labs Bob Ross Waymo [Zhiping Yang],(Ji Zhang)中兴公司(Shunlin Zhu),Changgang Yin*,Jian Huang*,Ming Zheng*
Soona Amhaz (Volt Capital)、James Ball (Nethermind)、Anna Bertha (DCG)、Casey Caruso (Topology)、Cheryl Chan (Dragonfly)、Grace Deng (SevenX)、Lucas Chu (C-Haus 和创始人,隐身)、Shumo Chu (Nebra)、Chang Gao (Waymo)、Tian Gao (斯坦福机器人实验室)、Yarco Hayduk (Pragma Ventures)、Richard He (Openmart)、Yu Hu (Kaito AI)、Nathan Jay (Nethermind)、Yuchen Jin (Hyperbolic)、Sami Kassab (Crucible Labs)、Anna Kazlauskas (Vana)、Anika Lakhani (哈佛区块链)、Tony Lau (Primitive Ventures)、Kevin Leffew (Coinbase 开发者平台)、Shujia Liang (PrismaX)、Kent Lin (Optimum)、Huihan Liu (UT Austin Robotics)、Niels Ma (耶鲁区块链和 BuidlerDAO)、Devishree Mohan (OpenLedger)、 Lincoln Murr(Coinbase 开发者平台)、Akilesh Potti(Ritual)、Gengmo Qi(Dragonfly/IC3)、Gil Rosen(Blockchain Builders Fund)、Bill Shi(Pond)、Joshua Simenhoff(Ritual)、Ben Siraphob(耶鲁大学,邵钟实验室)、Jiahao Sun(Flock.io)、Xyn Sun(Flashbots Teleport)、Trace(Standard Crypto)、Nima Vaziri(EigenLayer)、Alex Tong(哈佛大学,杨衡实验室)、Matthew W(OpenGradient)、Dovey Wan(Primitive Ventures)、Dave Wang(Love.ai)、Steven Willinger(Blockchain Builders Fund)、Kathryn Wu(Openmart)、Kenzi W(Symbolic)、Michael Wu(Amber)、Joshua Yang(Hyperion Ventures)、Jay Yu(斯坦福区块链俱乐部)、Dylan Z(Pond)、George Zhang(Flashbots)、Jasper Zhang(Hyperbolic)、 SH Zhong(牛津机器人研究所)以及不愿透露姓名的业界朋友,我们深深感谢你们的大力支持。
收件人:州长 Brian Kemp 副州长 Burt Jones 众议院议长 Jon Burns 参议院财政委员会主席 Chuck Hufstetler 众议院筹款委员会主席 Shaw Blackmon 发件人:Invest Georgia 执行董事 Knox Massey LCG Associates,Invest Georgia 基金管理人 主题:2023 年投资佐治亚计划年终报告 日期:2023 年 12 月 31 日 Invest Georgia 基金投资组合概览 截至 2023 年 6 月 30 日,Invest Georgia 基金(根据 2013 年通过的立法创建)已将 100% 的州拨款资金投入 16 只种子基金、风险投资基金和成长型股权基金。这些基金已调用总资本的 68% 进行投资;截至第三季度末,尚未调用的资本为 32%。自 2015 年 Invest Georgia 计划启动以来,Invest Georgia 的 16 只风险投资和增长基金总计投资了 117 家位于佐治亚州的公司。Invest Georgia 投资组合中的公司雇佣了 3979 名佐治亚州居民,与 2022 年报告的 3596 名员工相比增长了 10.6%。这些位于佐治亚州的公司涉及多个市场,包括:人工智能、机器智能;数据和分析;金融科技、用于支付和其他自动化金融服务的“金融科技”;支持从销售线索生成到供应链管理等各种业务服务的软件;包括机器人和无人机的运输和物流业务;医疗信息技术;医疗服务;网络安全和欺诈检测平台。创始团队 John Jakomin、Chris Smith 和 Dennis Siedlak 曾就职于特斯拉、Waymo
机器学习(ML)与网络物理系统(CPS)的整合已彻底改变了各个部门,包括转移,物流,服务行业和医疗保健,以及自动驾驶汽车等创新(Waymo [63],Tesla Autopilot [56] 70])和机器人手术(Da Vinci [15],Ma-Zor [43],Mako [42])。然而,这些进步引起了严重的安全问题,报道的事件发生了死亡和经济损失[25,47,53,61]。解决这些问题需要严格的验证和阀门,由于基于学习的CP的复杂性,带来了独特的挑战。这些系统结合了诸如感知和计划之类的关键机器学习组件,如在Au的驾驶中所示,使它们与传统软件系统明显不同。这种复杂性,涉及软件开发生命周期的范式转移以结合数据和学习,需要在验证和验证技术方面采用新颖的方法[3,54]。我们提出了最初的效果,以探索实用的测试策略,以实现验证和验证以学习为基础的CPS。鉴于CPS行业中测试的广泛使用以及有关该主题的最新文献的大量文献,这种重点特别重要。从针对学习的CPS的当前最新测试方法的摘要中,我们提出了一个路线图来形式化测试效果。更具体地,我们使用大型语言模型(LLM)从现有规则和法规中提取人类知识,并分析由学习支持的CPS生成或捕获的大量数据,包括传感器数据和日志。通过提取人类知识和分析数据,LLM可以对系统的行为有所了解,并产生大量现实和高质量的测试数据。随着这种提高的数据质量,采用数据驱动的学习来提取基本的正式规格变得可行。
Altair (JuneSang Lee) AMD (Xilinx) (Bassam Mansour) Analog Devices Jermaine Lim-Abroguena Ansys Curtis Clark* Ansys Japan Satoshi Endo Applied Simulation Technology (Fred Balistreri) Aurora System (Dian Yang), Raj Raghuram Broadcom (Yunong Gan) Cadence Design Systems Kyle Lake, Ambrish Varma,贾里德·詹姆斯(Jared James),约翰·菲利普斯(John Phillips),克里斯托弗·斯凯特·塞抗阿(Sophia Feng)思科系统(Stephen Scearce),Hong-Man Wu Dassault Systemes(Stefan Paret)GE Healthcare Technologies(Balaji Sankarshanan) Telecomunicações (Abdelgader Abdalla) Intel Corporation Michael Mirmak*, Hsinho Wu*, Kinger Cai, Chi-te Chen Keysight Technologies Pegah Alavi, Ming Yan, David Banas, Fangyi Rao, HeeSoo Lee, Heidi Barnes Marvell Steven Parker* MathWorks Graham Kus*, Walter Katz* Micron Technology Justin Butterfield MST EMC Lab Chulsoon Hwang*, Zhiping Yang* Siemens EDA Weston Beal*, Arpad Muranyi*, Randy Wolff*, Matt Leslie, Scott Wedge, Todd Westerhoff, Zhichao Deng STMicroelectronics Anil-Kumar Dwivedi, Bhupendra Singh, Harsh Saini, Hemant Kumar Gangwar, Manda Padma Sindhuja,Manish Bansal,Nitin Kumar,Olivier Bayet,Pawan Verma,Pranav Singh,Pranav Singh,Rahul Kumar,Raushan Kumar,Shivam Soni,Shivam Soni,Gaurav Goel Synopsys Ted Mido*,(Andy Tai)中兴公司(中敏WEI),(Shunlin Zhu)Zuken(RalfBrüning)Zuken USA Lance Wang*
调整义务苹果谷选择能源AVCE 1.9 1.0 1.0 1.0 3.8南加州CPASC的清洁能力联盟98.5 49.2 49.2 196.9清洁能力旧金山CPSF 28.5 14.3 14.3 14.3 57.0 Direct Energe,L.L.L.C。DEB 20.2 10.1 10.1 40.3 East Bay Community Energy EBCE 49.8 24.9 24.9 99.6 Lancaster Clean Energy LCE 4.7 2.4 2.4 9.4 Marin Clean Energy MCE 43.8 21.9 21.9 87.5 Monterey Bay Community Power Authority MBCPA 28.7 14.4 14.4 57.4 Peninsula Clean Energy PCEA 27.5 13.8 13.8 55.0 Pico Rivera Innovative Municipal Energy PRIME 1.3 0.7 0.7 2.6 Pioneer Community Energy PIONEER 9.3 4.6 4.6 18.5 Rancho Mirage Energy Authority RMEA 2.4 1.2 1.2 4.8 Redwood Cost Energy Authority RCEA 5.4 2.7 2.7 10.7 San Jacinto Power SJP 1.4 0.7 0.7 2.8 San Jose Clean Energy SJCE 38.8 19.4 19.4 77.6 Shell Energy North America SENA 37.0 18.5 18.5 74.0硅谷清洁能源SVCEA 33.6 16.8 16.8 67.2 SOMONA清洁能力Soma Soma 21.7 10.8 10.8 10.8 43.3 UC总统UCOP办公室UCOP 1.7 0.8 0.8 0.8 3.4 Valley Clean Clean Clean Alliance vcea 6.3 3.2 3.2 3.2 12.2 12.6 12.6 12.6 12.6 Calpine Energy Solutions NES 25.4 12.7 50.7 50.7 50.7 50.7 50.8 Capine capine capine l.850.8 Capine capine capine capine capine capine capine capine capine capine l.850.8加收率。(1362)CPA 8.6 4.3 4.3 4.3 17.1 3阶段3PR American Powernet Management Apn Baldwin Park,Cobp Cobp Cosb Cosb Cosb Cosb Cosb Cosb Clean Clean Clean Calliance Cea Commerce Energy Inc。(1092)CEI CEE CES ENCERIC(1092)CEI CES ENCEMER KCCP Pilot Power Group,Inc。PPG Pomona,Pomona San Diego Community Power SDCP SDCP Santa Barbara Clean Energy SBCE TIGER SBCE TIGER天然气TNG西部社区能源WCE PG&E PGE PG&E PGE 382.6 191.3 191.3 191.3 765.3 765.1 SCE SCE 620.7 310.7 310.3 310.3 310.3 310.3 7. 7 7. 7 7. 7. SDG&SDG&SDG&SDG&SDG&SDG&SDG&SDG&SDG&sd SDG&sd SDG&sd SDG&sd sd sd sd sd sd sd s。 301.3 1,650 825 825 3,300