XiaoMi-AI文件搜索系统
World File Search System随机网络
ACM 参考格式：Abolfazl Lavaei、Bingzhuo Zhong、Marco Caccamo 和 Majid Zamani。2021 年。迈向值得信赖的人工智能：随机网络物理系统中未经认证控制器的安全管理架构。在网络物理系统的计算感知算法设计 (CAADCPS'21) 中，2021 年 5 月 19-21 日，美国田纳西州纳什维尔。ACM，美国纽约州纽约，2 页。https://doi.org/10.1145/3457335。3461705
1 摘要 基于人工智能（又称 AI）的控制器在信息物理系统（CPS）中被广泛应用以完成复杂的控制任务，因而在过去几年中受到了广泛关注。然而，保证配备此类（未经认证的）控制器的 CPS 的安全性和可靠性目前非常具有挑战性，这在实际许多安全关键应用中至关重要。为了解决这一困难，我们提出了一种 Safe-visor 架构，用于在随机 CPS 中对基于 AI 的控制器进行沙盒处理。所提出的框架包含（i）一个基于历史的监控器，它检查来自基于 AI 的控制器的输入并在系统的功能性和安全性之间做出妥协，以及（ii）一个安全顾问，当基于 AI 的控制器危及系统的安全时提供后备。通过采用这种架构，我们为可以用确定性有限自动机（DFA）的接受语言表示的那些类别的安全规范的满足提供了正式的概率保证，而基于人工智能的控制器虽然不可靠，但仍可以在控制回路中使用。