XiaoMi-AI文件搜索系统
World File Search System边缘设备
白皮书：5G、AI 和 IoT 如何塑造存储的未来
增强移动宽带 (eMBB)：峰值数据速率将达到数十 Gbps。重要的是，eMBB 还具有三个不同的属性：1) 更高容量 - 可在人口密集的室内/室外区域使用；2) 增强连接性 - 可在任何地方使用；3) 更高用户移动性 - 可在从汽车到飞机的移动交通工具中使用。典型的物联网用例包括需要更高容量和更低延迟的视频和数据流设备，以及基于 AR/VR 的数字孪生的工业应用。 海量机器类型通信 (mMTC)：它支持海量网络容量，可以可靠地连接数千个物联网端点和边缘设备，而不会出现拥塞问题。典型的端点是低成本、电池供电的设备，它们定期通过 mMTC 物联网网关将少量存储数据传输到核心或其他本地设备。 超可靠和低延迟通信 (URLLC)：它为自动驾驶、工业自动化无线控制和机器人手术等关键任务应用提供低延迟和高可靠性。
边缘人工智能——路线图
随着人工智能 (AI) 的应用呈爆炸式增长，用于解决大量被认为非常困难的问题，信息技术和半导体社区纷纷开发能够以可接受的能源成本提供所需性能的计算平台。到目前为止，大部分注意力和投资都集中在“云 AI”上，而“数据”是为行业、政府和个人生活创造价值的最大共同点。然而，对智能的追求也正迅速成为“边缘”的一个突出和必不可少的特征，数以万亿的“事物”将结合在一起产生更多的数据。鉴于边缘设备在效率、占用空间、稳健性和成本方面的严格限制，不言而喻的是，将真正的智能带到边缘将需要在从计算概念到实现技术的各个层面进行深刻的创新。这一观察涵盖了从汽车、移动、工业、沉浸式、物联网到可穿戴和可植入等各种应用。在本白皮书中，我们评估了许多可行的选择，探索了可能的未来发展道路，并提出了一系列如何实现的建议。
![arXiv:2210.00833v1 [cs.AR] 2022 年 10 月 3 日](/simg/g:\will\search\icon\source\b\b0d0b4c957de5d7ae82dc577c10f5b166450d54b.webp)
arXiv:2210.00833v1 [cs.AR] 2022 年 10 月 3 日
如今，对安全有要求的应用程序已无处不在，可在各种边缘设备中找到。然而，这些设备中的微控制器尽管通过实现多核和缓存层次结构提供了中等性能，但可能无法提供足够的支持来实施最高完整性级别所需的某些安全措施，比如锁步执行，以避免所谓的共因故障（即影响冗余组件的故障导致所有冗余组件出现相同的错误）。为了解决这一限制，最近在 [ 2 ] 中提出了一种基于软件监视器的方法，该方法在内核之间强制执行某种基于软件的锁步执行，并提供了概念证明。本文介绍了 SafeSoftDR，这是一个库，它提供了一个标准接口，用于在非原生锁步内核上部署基于软件的锁步执行，从而减轻了最终用户创建冗余进程、复制输入/输出数据和执行结果比较的负担。我们的库已经在基于 x86 的 Linux 上进行了测试，目前正在集成到针对安全相关应用的开源 RISC-V 平台上，从而为安全关键型应用提供了便捷的环境。
安全软件
如今，对安全有要求的应用程序已无处不在，可在各种边缘设备中找到。然而，这些设备中的微控制器尽管通过实现多核和缓存层次结构提供了中等性能，但可能无法提供足够的支持来实施最高完整性级别所需的某些安全措施，比如锁步执行，以避免所谓的共因故障（即影响冗余组件的故障导致所有冗余组件出现相同的错误）。为了解决这一限制，最近在 [ 2 ] 中提出了一种基于软件监视器的方法，该方法在内核之间强制执行某种基于软件的锁步执行，并提供了概念证明。本文介绍了 SafeSoftDR，这是一个库，它提供了一个标准接口，用于在非原生锁步内核上部署基于软件的锁步执行，从而减轻了最终用户创建冗余进程、复制输入/输出数据和执行结果比较的负担。我们的库已经在基于 x86 的 Linux 上进行了测试，目前正在集成到针对安全相关应用的开源 RISC-V 平台上，从而为安全关键型应用提供了便捷的环境。
人工智能物联网设备的边缘机器学习：综述
摘要：几年后，全球将有数十亿台联网设备，这些设备将被放置在我们的家中、城市、车辆和行业中。资源有限的设备将与周围环境和用户交互。其中许多设备将基于机器学习模型来解码传感器数据背后的含义和行为，以实现准确的预测并做出决策。瓶颈将是高水平的联网设备，它们可能会使网络拥塞。因此，需要使用机器学习算法将智能融入终端设备。在这样的边缘设备上部署机器学习可以通过允许在靠近数据源的地方执行计算来改善网络拥塞。这项工作的目的是回顾保证在物联网范式中性能较低的硬件上执行机器学习模型的主要技术，为有意识的物联网铺平道路。在这项工作中，我们详细回顾了在物联网设备上实现边缘机器学习的解决方案的模型、架构和要求，主要目标是定义最先进的技术并展望开发需求。此外，还将提供在微控制器上实现边缘机器学习的示例，通常被视为机器学习“Hello World”。
llms在边缘：质量，延迟和能源效率
摘要：生成的人工智能已成为许多人生活中不可或缺的一部分。大型语言模型（LLM）在科学和社会中的普及越来越多。虽然众所周知，训练这些模型需要显着的能量，但推论也有助于其总能源需求。因此，我们通过研究推理的效率，尤其是在计算能力有限的本地硬件上，分析了如何尽可能可持续地使用它们。我们开发了用于量化LLM在边缘的效率的指标，重点是最有影响力的因素质量，时间和能量。我们比较了边缘上三种不同的最生成模型状态的性能，并评估生成的文本的质量，用于文本创建的时间以及能量需求降低到令牌水平。这些模型在质量水平上达到73％，3％和85之间，每秒产生1、83至3、51令牌，而在没有GPU支持的情况下，在单板计算机上消耗0、93和93至1、76 <，76 <，⌘，每张令牌的能量。这项研究的发现表明，生成模型可以在边缘设备上产生令人满意的结果。但是，在将它们部署在生产环境中之前，建议进行彻底的效率评估。
privateEye：通过光学特征分离
我们解决了在应用程序中捕获的图像（相机）捕获到云的应用程序中的隐私问题，以推断出诸如分类之类的实用程序任务。将原始图像发送到云中，使它们暴露于数据嗅探，并被不受信任的第三方服务提供商滥用，超出了用户的预期任务。我们提出了一个编码方案，该方案不仅可以直接远程视觉检查到图像或图像重建，还可以防止确定敏感信息。与常用的对抗性学习方法不同，所提出的方法是两个方面：首先，它使用衍射光学神经网络将与光学域中传感器平面上不同任务相对应的空间分开。然后只读取与实用程序任务区域相对应的像素。此编码可确保绝不会将私人功能存储在边缘设备上，从而防止隐私泄漏。所提出的方法成功地减少了二进制任务中的隐私检索，其准确性损失最小（约2％），同时将私人任务准确性降低了约35％，并防止SSIM得分为0的重建攻击。43。
探索电动汽车的计算范例
摘要：电动汽车在全球范围内被广泛采用，作为一种可持续的运输方式。随着车载计算和通信功能的增加，车辆正在朝着自动驾驶和智能运输系统迈进。在车辆架构中，物联网，边缘智能，5G和区块链等技术的适应性增加了有效且可持续的运输系统的可能性。在本文中，我们介绍了边缘计算范式的全面研究和分析，并解释了边缘AI的要素。此外，我们讨论了在边缘设备上部署AI算法和模型的边缘智能方法，这些算法和模型通常是位于网络边缘的资源约束设备。它提到了Edge Intelligence及其在智能电动汽车中用例的优势。它还讨论了挑战和机遇，并提供了深入的分析，以优化边缘智能的计算。最后，它通过将努力分为拓扑，内容，服务片段，模型适应，框架设计和处理器加速度，对Edge的AI和AI的研究路线图进行了一些启示，所有这些都将从AI技术中获得优势。调查重要技术，问题，机会和路线图的结合将是从事电动汽车边缘情报研究的社区的宝贵资源。
桥梁结构损伤检测：一种边缘计算...
与传统的有线 SHM 系统相比，基于无线传感器网络 (WSN) 的 SHM 系统在成本、准确性和监测可靠性方面有显著改善。然而，由于传感器节点的资源受限，实时处理大量感测到的振动数据是一项挑战。现有的数据处理机制是集中式的，使用云或远程服务器来分析数据以表征桥梁的状态，即健康或受损。这些方法对于有线 SHM 系统是可行的，然而，在 WSN 中传输大量数据集已被发现是艰巨的。在本文中，我们提出了一种名为“网络内边缘损伤检测 (INDDE)”的机制，该机制从原始加速度测量中提取与桥梁健康状况相对应的统计特征，并使用它们来训练概率模型，即估计多元高斯分布的概率密度函数 (PDF)。训练后的模型有助于实时识别从桥梁未知状况中收集的新数据点的异常行为。每个边缘设备根据其各自的训练模型将桥梁状况分类为部署区域周围的“健康”或“受损”。实验结果展示了约 96-100% 的损伤检测准确率，其优势是无需从传感器节点传输数据到云端进行处理。
EdgeWise：随机通信延迟下边缘设备上的节能 CNN 计算
本文提出了一个框架，以实现边缘设备上卷积神经网络 (CNN) 的节能执行。该框架由一对通过无线网络连接的边缘设备组成：性能和能耗受限的设备 D 作为数据的第一个接收者，能耗不受约束的设备 N 作为 D 的加速器。设备 D 动态决定如何分配工作负载，以尽量减少其能耗，同时考虑到网络延迟固有的不确定性和数据传输所涉及的开销。这些挑战通过采用马尔可夫决策过程 (MDP) 的数据驱动建模框架来解决，其中 D 在 O(1) 时间内查阅最优策略来做出逐层分配决策。作为一个特例，还提出了一种线性时间动态规划算法，用于在假设网络延迟在整个应用程序执行过程中保持不变的情况下一次性找到最佳层分配。所提出的框架在由 Raspberry PI 3 作为 D 和 NVIDIA Jetson TX2 作为 N 组成的平台上进行了演示。与完全在 D 和 N 上执行 CNN 的替代方案相比，能耗平均降低了 31% 和 23%。还实施了两种最先进的方法，并与所提出的方法进行了比较。