XiaoMi-AI文件搜索系统
World File Search System黑盒
通过Black-...
本文调查了利用以前任务的现有所谓模型以使用有限的培训数据来解决相关目标任务的问题。解决此问题的现有方法通常需要访问现有解决方案模型以及其培训数据的内部参数，这在许多实际设置中是不可能的。为了重新确定此要求，我们从黑框重新插入的新角度解决了这个问题，从而增加了目标输入并利用了现有的黑盒API将其相应的输出传达到功能集合中。我们假设可以学习这种功能集合，以将相关的黑框知识合并到目标数据的特征表示中，这将构成其稀缺性。通过我们提出的Black-box集合的报告确认了这一假设，以求解从各种基准数据集中得出的多个几次学习任务。所有报告的结果始终显示出，确实可以重复使用并有效地使用以前任务的异质黑盒解决方案，以解决合理相关的目标任务，而无需访问大型培训数据集。这是使新的可能性进一步补充传输或元学习中现有技术的第一步。
迈向多智能体对话式 AI
市场上商业化的对话代理 (CA) 数量不断增加，导致用户不得不学习和采用多个代理来完成任务。尽管之前的研究已经探索了在单个代理的设计中支持多个领域，但由于所需功能的操作空间太大，交互体验会受到影响。为了解决这些问题，我们引入了一项新任务 BBAI：黑盒代理集成，重点是大规模组合多个黑盒 CA 的功能。我们探索了两种技术：问题代理配对和问题响应配对，旨在解决此任务。利用这些技术，我们设计了 One For All (OFA)，这是一个可扩展的系统，它提供了一个统一的界面来与多个 CA 交互。此外，我们引入了 MARS：多代理响应选择，这是一种用于问题响应配对的新型编码器模型，可联合编码用户问题和代理响应对。我们证明 OFA 能够自动准确地集成一组跨越不同领域的商用 CA。具体来说，使用 MARS 编码器，我们在 BBAI 任务上实现了最高准确度，超越了强大的基线。
基于人工智能的医疗器械计划的监管问题......
最终，提取了15项评估要求作为基于AI的医疗器械的通用要求，并分为黑盒、学习数据、性能可塑性、自主性水平和责任制5个评估类别。使用该框架分析指南的结果是，没有涵盖所有评估要求的指南，并且观察到监管要求存在差异。此外，通过分析各国的批准案例，我们发现对产品评估项目的响应各不相同。
评估可解释的AI方法，以增强自主驾驶系统中的异常检测
摘要：自动驾驶的最新进展伴随着损害自动驾驶汽车网络（AVS）的网络安全问题，激发了使用AI模型来检测这些网络上的异常情况。在这种情况下，用于解释这些异常检测AI模型的行为的可解释AI（XAI）的用法至关重要。这项工作介绍了一个综合框架，以评估AVS内的黑框XAI技术，以促进对全球和局部XAI方法的检查，以阐明XAI技术的决定，以解释AI模型对异常AV行为进行分类的AI模型的行为。通过考虑六个评估指标（描述性准确性，稀疏性，稳定性，效率，稳健性和完整性），该框架评估了两种众所周知的黑盒XAI技术，摇滚和石灰，涉及应用XAI技术，以应用XAI技术来确定对隔离式跨度的重要跨度的自动范围，并确定主要的分类，并跨越了六个驱动器。 Veremi和传感器。这项研究推进了在自主驾驶系统中用于现实世界异常检测的黑盒XAI方法的部署，从而有价值的见解对此关键领域内当前的Black-Box XAI方法的优势和局限性有了宝贵的见解。
riotfuzzer：伴侣应用程序辅助远程模糊，以检测物联网设备中的漏洞
由于物联网（IoT）系统的体系结构和外围设备的多样性，BlackBox Fuzzing脱颖而出是发现IoT设备漏洞的主要选择。现有的黑盒模糊工具通常依靠伴侣应用来生成有效的模糊数据包。但是，现有方法在依靠基于云的通信的模糊设备方面遇到了绕过云服务器端验证的挑战。此外，他们倾向于将精力集中在Android Companion应用程序中的Java组件上，从而限制了它们在评估非java组件（例如基于JavaScript的Mini-Apps）方面的有效性。在本文中，我们介绍了一种新颖的黑盒模糊方法，名为Riot-Fuzzer，旨在借助伴侣应用程序远程发现物联网设备的脆弱性，尤其是那些由JavaScript基于JavaScript的Mini-Mini-Apps功能启用的全合一应用程序启动的应用程序。我们的方法利用基于文档的控制命令提取，用于突变点识别的混合分析和侧向通道引导的模糊来有效解决模糊IoT设备的挑战。我们将Riotfuzzer应用于突出平台上的27个物联网，并发现了11个漏洞。所有这些都得到了相应的供应商的认可。8已由供应商确认，并已分配4个CVE ID。我们的实验结果还表明，侧通道引导的模糊可以显着提高发送到IoT设备的模糊数据包的效率，平均增加76.62％，最大增加362.62％。
良好实践指南第 16 号 测试算法和软件
在不知道测试算法细节的情况下（使用现成的商业软件时很常见），所能做的就是调查测试软件在提供计算目标指定问题的解决方案方面有多好。在这种情况下，软件被视为黑盒，其测试解决了“测试软件在解决数学模型方面有多好？”的问题。与黑盒测试相反，使用算法或实现知识来设计测试，但仅通过其输入和输出与软件交互的测试称为灰盒测试。基于对软件的内部访问的白盒测试不属于本指南的方法论。
chen-xiao gao
将序列建模技术应用于决策问题，例如连续控制和黑框优化。对于连续控制，我们确定了决策变压器和拟议法案（AAAI'24接受）的潜在故障模式，以利用优势条件来实现强大的控制。进行黑盒优化，我们提出了通过安装行为算法的遗憾的学习历史来提炼和加强现有的黑框优化算法，从而使序列模型能够充当通用优化器（当前是提交）。bytedance，北京，中国07/2021 - 11/2021研究实习生
欧盟和贸易法中的人工智能监管
欧盟作为缔约方的《服务贸易总协定》（GATS）已经适用于人工智能支持的数字服务的跨境贸易。此外，包括人工智能领域的算法在内的计算机算法都是以源代码形式表达的，因此将受到软件源代码新商法条款的保护。立法不仅要求审查源代码（“白盒”方法），还要求通过人工智能系统的接口对其进行输入输出分析（“黑盒”方法），这违反了有关源代码的商法条款。违反贸易法的立法可以根据 GATS 的例外情况得到证明，前提是这些例外情况所挂钩的法律条件能够得到满足。
DGUV 测试信息 05“评估人工智能（AI）安全性的一般原则”
如今，人工智能的主要组成部分是算法，例如，通过神经网络实现算法，这些神经网络在适当准备的数据集的帮助下针对其任务或目标进行了训练。目前，大多数人工智能应用都基于机器学习程序。机器学习的目的是通过训练过程基于训练数据创建一个模型，然后该模型应该能够概括知识并适用于新数据。在训练过程中，该模型由算法优化。在深度学习（例如深度神经网络）的情况下，该模型通常非常复杂，因此难以理解。这使得安全评估变得更加困难，因为它需要使用程序来验证和确认黑盒系统。