2. 可解释和稳健的人工智能 HORIZON-CL4- RIA 2023 年 11 月 15 日 2024 年 3 月 19 日(人工智能数据和机器人 2024-HUMAN- 合作伙伴)01-06 为了实现稳健可靠的人工智能,需要采用新方法来开发在模型理想情况以外的其他情况下工作的方法和解决方案,同时还要意识到这些条件何时会失效。为了实现可信度,人工智能系统应该足够透明,能够以对用户有意义的方式解释系统如何得出结论,同时还指出何时达到了操作极限。目的是推进人工智能算法,使其能够在各种常见情况下安全运行,在现实条件下可靠运行,并预测这些操作环境何时不再有效。研究应旨在提高解决方案的通用性的稳健性和可解释性,同时导致准确性和效率的可接受损失,并具有已知的可验证性和可重复性。重点是通过基础人工智能和机器学习研究扩展人工智能系统的可解释性和鲁棒性的普遍适用性。为此,可以考虑但不一定局限于以下方法:
主要关键词