XiaoMi-AI文件搜索系统
World File Search Systemplain
聚焦 LRP：用于人脸变形攻击检测的可解释 AI
近年来，检测变形人脸图像的任务变得非常重要，以确保基于人脸图像的自动验证系统（例如自动边境控制门）的安全性。基于深度神经网络 (DNN) 的检测方法已被证明非常适合此目的。然而，它们在决策过程中并不透明，而且不清楚它们如何区分真实人脸图像和变形人脸图像。这对于旨在协助人类操作员的系统尤其重要，因为人类操作员应该能够理解其中的推理。在本文中，我们解决了这个问题，并提出了聚焦分层相关性传播 (FLRP)。该框架在精确的像素级别向人类检查员解释深度神经网络使用哪些图像区域来区分真实人脸图像和变形人脸图像。此外，我们提出了另一个框架来客观地分析我们方法的质量，并将 FLRP 与其他 DNN 可解释性方法进行比较。该评估框架基于移除检测到的伪影并分析这些变化对 DNN 决策的影响。特别是，如果 DNN 的决策不确定甚至不正确，与其他方法相比，FLRP 在突出显示可见伪影方面表现得更好。
如何准备好生成的预训练的大语言模型来解释孟加拉语语法错误？
抽象的语法校正校正（GEC）工具，由先进的生成人工智能（AI）提供动力，在用户输入中有效地纠正了语言的不准确性。但是，它们通常在提供基本的自然语言解释方面缺乏，这些解释是学习语言并获得对语法规则的更深入的理解。在低资源语言（例如孟加拉语）中对这些工具的探索有限。在这样的语言中，革命错误说明（GEE）系统不仅应正确句子，而且还应提供错误的解释。这种综合方法可以帮助语言学习者寻求提高能力。我们的工作介绍了一个现实世界中的多域数据集，该数据集来自孟加拉语扬声器，具有不同的义务水平和语言复杂性。此数据集可作为GEE系统的评估基准标记，允许他们使用上下文信息来生成有意义的解释和高质量的更正。Various generative pre-trained large language models (LLMs), in- cluding GPT-4 Turbo, GPT-3.5 Turbo, Text-davinci-003, Text-babbage- 001, Text-curie-001, Text-ada-001, Llama-2-7b, Llama-2-13b, and Llama-2-70b, are assessed against human experts for performance comparison.我们的研究强调了自动部署孟加拉人GEE的当前最新生成预培训的LLM的局限性。主张进行人干预，我们的发现提议合并手动检查以解决语法错误并提高反馈质量。这种方法提出了一种更合适的策略，以重新确定孟加拉语的GEC工具，并阐明了语言学习的教育方面。
人工智能可解释性白皮书
- 从数据中可以了解到虚假相关性，这通常会妨碍模型的泛化能力并导致糟糕的现实世界结果。 - 失去可调试性和透明度，导致信任度低以及无法修复或改进模型和/或结果。此外，这种缺乏透明度阻碍了这些模型的采用，特别是在受监管的行业，例如银行和金融或医疗保健。 - 代理目标导致模型离线执行（通常是匹配代理指标）与部署在应用程序中时的性能之间存在很大差异。 - 由于模型从业者在有问题的情况下本地调整模型行为的能力下降而失去控制。 - 不良的数据放大反映了与我们的社会规范和原则不一致的偏见。
AI 标签和水印 – 解释
在实践中，在训练 AI 模型时，训练数据的标记主要用于对图像进行分类（例如汽车或动物）。另一方面，文本的标记有助于识别情绪或特定关键词。对于旨在识别语音的 AI 系统的训练，标记还可以包括转录录音或识别音频输入文件中的特定噪音（例如背景中的交通或飞机）。
xxAI - 超越可解释的 AI
© 编辑（如适用）和作者 2022。本书是开放获取出版物。开放获取 本书根据知识共享署名 4.0 国际许可证（http://creativecommons.org/licenses/by/4.0/）的条款获得许可，允许以任何媒体或格式使用、共享、改编、分发和复制，只要您给予原作者和来源适当的信用，提供知识共享许可证的链接并指明是否进行了更改。本书中的图像或其他第三方材料包含在本书的知识共享许可证中，除非在材料的致谢中另有说明。如果材料未包含在本书的知识共享许可证中，并且您的预期用途不被法定法规允许或超出允许用途，则您需要直接从版权所有者处获得许可。本出版物中使用一般描述性名称、注册名称、商标、服务标记等。即使没有具体声明，也不意味着这些名称不受相关保护法律和法规的约束，因此可以自由使用。出版商、作者和编辑可以放心地认为，本书中的建议和信息在出版之日是真实准确的。出版商、作者或编辑均不对此处包含的材料或可能出现的任何错误或遗漏提供明示或暗示的保证。出版商对已出版地图和机构隶属关系中的司法管辖权主张保持中立。
可解释的AI（XAI）和大型语言模型（LLM）
➢这是一个欺骗深神经网络（DNN）的实验：在第二和第四张图像中，工程师仅保留了系统用于识别吉他和企鹅的系统的元素，并更改了其余的所有内容，以使系统仍然像吉他和企鹅一样“看到”他们。➢Goodfellow等人的作品。（2014）从普遍的扰动开始打开了进一步发展的大门（Moosavi-Dezfooli等人。2017）最近的一个像素攻击，该攻击显示了如何通过在输入图像中更改一个像素来欺骗神经网络。笔记本在这里一张像素攻击原始纸
Voltus，Inc。）投诉人，）v。
4 ID。 在第27页；另请参见ID。 在第160页，第163页中（讨论最终规则如何增强竞争并通过要求RTOS/ISOS允许在批发和零售或多个批发计划中参与分布式能源来提高可靠性）。 5 ID。 在第26页；另请参见ID。 在第29页中（发现这一最终规则的改革将“增强RTO/ISO市场的竞争力和效率”）。 6 ID。 pp 26，29。 7 FERC员工，国家对需求响应潜力的评估，Brattle Group等。 在27-28（2009年6月）（“ [全面参与]场景下的高峰需求减少到2019年为188 GW，与没有需求响应计划的场景相比，2019年的高峰需求降低了20％。 8美国能源信息管理局的年度电力报告（2019年），https://www.eia.gov/ectricity/annual/anlual/pdf/pdf/epa.pdf，at TBL 1.2（“美国，2008年 - 2018年的摘要统计数据”）；另请参见2019年对需求响应和高级计量的评估，FERC员工报告，13-17（2019）（零售和批发需求响应，每个报告年度约30,000 MW）。4 ID。在第27页；另请参见ID。在第160页，第163页中（讨论最终规则如何增强竞争并通过要求RTOS/ISOS允许在批发和零售或多个批发计划中参与分布式能源来提高可靠性）。5 ID。 在第26页；另请参见ID。 在第29页中（发现这一最终规则的改革将“增强RTO/ISO市场的竞争力和效率”）。 6 ID。 pp 26，29。 7 FERC员工，国家对需求响应潜力的评估，Brattle Group等。 在27-28（2009年6月）（“ [全面参与]场景下的高峰需求减少到2019年为188 GW，与没有需求响应计划的场景相比，2019年的高峰需求降低了20％。 8美国能源信息管理局的年度电力报告（2019年），https://www.eia.gov/ectricity/annual/anlual/pdf/pdf/epa.pdf，at TBL 1.2（“美国，2008年 - 2018年的摘要统计数据”）；另请参见2019年对需求响应和高级计量的评估，FERC员工报告，13-17（2019）（零售和批发需求响应，每个报告年度约30,000 MW）。5 ID。在第26页；另请参见ID。在第29页中（发现这一最终规则的改革将“增强RTO/ISO市场的竞争力和效率”）。6 ID。 pp 26，29。 7 FERC员工，国家对需求响应潜力的评估，Brattle Group等。 在27-28（2009年6月）（“ [全面参与]场景下的高峰需求减少到2019年为188 GW，与没有需求响应计划的场景相比，2019年的高峰需求降低了20％。 8美国能源信息管理局的年度电力报告（2019年），https://www.eia.gov/ectricity/annual/anlual/pdf/pdf/epa.pdf，at TBL 1.2（“美国，2008年 - 2018年的摘要统计数据”）；另请参见2019年对需求响应和高级计量的评估，FERC员工报告，13-17（2019）（零售和批发需求响应，每个报告年度约30,000 MW）。6 ID。pp 26，29。7 FERC员工，国家对需求响应潜力的评估，Brattle Group等。在27-28（2009年6月）（“ [全面参与]场景下的高峰需求减少到2019年为188 GW，与没有需求响应计划的场景相比，2019年的高峰需求降低了20％。8美国能源信息管理局的年度电力报告（2019年），https://www.eia.gov/ectricity/annual/anlual/pdf/pdf/epa.pdf，at TBL 1.2（“美国，2008年 - 2018年的摘要统计数据”）；另请参见2019年对需求响应和高级计量的评估，FERC员工报告，13-17（2019）（零售和批发需求响应，每个报告年度约30,000 MW）。
在对抗上下文中可解释的人工智能
人工智能（AI）方法是现代世界不可或缺的一部分。如今，每个与智能手机互动的人都与AI接触（Herget，2024）（Wired Insider，2021）。 自从大型语言模型（LLMS）（CF（BSI，2024a）易于获得BSI的评论）以来，公众对AI存在的意识已广泛传播。 但是，自引入LLM之前，AI算法支持或自动执行决策过程。 Propublica的报告，即预测模型用于确定美国犯罪嫌疑人的累犯风险，受到了很大的关注（Angwin等，2016）。 在金融领域，基于AI的预测模型用于支持贷款申请的决定或预测金融市场的发展（Aziz等，2022）。 此外，使用基于AI的决策支持系统进行诊断和治疗患者的治疗，目前已在医学中进行了研究或部分实施（社论，2024年）（皇家放射学院，等，2023）（BSI，2024年）。 这些是高度敏感的领域，在这种领域中，错误的决定可能会对公民造成社会，法律，财务或健康损害。如今，每个与智能手机互动的人都与AI接触（Herget，2024）（Wired Insider，2021）。自从大型语言模型（LLMS）（CF（BSI，2024a）易于获得BSI的评论）以来，公众对AI存在的意识已广泛传播。但是，自引入LLM之前，AI算法支持或自动执行决策过程。Propublica的报告，即预测模型用于确定美国犯罪嫌疑人的累犯风险，受到了很大的关注（Angwin等，2016）。在金融领域，基于AI的预测模型用于支持贷款申请的决定或预测金融市场的发展（Aziz等，2022）。此外，使用基于AI的决策支持系统进行诊断和治疗患者的治疗，目前已在医学中进行了研究或部分实施（社论，2024年）（皇家放射学院，等，2023）（BSI，2024年）。这些是高度敏感的领域，在这种领域中，错误的决定可能会对公民造成社会，法律，财务或健康损害。