XiaoMi-AI文件搜索系统
World File Search System信赖
值得信赖和安全的人工智能系统的生命周期
这项工作介绍了可信和安全的人工智能系统 (TAIS) 的生命周期。我们考虑在 TAI 生命周期中应用风险管理框架 (RMF)，以及这如何影响在 AI 系统开发的各个阶段所做的选择。AI 系统的新兴要求超越了传统的软件工程 (SE) 开发周期的设计、开发和部署 (DDD)，其中测试、评估、验证和确认 (TEVV) 起着至关重要的作用。特别是，SE 中的额外挑战是 AI 系统通常是：(i) 数据驱动的，(ii) 可以学习和 (iii) 具有自适应性。此外，考虑 AI 系统对用户和更广泛社会的影响对于其可信和安全的部署至关重要。为了实现 TAIS，我们还考虑了测量方面，这体现在可量化指标的规范中，这些指标既能捕捉 TAI 的技术原则，又能捕捉社会技术原则，使我们能够评估 AI 系统的可信度。TAI 生命周期是一个迭代和连续的过程，因此正在开发的 AI 系统正在不断发展，并且可以采取纠正措施来处理生命周期任何阶段出现的问题。
值得信赖的人工智能需要公正的独裁者！
与任何新技术进步一样，随着人工智能解决方案在不同情境中的应用，我们直接获得了许多经验教训。这些经验教训告诉我们，与任何其他类型的解决方案相比，人工智能解决方案更容易受到认知偏见的影响，而这种偏见存在于人类设计者、开发者和实施者等与最终用户互动的方式中。每个解决方案都是有偏见的，因为其创建背后的设计选择自然会包括和排除某些最终用户群体。就人工智能解决方案而言，由于其快速发展、覆盖范围和应用环境，其固有的设计偏见范围很快就被发现和批评了。作为一种新方法，人们使用诸如值得信赖和合乎道德之类的形容词来描述人工智能解决方案必须是什么样子。
为您的公用事业提供值得信赖的技术经济分析
HOMER Front 提供强大的存储建模和敏感性分析，以评估能源存储退化和多种调度和增强策略对财务绩效的影响。时间序列图形显示易于理解的敏感性分析，使您能够：
基于道德的审计，开发值得信赖的人工智能
审计，我们提供三点贡献。首先，我们认为基于道德的审计可以提高决策质量，提高用户满意度，释放增长潜力，推动立法，减轻人类痛苦。其次，我们强调当前的最佳实践，以支持基于道德的审计的设计和实施：为了可行和有效，基于道德的审计应采取持续和建设性的过程形式，从系统角度处理道德协调问题，并与公共政策和激励措施保持一致，以促进道德可取的行为。第三，我们确定并讨论与基于道德的审计相关的约束。只有理解和考虑到这些限制，基于道德的审计才能促进人工智能的道德协调，同时使社会能够充分享受自动化带来的经济和社会效益。
通过值得信赖的人工智能实现人工智能治理
用于检测和减轻 ML 模型中的偏见的最全面的开源工具包：• 70 多个公平性指标 • 10 个偏见缓解因素 • 交互式演示，说明 5 个偏见指标和 4 个偏见缓解因素 • 广泛的行业教程和笔记本
为印度尼西亚实现值得信赖和包容的人工智能
在其第二任期内，总统佐科·维多多通过其在数字化转型方面的远见卓识的领导力（这也反映在印尼在 2020 年 G20 峰会上的影响力）推动了一项雄心勃勃的全国数字化转型计划。由通信和信息部牵头的 2021-2024 年印尼数字路线图侧重于四个战略领域：1) 实现数字基础设施现代化，2) 加速数字政府建设，3) 加强数字经济，重点吸引和支持微型、小型和中型企业 (MSME)，以及 4) 加强其数字社会，以增加对数字创新的吸收，重点是提升所有印尼人的基本能力（例如数字安全）到更高级的能力（例如云计算、人工智能等领域的专业技能提升）。
值得信赖的无人机关系：应用模式行动……
行动 1. 你会依靠无人机执行哪些行动？ 2. 你会不依靠无人机执行哪些行动？ 3. 相信无人机完成任务有多容易？ 4. 在行动过程中，你对无人机的信任会发生怎样的变化？ 5. 会有什么负面结果吗？
生成AI模型的值得信赖的评估
生成的AI（Genai）模型最近在各种应用中取得了出色的经验性能，但是它们的评估缺乏不确定性定量。在本文中，我们提出了一种基于其相对性能差距的无偏估计器比较两个生成模型的方法。从统计学上讲，我们的估计器达到了参数收敛率和渐近正态性，从而实现有效的推理。在计算上，我们的方法是有效的，可以通过并行计算和利用预存储的中间结果来加速。在具有已知地面真相的模拟数据集上，我们显示了我们的方法有效地控制I型错误，并实现与综合使用指标相当的功率。此外，我们还以统计置信度证明了方法在评估真实图像数据集上的扩散模型时的性能。
通过正式的XAI提供值得信赖的AI
在高风险环境中部署人工智能 (AI) 系统需要可信赖的 AI。欧盟最近的指导方针和法规强调了这一关键要求，经合组织和联合国教科文组织的建议也强调了这一点，还有其他一些例子。可信赖 AI 的一个关键前提是必须找到能够提供可靠合理性保证的解释。本文认为，最著名的可解释 AI (XAI) 方法无法提供合理的解释，或者找到可能表现出显著冗余的解释。解决这些缺点的方法是提供形式严谨性保证的解释方法。这些正式解释不仅合理，而且保证无冗余。本文总结了形式化 XAI 这一新兴学科的最新发展。本文还概述了形式化 XAI 面临的现有挑战。
迈向值得信赖的数字服务AI
数字服务提供商需要了解，AI系统带有附加的生命周期，如上所示（10）。数字服务提供商可能不会沿着这一生命周期同样参与，因此可以具有不同的角色和职责。例如，您可能是一家IT公司，专门从事商业用途的模型（例如大型语言模型（LLM）），或者您可能是依靠商业可用AI系统作为您服务的一部分的组织，例如通过聊天机器人。对于数字服务提供商来说，重要的是要了解其AI系统来自何处，产生的依赖性以及他们可以和应该控制的AI生命周期的哪一部分。