这项工作介绍了可信和安全的人工智能系统 (TAIS) 的生命周期。我们考虑在 TAI 生命周期中应用风险管理框架 (RMF),以及这如何影响在 AI 系统开发的各个阶段所做的选择。AI 系统的新兴要求超越了传统的软件工程 (SE) 开发周期的设计、开发和部署 (DDD),其中测试、评估、验证和确认 (TEVV) 起着至关重要的作用。特别是,SE 中的额外挑战是 AI 系统通常是:(i) 数据驱动的,(ii) 可以学习和 (iii) 具有自适应性。此外,考虑 AI 系统对用户和更广泛社会的影响对于其可信和安全的部署至关重要。为了实现 TAIS,我们还考虑了测量方面,这体现在可量化指标的规范中,这些指标既能捕捉 TAI 的技术原则,又能捕捉社会技术原则,使我们能够评估 AI 系统的可信度。TAI 生命周期是一个迭代和连续的过程,因此正在开发的 AI 系统正在不断发展,并且可以采取纠正措施来处理生命周期任何阶段出现的问题。
收到的日期:2024年2月20日修订日期:2024年3月19日接受日期:2024年4月21日摘要:可解释的人工智能(XAI)领域是智能AI和机器学习(ML)研究和开发的关键阶段之一。缺乏透明度和问责制在某个时候已成为一个巨大的关注,因为算法更频繁地从事高风险任务,例如医学诊断,财务和司法系统。本文旨在确定XAI在发展值得信赖的ML电动机中的作用,其中强调了可解释性和透明度的必要性,以便AI系统不仅具有强大,强大的功能,而且还可提供可信和道德。我们考虑提供ML模型透明性质并探索当前研究进步的技术,并意识到行业实际应用的样子。因此,我们解决了这些问题,并建议如何在避免风险的情况下改善AI模型,同时保持良好的绩效。我们深入分析的结果揭示了XAI在AI背景下清楚地阐明人类的信任和理解中所起的至关重要作用。关键字:可解释的AI,机器学习,可解释性,透明度,值得信赖的AI,问责制。
大型语言模型现在已经足够复杂,能够通过有说服力的论据在辩论中击败人类对手。第一代人工智能代理已经承担了许多业务运营,但公司管理层尚未达到让人工智能代理进入董事会的程度。在可预见的未来,人类干预仍将是人工智能决策层中的最高权力。
• Supports one-time pad, symmetric key and asymmetric key ciphers, key derivation, random objects, certification and some cryptographic operations • Support for Bring Your Own Key (BYOK) operations with AWS and MS Azure • Encrypted keystore with protected root of trust • Granular, hierarchical and auditable access control • Event log, audit log, date and time of transaction, management and user reports • Thousands of每个节点的端客户系统,每个节点的8,000个关键请求/分钟•参加或无人看管的安全启动
摘要 - Edge Intelligence(EI)集成了边缘计算(EC)和人工智能(AI),以将AI的功能推向网络边缘,以实时,有效且安全的智能决策和计算。但是,EI由于资源限制,异质网络环境以及不同范围的各种服务要求而面临各种挑战,这在利益相关者眼中共同影响了EI的可信赖性。本调查全面总结了可信赖的EI的特征,建筑,技术和解决方案。特别是,我们首先强调了在大型模型趋势的背景下需要值得信赖的EI。然后,我们提供了值得信赖的EI的最初定义,探索其关键特征,并为可信赖的EI提供多层体系结构。然后,我们为值得信赖的EI系统提供了能力技术。随后,我们总结了几个重要的问题,这些问题阻碍了值得信赖的EI的实现,并对最先进的解决方案进行了深入的文献综述,以实现EI的可信度。最后,我们讨论了相应的研究挑战和开放问题。
数据民主化是一种机制,可以使每个人都能访问和使用数据进行决策,而与他们的技术专长无关。易于访问和使用数据的易用性导致AI系统的商品化及其在我们的工作和生活中的集成。我们可以使用Internet轻松连接并与AI系统进行工作或社会目的交互。例如,AI系统可以由个人和团体(例如公民或员工)用作个人数字助手,以处理数据,生成报告,调度任务,做出决策并回答问题或查询。我们的社会似乎依靠AI系统增强某些人类能力的能力,例如语音,愿景,解决问题和决策[7]。虽然AI系统似乎提供了扩展人类能力的新机会,但是必须了解AI系统的组件,属性和紧迫的问题,例如数据,算法和模型的透明度和信任度。用户必须负责任地和道德地使用这些系统,以进行合法任务,以便通过公平手段进行合理的收益。这种负责任和道德的使用涉及两个参与者 - 系统本身(围绕它们的系统和算法的可信度和透明度)[19-2-21,23-25],以及用户,即使用系统的方式。通过互动
Red Hat® 可信软件供应链 (TSSC) 是一系列功能,可在整个 SDLC 中构建安全护栏,帮助政府软件团队遵守 EO 14028(图 1)。作为 TSSC 的一部分,Red Hat 可信应用程序管道是一组 3 个模块化工具:Red Hat 开发人员中心、Red Trusted Artifact Signer 和 Red Hat Trusted Profile Analyzer。政府软件团队可以使用这些工具来提高软件工件供应链级别 (SLSA) 的成熟度级别,这是一个逐步增强软件供应链安全性的框架。SLSA 提供了一系列标准和控制措施,以防止篡改、提高完整性并使软件
当受信任的计算集团(TCG)在90年代后期开始运营时,它是为了促进对个人计算平台的信任。Intel以Intel®受信任的执行技术(TXT)的形式实施了其对测量信任的动态根源(D-RTM)的规范。信任的动态根源可实现平台状态的测量和证明,因为系统启动到了测量的发射环境(MLE)。后来,英特尔还以Intel®BootGuard(BTG)的形式实现了测量值的静态根源(S-RTM)。一起,Intel®受信任的执行技术(TXT)和Intel®BootGuard(BTG)是Intel®硬件盾牌的一部分,用于英特尔的VPRO®有能力的平台。安全性是这些功能的主要商业和公司设计价值主张,允许计算平台运营商防止信任的平台根源,并为操作系统和软件建立一个受信任和受保护的环境。
Lexis+ AI 提供安全的生成式 AI 工具,为律师提高效率、效力和可靠的结果 加拿大多伦多 – 2024 年 1 月 11 日 – 全球领先的信息和分析提供商 LexisNexis ® Legal & Professional 今天宣布推出 Lexis+ AI™ 的加拿大和英国商业预览版,这是一款旨在改变法律工作的生成式 AI 解决方案。Lexis+ AI 以我们大量准确且独家的加拿大法律内容和用例库为基础,将生成式 AI 的强大功能与专有的 LexisNexis 搜索技术相结合,可无缝浏览英语和法语法律内容。结果始终有可验证、可引用的权威支持。继 2023 年成功进行商业预览后,Lexis+ AI 现已在美国全面上市。Lexis+ AI 技术具有对话式搜索、深刻总结、智能法律起草和文档上传功能,所有这些都由最先进的加密和隐私技术提供支持,以确保敏感数据的安全。对话式搜索简化了复杂且耗时的法律研究流程,为各种法律查询提供了用户友好的搜索体验,并附带引文。这使律师能够有效、高效地开展研究。增强型摘要功能提供法律文件的自定义摘要,加快和指导深入分析。生成式文档起草功能可指导客户完成整个法律起草过程,并根据用户提示自动生成初稿。这一创新功能允许用户轻松修改语言和语气以满足他们的需求。此外,文档上传功能允许快速分析、摘要和提取法律文件中的关键见解。LexisNexis Legal & Professional Canada 首席执行官 Eric Wright 表示:“我们很高兴将这项变革性技术带给客户。Lexis+ AI 解决方案为加拿大律师提供了首创的工具,他们可以利用我们丰富、高质量的内容,大幅提高执业和业务的速度、质量和效率。” Lexis+ AI 产品专为加拿大法律专业人士量身定制,将支持英语和法语交互,让全国各地的用户能够访问唯一一部最新的国家法律百科全书《哈斯伯里法典》®、加拿大唯一的法国民法百科全书《Juris Classeur ®》以及独特的英文和法文评论、诉状、动议和 Facta 法庭文件和实用指南。LexisNexis Legal & Professional 英国和 CEMEA LNNA 首席技术官 Philippe Poignant 表示:“LexisNexis 在使用人工智能技术方面拥有丰富的第一手经验,包括直接与主要的 LLM 创建者和值得信赖的云提供商合作,以开发更快、更准确、更透明和安全的生成式 AI 解决方案。”“作为法律人工智能和分析领域的领导者,我们最有能力提供这些先进技术,以加速客户的成功。” LexisNexis 正在负责任地开发法律人工智能解决方案,并由人工监督。作为 RELX 的一部分,LexisNexis 遵循 RELX 负责任的人工智能原则,考虑其解决方案对人们的实际影响,并采取行动防止产生或强化不公平的偏见。该公司对法律行业数据安全和隐私的承诺已超过 50 年。LexisNexis 雇佣了 2,000 多名技术专家、数据科学家和主题专家来开发、测试和验证其解决方案并提供全面、准确的信息。与此同时,LexisNexis Canada 宣布了其 Lexis+ AI Insider 计划,该计划面向全国的法律专业人士开放。该计划旨在通过生成性人工智能教育和 LexisNexis Canada 关于最新人工智能发展的突发新闻来支持法律行业。内部人士可以注册