XiaoMi-AI文件搜索系统
World File Search System可信
人工智能系统可信度评估：最新进展
基于模型的系统工程 (MBSE) 的核心是“从概念设计阶段开始并贯穿整个开发和后续生命周期阶段的建模形式化应用，以支持系统需求、设计、分析、验证和确认活动”(INCOSE，2007)。因此，MBSE 提倡“使用模型来执行传统上使用文档执行的系统工程活动”(Mann，2009)。这促进了对复杂系统工程过程的理解，包括人工智能 (AI) 系统工程作为一个多工程过程 (Mattioli 等人，2023d)。然而，MBSE 的成功应用需要对 ISO/IEC DIS 30145-2 标准定义的 AI 可信度进行评估，即“以可验证的方式满足利益相关者期望的能力”。事实上，如果在开发早期阶段没有对可信度进行评估，那么在航空电子、移动、医疗保健和国防等安全关键系统中部署人工智能组件就会变得有风险 (Mattioli 等人，2023b)。鉴于此，量化基于人工智能的系统可信度成为热门话题也就不足为奇了 (Braunschweig 等人，2022)。人工智能
核医学中的人工智能：迈向可信赖生态系统的机遇、挑战和责任
从二元组到更广泛的医疗保健生态系统。随着人工智能 (AI) 在医学领域的出现，必须重新审视信任的要素。我们设想了在核医学领域建立值得信赖的 AI 生态系统的路线图。在本报告中，AI 被置于技术革命的历史中。讨论了与诊断、治疗和工作流程效率相关的核医学 AI 应用机会，以及新出现的挑战和关键责任。建立和保持 AI 的领导地位需要齐心协力，通过让患者、核医学医生、科学家、技术人员和转诊提供者等利益相关者参与进来，促进这项创新技术的合理和安全部署，同时保护我们的患者和社会。该战略计划由核医学和分子成像学会的 AI 工作组制定。
可信人工智能和健康增值的挑战
国际卫生信息学的发展受到生物医学技术和医学信息学研究发展的推动，两者并行发展，形成了一个信息和通信媒体的综合世界，并产生了大量的健康数据。这些组成部分包括基因组学和精准医学、机器学习、转化信息学、面向临床医生和患者的智能系统、移动健康应用、数据驱动的电信和康复技术、传感器、智能家居技术、电子病历和患者控制数据以及物联网。卫生技术和信息学 (HTI) 系列研究始于 1990 年，与欧盟在“地平线 2020”计划之前的计划合作，旨在促进生物医学和卫生信息学研究。它已发展成为一个备受瞩目的全球平台，用于传播该领域的原创研究，包含来自世界各地的 250 多卷高质量作品。国际编辑委员会选择与该领域相关且高质量的出版物。该系列的所有卷文都经过同行评审。 HTI 系列中的卷已提交至 MEDLINE/PubMed、Web of Science：会议论文集引文索引 – 科学 (CPCI-S) 和书籍引文索引 – 科学 (BKCI-S)、Google Scholar、Scopus、EMCare 进行索引。
asgard：使用基于虚拟化的可信执行环境保护设备上的深神经网络
我们提出了Asgard，这是第一个基于虚拟化的TEE解决方案，旨在保护传统ARMV8-A SOC的设备DNN。与使用基于信任的TEE进行模型保护的先前工作不同，Asgard的T恤仍然与现有专有软件兼容，保持可信赖的计算基础（TCB）最小值，并在接近零时的运行时开销。到此为止，Asgard（i）（i）通过安全的I/O传球牢固地延长了现有TEE的界限，以通过安全的I/O传球结合了SOC集成加速器，（ii）通过我们积极进取的且安全性的平台和应用程序级别的TCB Debloating Techiques和（IIIIIII）exite-iii iii iii nordie-irie-irie norder-irie norder-irie norder-irie norder-irie norder-irique tcb紧紧控制TCB的大小。合并DNN执行计划。我们在RK3588S上实施了ASGARD，这是一个基于ARMV8.2-A的商品Android平台，配备了Rockchip NPU，而无需修改Rockchip-和Armpriperipary软件。我们的评估表明，Asgard有效地保护了TCB大小和可忽略不计的推理潜伏期的传统Soc中的设备DNN。
迈向构建安全可信的人工智能代理和道路......
– 对抗性稳健性 – 分布外稳健性 • 幻觉 • 公平性 • 毒性 • 刻板印象 • 机器伦理 • 越狱护栏和安全/安保政策 • 协调目标：乐于助人、无害、诚实
（SHRI JITIN PRASADA）（a）至 d）：印度政府强调“全民人工智能”的概念，这与总理在全国范围内培育和推动尖端技术应用的愿景相一致。这一举措旨在确保人工智能惠及社会各界，推动创新和增长。政府致力于利用人工智能 (AI) 的力量，在医疗、农业、教育、政府治理、新闻部和其他领域造福人民。与此同时，政府也意识到人工智能带来的风险。幻觉、偏见、错误信息和深度伪造是人工智能带来的一些挑战。为了应对人工智能的挑战和风险，政府认识到需要建立护栏以确保人工智能的安全和可信。因此，中央政府在与相关利益相关方进行广泛的公众协商后，于 2021 年 2 月 25 日公布了《信息技术（中介机构指南和数字媒体道德规范）规则》2021 年（“2021 年 IT 规则”），该规则随后于 2022 年 10 月 28 日和 2023 年 4 月 6 日进行了修订。2021 年 IT 规则对中介机构（包括社交媒体中介机构和平台）规定了具体的法律义务，以确保他们对安全可信的互联网负责，包括迅速采取行动消除被禁止的虚假信息、明显虚假的信息和深度伪造。如果中介机构未能遵守 2021 年 IT 规则规定的法律义务，他们将失去《2000 年信息技术法》（“IT 法”）第 79 条规定的避风港保护，并应根据任何现行法律承担相应的诉讼或起诉。 《2023 年数字个人数据保护法》于 2023 年 8 月 11 日颁布，该法案规定数据受托人有义务保护数字个人数据，追究其责任，同时确保数据主体的权利和义务。政府已成立人工智能咨询小组，针对印度特定的监管人工智能框架，由印度总理首席科学顾问 (PSA) 担任主席，来自学术界、工业界和政府的不同利益相关者参与，目标是解决与制定负责任的人工智能框架有关的所有问题，以实现人工智能的安全和可信开发和部署。
（SHRI JITIN PRASADA）（a）至 d）：印度政府强调“全民人工智能”的概念，这与总理在全国范围内培育和推动尖端技术应用的愿景相一致。这一举措旨在确保人工智能惠及社会各界，推动创新和增长。政府致力于利用人工智能 (AI) 的力量，在医疗、农业、教育、政府治理、新闻部和其他领域造福人民。与此同时，政府也意识到人工智能带来的风险。幻觉、偏见、错误信息和深度伪造是人工智能带来的一些挑战。为了应对人工智能的挑战和风险，政府认识到需要建立护栏以确保人工智能的安全和可信。因此，中央政府在与相关利益相关方进行广泛的公众协商后，于 2021 年 2 月 25 日公布了《信息技术（中介机构指南和数字媒体道德规范）规则》2021 年（“2021 年 IT 规则”），该规则随后于 2022 年 10 月 28 日和 2023 年 4 月 6 日进行了修订。2021 年 IT 规则对中介机构（包括社交媒体中介机构和平台）规定了具体的法律义务，以确保他们对安全可信的互联网负责，包括迅速采取行动消除被禁止的虚假信息、明显虚假的信息和深度伪造。如果中介机构未能遵守 2021 年 IT 规则规定的法律义务，他们将失去《2000 年信息技术法》（“IT 法”）第 79 条规定的避风港保护，并应根据任何现行法律承担相应的诉讼或起诉。 《2023 年数字个人数据保护法》于 2023 年 8 月 11 日颁布，该法案规定数据受托人有义务保护数字个人数据，追究其责任，同时确保数据主体的权利和义务。政府已成立人工智能咨询小组，针对印度特定的监管人工智能框架，由印度总理首席科学顾问 (PSA) 担任主席，来自学术界、工业界和政府的不同利益相关者参与，目标是解决与制定负责任的人工智能框架有关的所有问题，以实现人工智能的安全和可信开发和部署。
评估网络代理的安全性和可信度
Web 代理的最新进展引入了新颖的架构和基准，展示了自主 Web 导航和交互方面的进展。然而，大多数现有基准优先考虑有效性和准确性，而忽略了安全性和可信度等因素——这两者都是部署企业环境中的 Web 代理所必需的。我们提出了 ST-WebAgentBench，这是一个基准，旨在评估 Web 代理在六个关键维度上的安全性和可信度，这对于企业应用程序的可靠性至关重要。该基准基于一个详细的框架，该框架定义了安全和可信 (ST) 代理行为。我们的工作扩展了 WebArena，增加了安全模板和评估功能，以严格评估安全政策合规性。我们引入了“按政策完成”来衡量在遵守政策的同时完成任务的成功程度，以及“风险比率”，它可以量化各个维度的政策违规行为，从而提供可行的见解来解决安全漏洞。我们的评估表明，当前的 SOTA 代理在遵守政策方面存在困难，尚不能依赖它来处理关键业务应用程序。我们开源此基准并邀请社区做出贡献，目标是培育新一代更安全、更值得信赖的 AI 代理。所有代码、数据、环境复制资源和视频演示均可在 https://sites.google.com/view/st-webagentbench/home 上找到。
首个面向可信 AI 的生成式 AI 评估沙箱
简介 信任是大多数（如果不是全部）成功的企业、计划和关系的核心。这一人类概念延伸到数字领域，人工智能 (AI) 解决方案在越来越多的日常任务中的应用，使可信 AI 模型的问题成为众人瞩目的焦点。为了确保生成式 AI 以安全、负责任的方式使用，并保持信任，信息通信媒体发展局 (IMDA) 和 AI Verify 基金会于 2023 年 10 月 31 日宣布了首个生成式 AI 评估沙盒 (Sandbox)。沙盒将汇集全球主要参与者，以建立生成式 AI 的测试和评估能力，并努力建立一种通用的标准方法来评估生成式 AI。沙盒使用新的评估目录草案，其中列出了大型语言模型 (LLM) 的通用基准方法和建议。在本次更新中，我们简要探讨了与生成式 AI 模型相关的风险、沙盒的关键方面以及 Rajah & Tann 如何帮助您成功解决与采用 AI 解决方案以满足业务需求相关的大量问题。当前对 LLM 的担忧 生成式 AI 是指学习所搜索数据的底层分布，然后从所学习的分布中生成新内容的 AI 模型。ChatGPT 是一个非常流行的生成式 AI 模型的示例。从时尚到医疗保健等各个行业都在使用生成式 AI。然而，我们对生成式 AI 风险的理解仍在不断发展。在讨论文件“生成式 AI：对信任和治理的影响”（“讨论文件”）中，IMDA 详细介绍了 LLM 的主要风险和危害，并为政府和企业的高级领导人提出了构建生态系统以可信和负责任地采用生成式 AI 的想法。讨论文件中强调的生成式 AI 带来的主要风险包括：
可信职位描述 – 研究员
职位详情 职位头衔：研究员 学院/作品集：STEM 学院 学院/团体：理学院 校园位置：位于城市校区，但可能需要工作和/或驻扎在大学的其他校区。 分类：学术水平 B1-B3（取决于之前的经验） 工作类型：固定期限（研究）——1 年 时间分数：1.0 FTE 皇家墨尔本理工大学 皇家墨尔本理工大学是一所多部门的技术、设计和企业大学，在全球范围内拥有超过 96,000 名学生和近 10,000 名员工。该大学的使命是通过研究、创新和参与来帮助塑造世界，并为学生创造变革性的体验，为他们的生活和工作做好准备。 https://www.rmit.edu.au/about https://www.universitiesaustralia.edu.au/university/rmit-university/ 我们在墨尔本的三个主要校区分别位于市中心、布伦瑞克和邦多拉。其他地点包括库克角、汉密尔顿和本迪戈、越南的两个校区（河内和胡志明市）以及位于西班牙巴塞罗那的中心。RMIT 是一所真正的全球性大学。https://www.rmit.edu.au/about/our-locations-and-facilities 我们还致力于重新定义我们与土著人民自决合作和支持土著人民自决的关系。我们的目标是通过完善我们的价值观、文化、政策和结构，将和解融入我们所做的每一件事中，实现持久的转变。我们正在改变我们的认知、工作和生活方式，以支持可持续的和解，并激活土著和非土著员工、学生和社区之间的关系。我们在墨尔本的三个校区（城市、布伦瑞克和邦多拉校区）位于东部库林民族的 Woi Wurrung 和 Boon Wurrung 语言群体未割让的土地上。
我们很高兴邀请您参加第一届 IEEE 物联网和微电子安全可信网络基础设施会议 (SaTC 2025)，会议将于
感兴趣的话题 感兴趣的话题包括但不限于以下内容： Fathi Amsad 博士，美国瑞格特州立大学Ahmed Abdelgawad 博士，美国中密歇根大学Alaa Ali Hameed先生，土耳其伊斯廷耶大学Kevin Mccamey 博士，莱特·帕特森空军研究实验室 (WB-AFRL)马特·卡斯托（Matt Casto），中西部微电子联盟公司多发性硬化症。国家安全局 Lynne Clark 博士Erin Gawron-Hyla 博士，国防部微电子公共部门西班牙卡斯蒂利亚-拉曼恰大学 Fausto Pedro Garcia Marquez 博士约翰（马蒂）埃默特（John (Marty) Emmert），美国辛辛那提大学