Gemma Scope: helping the safety community shed light on the inner workings of language models
宣布一套全面的，开放的稀疏自动编码器，用于语言模型可解释性。
Gemma Scope: helping the safety community shed light on the inner workings of language models
宣布一套全面的，开放的稀疏自动编码器，用于语言模型可解释性。
Gemma Scope: helping the safety community shed light on the inner workings of language models
宣布一套全面的，开放的稀疏自动编码器，用于语言模型可解释性。
Gemma Scope: helping the safety community shed light on the inner workings of language models
宣布推出一套全面、开放的稀疏自动编码器，用于语言模型可解释性。
NATO releases a revised AI strategy to combat threats
北约发布了修订后的人工智能战略，以促进人工智能在国防应用中的负责任使用，并打击来自人工智能对手的威胁。北约的最新战略表明，人工智能在国防领域的应用正迅速从新颖性发展到广泛采用。北约最初的人工智能战略是在 2021 年制定的，其中批准了人工智能在国防领域的六项负责任使用原则 (PRU)，即：责任和问责制、可解释性和可追溯性、可靠性、可治理性和偏见缓解。2021 年仅仅是 3 年前，但它比我们今天拥有的商业化技术落后了几代。北约表示，随着新一轮北约发布修订后的人工智能战略以应对威胁，该文章首次出现在 DailyAI 上。
Towards Monosemanticity: A Step Towards Understanding Large Language Models
理解机械可解释性研究问题并对这些大型语言模型进行逆向工程上下文人工智能研究人员的主要问题之一是了解这些大型语言模型的工作原理。从数学上讲，我们对不同神经网络权重如何相互作用并产生最终答案有一个很好的答案。但是，直观地理解它们是人工智能研究人员旨在回答的核心问题之一。这很重要，因为除非我们了解这些 LLM 的工作原理，否则很难解决 LLM 对齐和人工智能安全等问题，也很难对 LLM 进行建模以解决特定问题。理解大型语言模型如何工作的问题被定义为机械可解释性研究问题，核心思想是我们如何对这些大型语言模型进行逆向工程。Anthropic 是在理解这些大型模型方面取得巨大进步的公司之一。主要问题是这些
FI-CBL: A Probabilistic Method for Concept-Based Machine Learning with Expert Rules
机器学习中基于概念的学习 (CBL) 强调使用原始特征中的高级概念进行预测，从而提高模型的可解释性和效率。一种突出的类型是基于概念的瓶颈模型 (CBM)，它将输入特征压缩到低维空间中以捕获基本数据，同时丢弃非基本信息。此过程增强了图像和语音识别等任务的可解释性。然而，FI-CBL：基于专家规则的基于概念的机器学习的概率方法首先出现在 AI Quantum Intelligence 上。
FI-CBL: A Probabilistic Method for Concept-Based Machine Learning with Expert Rules
机器学习中的基于概念的学习 (CBL) 强调使用原始特征中的高级概念进行预测，从而提高模型的可解释性和效率。一种突出的类型是基于概念的瓶颈模型 (CBM)，它将输入特征压缩到低维空间中以捕获基本数据，同时丢弃非基本信息。此过程增强了图像和语音识别等任务的可解释性。然而，FI-CBL：基于专家规则的基于概念的机器学习的概率方法首先出现在 AI Quantum Intelligence 上。
В Приморском крае завершилась профилактическая акция «Автошина»
此外，军事交通督察还与司机进行了解释性谈话，谈话中他们谈到了军事人员使用轮胎故障或违规安装车辆的责任。
Transparency—Like Charity—Begins at Home?
随着关于监管人工智能应用的争论愈演愈烈，透明度的需求也日益凸显。在大多数情况下，人工智能算法在“黑匣子”中“发挥作用”，这使得其决策依据甚至对开发人员来说都是不透明的。透明度及其同伙“可解释性”、“可阐释性”和“可理解性”在人工智能的发展中占有重要地位[…] 透明度——就像慈善——始于家庭？首先出现在美国企业研究所 (AEI) 上。
美国武装部队上诉法院已发布一系列对其《实践和程序规则》的拟议变更。联邦公报通知和拟议变更文本（篇幅过长，无法在《联邦公报》上发布）的链接可在此处找到。评论截止日期为 2024 年 7 月 8 日。如果您发表评论，请使用评论功能将副本上传到全球军事司法改革。2025 年（第 24 版）美国武装部队上诉法院《实践和程序规则》非官方指南将反映法院最终采用的变更和任何规则咨询委员会的解释性评论。如果您持有即将发布的今年（第 23 版）的副本，您可能希望保留它作为历史参考。
SXSW EDU March Madness of Learning Trends LIVE
在 SXSW EDU 2024 的一场生动活泼、发人深省的会议上，《教育趋势》播客主持人 Mike Palmer 和专家小组深入探讨了今年学习趋势的“甜蜜 16”。讨论涵盖了广泛的主题，从超个性化学习和人工智能在教育中的作用，到心智模型的重要性以及作为推动积极变革的“帮凶”的责任。小组成员包括来自 Kaplan 的 Melissa Griffith、来自 BAST AI 的 Beth Rudden 和来自皇后学院的 Robin Naughton 博士，他们带来了独特的观点和见解。我们探讨了人工智能的潜力和挑战，强调了批判性思维、道德考量和以人为本的技术方法的必要性。出现的关键主题之一是赋予学习
GAO 的发现国土安全部每年投资数十亿美元来购买有助于保护边境、提高海上安全、筛查旅客、增强网络安全以及执行各种其他操作的系统。成本和进度状态。在 GAO 选择审查的 26 个国土安全部采购计划中，有 16 个拥有部门批准的采购计划基线——可衡量目标的摘要，表明系统将如何执行、何时交付以及成本是多少。 16 个项目中有 15 个项目达到了当前的成本和进度目标，而 2023 财年有一个项目处于违规状态。由于持续的技术挑战以及与增量 1 开发相关的财务限制，国土高级识别技术项目超出了其进度。此外，一些项目持续面临挑战，而 DHS 的两个成本最高的项目报告了显着的成本增长和延误。尽管 2020 年进
第五届负责任计算基础研讨会 (FORC) 将于 2024 年 6 月 12 日至 14 日在马萨诸塞州剑桥的哈佛大学举行。征文通知已经发出。请提交您的优秀论文，以便 FORC 再次取得成功。FORC 是计算和社会领域数学研究的论坛。该研讨会旨在催化一个社区的形成，支持将理论计算机科学、统计学、经济学和其他相关分析领域应用于紧迫和预期的社会关注问题。主题包括但不限于：机器学习公平性的理论方法，包括定义、算法、下限和权衡的研究；隐私的正式方法，包括差异隐私；计算和数学的社会选择，包括分配和重新划分选区；分配和公平划分的公平性；经济激励，包括社会公益机制设计；稳健性的指标和含义，包括可解释性的形式化
Tracking the Funds: Specific FY 2023 Provisions for Federal Agencies
美国政府问责署发现《2023 年综合拨款法案》及其随附的联合解释性声明为 7,234 项社区项目资金/国会指示的支出规定拨款约 153 亿美元。这些规定指定特定受助人用于特定项目。2022 财年，约 91 亿美元被指定用于 4,963 项规定。19 个联邦机构获得了这些规定的拨款，并负责使用这些资金规划和执行项目。除一个新机构——国家药物管制政策办公室外，获得 2022 财年拨款的 18 个机构也获得了 2023 财年拨款。虽然 2023 财年的资金数额和拨款数量相对于 2022 财年有所增加，但用于各种用途、接收者类型和地点的总指定资金模式通常是成比例的。通过社区项目资金/国会指导的支出条款
GAO 发现自助购房机会计划 (SHOP) 是一项竞争性联邦计划，该计划向符合条件的非营利组织提供资金，帮助开发供低收入家庭购买的经济适用房。住房和城市发展部 (HUD) 负责管理该计划，并从 SHOP 受助者那里收集一些总体数据。例如，HUD 每年和每半年从受助者那里收集数据，了解受助者在 SHOP 资金的帮助下开发的住房单元数量，以及他们在各个项目的土地收购和基础设施改进上花费了多少。但是，HUD 尚未使用这些计划数据或市场数据（例如土地成本变化）来指导关键的计划决策，包括设定 SHOP 资金受助者可以在每个住房单元上花费的金额上限。据 HUD 官员称，他们已经开始与政策发展和研究办公室合
AI for the Rest of Us with Beth Rudden
Beth Rudden 是 Bast AI 的创始人兼董事长。她也是《AI for the Rest of Us》的合著者。她与主持人 Mike Palmer 再次就生成式 AI 的风险和机遇展开对话，这源于她在 IBM 以及现在独立工作的丰富数据科学经验。我们首先了解 Beth 写这本书的动机。代表性很重要，我们需要更广泛地采用 AI，以便避免我们迄今为止看到的许多陷阱和偏见。然后我们讨论我们今天面临的一些挑战。AI 能帮助我们摆脱困境吗？Beth 分享了她负责任的 AI 的三条规则，我们探讨了可预测性和可解释性在大型语言模型开发中的重要性。AI 如何真正增强人类，以及我们在第一波 Gen
Tracking the Funds: Specific Fiscal Year 2022 Provisions for Department of Commerce
GAO 的发现《2022 年综合拨款法案》应国会议员的要求向商务部拨款 2.475 亿美元，用于 107 个项目。该法案包括指定特定接收者用于特定项目的资金数额的具体条款。这些条款在美国参议院被称为“国会指导支出”，在众议院被称为“社区项目资助”。 GAO 描述了有关这些资金的预期用途、指定接收者以及其他信息等信息。商务部预计接收者何时能够获得资金：这些资金的预期用途是通过设施建设、设备升级以及恢复和监测自然栖息地的努力来支持新的和正在进行的科学研究。这些资金的指定接收者主要是高等教育组织和其他非营利组织。其余的接收者是联邦、州和地方政府以及部落实体。资金范围从 5 万美元到 6,000 万美
