XiaoMi-AI文件搜索系统
World File Search Systemactivations
![arxiv：2502.04628v1 [CS.CV] 2025年2月7日](/simg/g:\will\search\icon\source\e\e62c82b565d6cc8945b22d0eaa9569d70c13f527.webp)
arxiv：2502.04628v1 [CS.CV] 2025年2月7日
训练后量化（PTQ）已成为减少视觉变压器（VIT）的存储和计算成本的承诺解决方案。最近的进步主要是对制作量化器进行制作量化，以处理以VIT为特征的特殊激活。然而，大多数现有方法未列出重量序列产生的信息损失，从而导致严重的性能恶化，尤其是在低位案例中。此外，量化VIT后施加后激活的一种常见实践是对对数转换的影响，不幸的是，这对零左右的信息值较少。这种方法引入了其他冗余，最终导致了次序量化功效。为了处理这些内容，本文为VIT量身定制的创新PTQ方法称为AIQVIT（用于VIT S的训练后的训练后Q）。首先，我们设计了一个知情的低级补偿机制，其中引入了可学习的低级权重以补偿由权重量化引起的降解。第二，我们设计了动态的聚焦量化器，以适应后敏化后激活的不平衡分布，该分散量是为了动态地介绍更高量化的最有价值的间隔。对五个视觉任务的广泛实验，包括图像分类，对象检测，实例分割，点云分类和点云部分分割，证明了AIQVIT优于最先进的PTQ方法。
图像完成的自我监视的深神经网络类似于早期的视觉皮层fMRI活动模式
人工智能在理解生物学视觉方面的承诺依赖于将计算模型与大脑数据的比较，以捕获视觉信息处理的功能原理。卷积神经网络（CNN）成功地匹配了沿着大脑前馈视途径延伸到腹侧颞叶皮质中的层次处理中的转换。但是，我们仍然要了解CNN是否可以成功地描述早期视觉皮层中的反馈过程。在这里，我们研究了人类早期视觉皮层和具有编码器/解码器体系结构的CNN之间的相似性，并接受了自我监督的学习训练以填充闭塞并重建了看不见的图像。使用代表性相似性分析（RSA），我们比较了人类参与者中未刺激的早期视觉皮层贴片的3T fMRI数据，这些数据是查看部分遮挡图像的人，以及来自同一图像的CNN层激活不同。结果表明，我们的自我监督图像完成网络在与fMRI数据的相似性方面优于经典的对象识别网络（VGG16）。这提供了其他证据，表明视觉系统的最佳模型可能来自较少的监督训练的饲养架构。我们还发现，与编码器激活相比，CNN解码器途径激活与大脑处理更相似，这表明早期视觉皮层中的中和低/中级特征的整合。挑战AI模型和人脑解决相同的任务提供了一种将CNN与大脑数据进行比较的宝贵方法，并有助于限制我们对信息处理的理解，例如神经元预测性编码。
用于图像修复的无监督深度神经网络类似于遮挡场景的早期视觉皮层 fMRI 活动模式
人工智能在理解生物视觉方面的前景依赖于将计算模型与大脑数据进行比较，从而捕捉视觉信息处理的功能原理。深度神经网络 (DNN) 已成功匹配大脑前馈视觉通路延伸至腹侧颞叶皮层过程中发生的分层处理转换。然而，我们仍有待了解 DNN 是否能够成功描述早期视觉皮层中的反馈过程。在这里，我们研究了人类早期视觉皮层与具有编码器/解码器架构的 DNN 之间的相似性，以无监督方式训练以填充遮挡并重建未见过的图像。使用表征相似性分析 (RSA)，我们比较了人类参与者在观看部分遮挡图像时未受刺激的早期视觉皮层斑块的 3T fMRI 数据与来自相同图像的不同 DNN 层激活。结果表明，我们的网络在与 fMRI 数据的相似性方面优于经典监督网络 (VGG16)，这意味着改进的视觉神经网络模型需要结合捕捉皮层反馈处理的架构。我们还发现，与编码器激活相比，DNN 解码器通路激活与大脑处理更相似，这表明早期视觉皮层中存在中级和低级/中级特征的整合。挑战 AI 模型和人脑解决同一项任务提供了一种将 DNN 与大脑数据进行比较的宝贵方法，并有助于限制我们对信息处理的理解，例如神经元预测编码。
利用大脑数据构建神经网络模型揭示了适应性行为背后的表征转换
人们认为，人类能够自适应地执行各种任务的能力源自认知信息的动态转换。我们假设这些转换是通过连接枢纽（选择性整合感觉、认知和运动激活的大脑区域）中的连接激活来实现的。我们利用最近使用功能连接来映射大脑区域之间活动流的进展，在认知控制任务期间从 fMRI 数据构建任务执行神经网络模型。我们通过模拟这个经验估计的功能连接模型上的神经活动流来验证连接枢纽在认知计算中的重要性。这些经验指定的模拟通过在连接枢纽中整合感觉和任务规则激活产生了高于偶然的任务表现（运动反应）。这些发现揭示了连接枢纽在支持灵活认知计算方面的作用，同时证明了使用经验估计的神经网络模型深入了解人类大脑认知计算的可行性。
Andrew V. Sutherland稀疏的自动编码器用于增强学习模型中的可解释性
最近的工作表明，稀疏的自动编码器（SAE）能够有效地发现语言模型中的人解释功能，从玩具模型到最先进的大语言模型等等。这项工作探讨了SAE的使用是否可以推广到机器学习的其他品种，特定的，加固学习，以及如何（如果有的话）将SAES适应这一实质上不同的任务所需的修改。本研究使用玩具加强学习环境来进行经验实验，研究了SAE代表强化学习模型作为可解释特征的能力的定性和定量度量。发现SAE成功地将深Q网络的内部激活分解为可解释的特征，此外，这些人解释的某些特征代表了对仅凭深度Q网络单独输出而无法发现的基本任务的内部理解。
图像完成的自我监视的深神经网络类似于早期的视觉皮层fMRI活动模式
人工智能在理解生物学视觉方面的承诺依赖于将计算模型与大脑数据的比较，以捕获视觉信息处理的功能原理。卷积神经网络（CNN）成功地匹配了沿着大脑前馈视途径发生的层次处理的转换，并延伸到腹侧颞叶皮层。但是，我们仍然要了解CNN是否可以成功地描述早期视觉皮层中的反馈过程。在这里，我们研究了人类早期视觉皮层和具有编码器/解码器体系结构的CNN之间的相似性，并接受了自我监督的学习训练以填充闭塞并重建了看不见的图像。使用代表性相似性分析（RSA），我们比较了来自人类参与者中未刺激的早期视觉皮层贴片的3T功能磁共振成像（fMRI）数据，这些数据是查看部分遮障图像的人类参与者中的，与同一图像中的CNN层激活不同。结果表明，我们的自我监督图像完成网络在与fMRI数据的相似性方面优于经典的对象识别网络（VGG16）。这项工作提供了其他证据，表明视觉系统的最佳模型可能来自较少受到监督训练的饲养场体系结构。我们还发现，与编码器激活相比，CNN解码器途径激活与大脑处理更相似，这表明早期视觉皮层中的中和低/中级特征的整合。挑战人工智能模型，通过自学学习学习自然图像表示，并将其与大脑数据进行比较可以帮助我们限制我们对
日期：2024 年 12 月 16 日星期一 收件人：视觉艺术委员会 发件人：Sarah Madland，娱乐和公园部政策和公共事务总监
(1) 在 RPD 篮球场上绘制壁画，庆祝 2025 年 2 月 16 日在旧金山举行的 NBA 全明星赛；以及 (2) 在 K 号提案通过后，Upper Great Highway 永久禁止车辆通行，在此举办艺术活动。这些活动旨在将道路改造成休闲长廊，创造一个有趣而令人兴奋的目的地，其中的节目和活动会定期变化。为了加快对多个艺术装置的审查和批准，我们请求委员会授权文化事务主任批准该计划预计的为期一年的众多艺术项目。K 号提案和 Upper Great Highway 提案的背景 K 号提案于 2024 年 12 月 5 日以 54% 的投票通过。它要求市政府将 Upper Great Highway 改造成一个永久的 24/7 休闲长廊，供散步、骑自行车、滚动等。这取代了之前立法的大公路试点项目，该项目将于 2025 年 12 月 31 日结束，届时将向 BOS 提交关于首选配置的建议。此外，作为 SFPUC 海洋海滩气候变化适应项目的一部分，Sloat Blvd 以南的大公路延伸段也计划关闭车辆交通。随着 K 号提案的通过，大公路延伸段的南行车道将不再需要，并且可能会在 UGH 关闭的同时关闭车辆交通。除了支持交通变化、长椅和垃圾桶等额外基础设施、标牌和沙丘植被恢复外，娱乐和公园部门还与大公路公园之友和 Building 180 等社区合作伙伴合作，通过艺术和其他活动为新公园注入活力，包括：
![arxiv：2409.05448v3 [CS.CL] 2024年10月25日](/simg/g:\will\search\icon\source\2\2cbf979189c1b8fe1be9c78355f34daf315a9d2a.webp)
arxiv：2409.05448v3 [CS.CL] 2024年10月25日
实体跟踪对于复杂的重新制定至关重要。要执行语言模型（LMS）必须将实体绑定到其属性（例如，将容器绑定到其包含）以回忆给定实体的属性。例如，给定一个上下文中提到的“ cof-费用在框中，石头在框中，地图在框H中”，以推断“ Box z Z含有咖啡”，LMS必须将“ Box Z”绑定到“咖啡”。为解释LMS的结合行为，Feng和Steinhardt（2023）引入了一种结合ID机制，并指出LMS使用称为Binding ID（BI）的抽象概念来内部标记实体 - 属性对。但是，他们尚未从直接确定绑定行为的实体激活中捕获订购ID（OI）。在这项工作中，我们通过本地化OI并证明OI和结合行为之间的因果关系提供了一种新颖的看法。具体而言，通过杠杆尺寸缩小方法（例如PCA），我们发现LMS激活中存在一个低级别的子空间，主要编码实体和贡献的顺序（即OI）。此外，我们还发现了OI对结合的因果效应，即沿OI编码方向进行编辑代表时，LMS倾向于相应地将特定的实体与其他贡献结合。例如，通过沿OI编码方向进行修补激活，我们可以使LM推断“ Box Z包含石头”和“ Box Z包含地图”。本文中使用的代码和数据集可在https://github.com/cl-tohoku/oi-subspace上找到。
![arXiv:2208.09677v2 [cs.CV] 2022 年 8 月 25 日](/simg/g:\will\search\icon\source\e\eed2127ddfd01a3975f9517c2f34298def8b628f.webp)
arXiv:2208.09677v2 [cs.CV] 2022 年 8 月 25 日
我们推出了 Net2Brain，这是一个图形和命令行用户界面工具箱，用于比较人工深度神经网络 (DNN) 和人类大脑记录的表征空间。虽然不同的工具箱只支持单一功能或只关注一小部分监督图像分类模型，但 Net2Brain 允许提取 600 多个 DNN 的激活，这些 DNN 经过训练可执行各种视觉相关任务（例如语义分割、深度估计、动作识别等），适用于图像和视频数据集。该工具箱计算这些激活的表征相异矩阵 (RDM)，并使用表征相似性分析 (RSA)、加权 RSA 将它们与大脑记录进行比较，无论是在特定的 ROI 中还是在探照灯搜索中。此外，还可以将一组新的刺激和大脑记录数据集添加到工具箱中进行评估。我们通过一个例子展示了 Net2Brain 的功能和优势，展示了如何使用它来检验认知计算神经科学的假设。
利用大脑数据构建神经网络模型揭示与适应性行为相关的表征转换
人们认为，人类自适应地执行各种任务的能力源于认知信息的动态转换。我们假设这些转换是通过“连接中枢”的连接激活实现的。连接中枢是选择性整合感觉、认知和运动激活的大脑区域。我们利用最新进展，利用功能连接映射大脑区域之间的活动流，从认知控制任务期间的 fMRI 数据构建任务执行神经网络模型。我们通过模拟这个经验估计的功能连接模型上的神经活动流，验证了连接中枢在认知计算中的重要性。这些经验指定的模拟通过在连接中枢整合感觉和任务规则激活产生了高于偶然的任务表现（运动反应）。这些发现揭示了连接中心在支持灵活的认知计算中的作用，同时证明了使用经验估计的神经网络模型深入了解人类大脑认知计算的可行性。