根据具身理论(包括具身、嵌入、扩展、演绎、情境和扎根认知方法),语言表征与我们与周围世界的互动有着内在联系,这反映在语言处理和学习过程中的特定大脑特征中。从具身理论与非模态理论的原始竞争开始,这篇共识论文讨论了一系列精心挑选的问题,旨在确定运动和感知过程何时以及如何参与语言过程,而不是是否参与。我们的研究领域非常广泛,从具身语义的神经生理特征(例如事件相关电位和场以及神经振荡)到语义处理和语义启动对具体和抽象词的影响,到第一和第二语言学习,最后,使用虚拟现实来检查具身语义。我们的共同目标是更好地理解运动和感知过程在语言理解和学习所代表的语言表征中的作用。我们达成共识,基于该领域开展的开创性研究,未来的发展方向是通过承认具体和情境语言和语义过程的多模态性、多维性、灵活性和特质来提高研究结果的外部有效性。
语言处理受感觉运动体验的影响。在这里,我们回顾了语言处理中体现和扎根影响的行为证据,这些影响涵盖六个语言粒度级别。我们研究 (a) 子词特征,讨论扎根对图像性(词形和含义之间的系统关联)的影响;(b) 单词,讨论模拟颜色、感觉模态和空间位置的边界条件和概括;(c) 句子,讨论动作方向模拟的边界条件和应用;(d) 文本,讨论模拟教学如何提高初学者的理解力;(e) 对话,讨论多模态线索如何改善轮流和对齐;(f) 文本语料库,讨论分布式语义模型如何揭示扎根和体现知识在文本中的编码方式。这些方法正在汇聚成令人信服的语言心理学解释,但与此同时,对体现方法和特定实验范式也提出了重要的批评。最可靠的前进之路需要采用多种科学方法。通过提供互补证据,结合不同粒度级别的多种方法可以帮助我们更全面地了解语言处理中体现和基础的作用。
然而,表达和实施这些思考是困难的,特别是在机器人和人工智能 (AI) 等新的复杂领域。为了这个目的,本书收集了体现人工智能的多样性、公平性和包容性 (DEI4EAI) 项目的思考、见解和工具。本书面向从事体现人工智能工作并有兴趣为更公平和公正的未来做出贡献的学生、研究人员、设计师、开发人员和社会利益相关者。所有那些被称为普通的东西实际上都是文化性的:它们代表着价值观、信仰和叙述,影响我们如何收集和使用数据、如何设计算法、如何定义代理、如何塑造人工智能体现、如何设计交互以及我们如何定义体现人工智能干预。尽管角色和能力不同,设计师、研究人员和更广泛的利益相关者(如政策制定者和社区)都有责任反思他们的价值观、观点、偏见和刻板印象如何影响具体化的人工智能技术。这很重要,因为孤立的实践会影响我们评估行为风险和危害的能力。为了防止设计有害和不充分的技术,需要以反思和开放的态度审视叙述、实践和方法,以转变思维方式。
对比语言图像预训练 (CLIP) 编码器已被证明对从分类和检测到字幕和图像处理等一系列视觉任务有益。我们研究了 CLIP 视觉主干对 Embodied AI 任务的有效性。我们构建了非常简单的基线,称为 EmbCLIP,没有任务特定的架构、归纳偏差(例如使用语义图)、训练期间的辅助任务或深度图——但我们发现我们改进的基线在一系列任务和模拟器中表现非常出色。EmbCLIP 在 RoboTHOR ObjectNav 排行榜上以 20 分(成功率)的巨大优势名列前茅。它在 iTHOR 1-Phase Rearrangement 排行榜上名列前茅,击败了采用主动神经映射的第二佳提交作品,并且 % Fixed Strict 指标增加了一倍多(0.08 到 0.17)。它还击败了 2021 年 Habitat ObjectNav 挑战赛的获胜者,该挑战赛采用了辅助任务、深度图和人工演示,以及 2019 年 Habitat PointNav 挑战赛的获胜者。我们评估了 CLIP 的视觉表示在捕获输入观察的语义信息方面的能力——这些原语对于导航繁重的具身任务很有用——并发现 CLIP 的表示比 ImageNet 预训练的主干更有效地编码了这些原语。最后,我们扩展了我们的一个基线,生成了一个能够进行零样本物体导航的代理,它可以导航到训练期间未用作目标的物体。我们的代码和模型可以在 https://github.com/allenai/embodied-clip 获得。
课堂感知是一个重要且活跃的研究领域,具有巨大的教学改进潜力。作为专业观察员(当前最佳实践)的补充,自动化教学专业发展系统可以参加每节课并捕捉所有在场人员的细微细节。课堂注视行为是捕捉的一个特别有价值的方面。对于学生来说,某些注视模式已被证明与对材料的兴趣相关,而对于教师来说,以学生为中心的注视模式已被证明可以提高可接近性和即时性。不幸的是,之前的课堂注视传感系统的准确性有限,通常需要专门的外部或佩戴传感器。在这项工作中,我们开发了一种新的计算机视觉驱动系统,该系统为教室的 3D“数字孪生”提供支持,并实现全班 6DOF 头部注视矢量估计,而无需对任何在场人员进行测量。我们描述了我们的开源实现,以及受控研究和现实世界课堂部署的结果。
摘要 多重外部表征 (MER) 对于科学、数学和工程学的实践和学习至关重要,因为这些领域中研究和控制的现象和实体通常无法被感知和采取行动。因此,MER 在这些领域的推理中发挥着双重构成作用。首先,MER 代表想象中的现象和实体,从而使科学研究成为可能。其次,与上述内容相关的是,与 MER 的感觉运动和想象互动使得涉及这些现象和实体的集中认知操作成为可能,例如心理旋转和类比变换。这两个构成作用表明,获得科学、数学和工程学的专业知识需要发展转化和整合该领域 MER 的能力,同时在想象中对 MER 所代表的现象和实体进行操作。因此,这种整合外部和内部表征及其操作的核心能力(称为表征能力 (RC))对于科学、数学和工程学的学习至关重要。但是,目前尚无关于这一核心过程的一般说明。我们认为,鉴于 MER 发挥的上述两个构成作用,表征能力的理论解释需要一个明确的模型来说明认知系统如何与外部表征相互作用,以及想象力如何
在卫星通信中,链路边缘以及天线辐射特征是确保在空间和接地段之间提供牢固的通信联系的关键因素。用于遥测/遥控器和有效载荷数据传输,ISOFLUX天线被广泛用于卫星通信系统中,以有效地引导电磁波。为了降低复杂性和制造成本,首选简单的天线结构。在这项研究中,经过详细的文献调查,已设计了Polyrod天线,用于在低地球轨道卫星通信子系统的空间段中使用。所提出的polyrod天线在天线的60 0高度角下具有最大增益。此外,其阻抗带宽为750MHz(11%),足以在高数据速率发射器中使用。通过使用CST微波工作室TM,这是一种可商购的3-D电磁时间域求解器,方向性,增益,轴向比率,用于X波段的高程平面以及回报损失特征。基于获得的结果,可以在需要圆锥形束辐射图案的情况下使用设计的polyrod天线。
摘要 — 从“互联网人工智能”时代到“具身人工智能”时代,出现了一种新兴的范式转变,人工智能算法和代理不再从主要来自互联网的图像、视频或文本数据集中学习。相反,他们通过与环境的互动从类似于人类的自我中心感知中进行学习。因此,对具身人工智能模拟器的需求大幅增长,以支持各种具身人工智能研究任务。对具身人工智能日益增长的兴趣有利于对通用人工智能 (AGI) 的更大追求,但目前还没有对这一领域的当代和全面的调查。本文旨在为具身人工智能领域提供百科全书式的调查,从其模拟器到其研究。通过评估我们提出的七个特征的九个当前具象人工智能模拟器,本文旨在了解模拟器在具象人工智能研究中的用途及其局限性。最后,本文调查了具象人工智能的三个主要研究任务——视觉探索、视觉导航和具象问答 (QA),涵盖了最先进的方法、评估指标和数据集。最后,通过调查该领域发现的新见解,本文将为任务模拟器的选择提供建议,并为该领域的未来方向提供建议。