我们现在概述了示波器状态的一些关键特性(如图6) - (1)首先,预抓机器人将机器人靠近目标对象,并将机器人的手掌和腕关节朝向物体。此接近度可确保前Grasps可以轻松地演变成稳定的掌握,而无需机器人探索整个状态空间。(2)此外,pre-prasp figer提出了有关对象功能部分的有价值信息,而无需机器人明确推理它。例如,将机器人的纤维夹在杯子手柄周围的固定器,为机器人抓住手柄提供了至关重要的信号,可以使机器人与杯子相互作用。此属性还意味着每个对象可能会有多个预段(对应于不同的功能)。(3)最后,预抓态激励有利的联系(例如与工具手柄的互动)并避免与物体的危险接触(例如刀边缘)和/或场景的任何其他部分(例如按到表中)。这是至关重要的,因为灵活的操作充满了触点,这些接触很难有效地建模,预测和理性。良好的预抓手为学习下游操纵行为提供了有利的开始和强大的动力。
摘要 - 诸如Chatgpt之类的基础模型由于其对现实世界的普遍代表而在机器人任务中取得了长足的进步。在本文中,我们利用基本模型来解决Grasp检测,这是具有广泛工业应用机器人技术的持续挑战。尽管数据集很多,但与现实世界数字相比,它们的对象多样性仍然有限。幸运的是,基础模型具有广泛的现实知识存储库,包括我们在日常生活中遇到的对象。因此,对以前的GRASP数据集中有限表示的有希望的解决方案是利用这些基础模型中嵌入的通用知识。我们提出了Grasp-noth,这是一种从基础模型中合成的新的大规模掌握数据集来实施该解决方案。掌握在多样性和幅度上都擅长,具有文本描述和超过3M对象的1M样品,超过了先前的数据集。从经验上讲,我们表明,任何东西都成功地促进了对基于视觉的任务和现实世界机器人实验的零射击抓手的检测。我们的数据集和代码可在https://airvlab.github.io/grasp-anything/上找到。
2例如,感知系统的功能之一是提供2D视觉场景的3D解释(与学习运动序列或做出道德决定相反)。3在我们的示例中,感知系统可以结合对环境的一些先前知识(就场景的空间排列而言),并目前可用的感官信号来得出估计三维距离的估计。4任何认知系统的神经生物学基材的鉴定基本上是表征解剖学特性和确定脑系统活性的生理机制,这些机制决定了涉及感兴趣的认知功能的大脑系统的活性。5运动控制是对具有神经系统的生物体运动的调节。它包括反射,学习的习惯(例如步行立场)以及目标指导的动作(例如精确的手抓手)。6预测编码是一种大脑功能的理论,表明大脑不断预测其感觉信号。然后使用预测和感知信号的比较来生成和更新环境的心理模型。7有效的编码是一种神经信息处理的理论,表明神经代码对生物学成本进行了准确性,这源自对神经活动的硬连线生理约束。
摘要 - 本文提出了一种用于抓住不规则对象的新轨迹重新启动器。与常规的掌握任务不同,该任务简单地假定对象的几何形状,我们旨在实现不规则对象的“动态掌握”,这需要在握把过程中持续调整。为了有效处理不规则的对象,我们提出了一个构成两个阶段的轨迹优化框架。首先,在指定的时间限制为10 s的指定时间限制中,为从机器人的初始配置中进行无缝运动计算初始离线轨迹,以掌握对象并将其传递到预定义的目标位置。其次,实现了快速的在线轨迹优化,以在100毫秒内实时更新机器人轨迹。这有助于减轻视力系统中的估计错误。为了解释模型的不准确性,干扰和其他非模块化效果,实施了机器人和抓手的轨迹跟踪控制器,以从提出的框架中阐明最佳轨迹。密集的实验结果有效地证明了我们在模拟和现实世界中的轨迹计划框架的性能。
摘要3D混凝土印刷(3DCP)由于增强生产力和可持续性的利益而引起了显着关注。然而,现有的3DCP技术在将常规的钢筋增强与印刷混凝土结构整合在一起时面临着自动化和实用性的挑战。本研究提出了一个自动机器人系统,并加上建筑信息建模(BIM),以应对挑战。dynamo脚本用于生成打印路径,该算法进一步优化了用于结合钢筋增强的算法。采用了深度学习模型来识别具有较高纵横比的钢筋。钢筋识别的平均准确性为92.5%,位置误差在2 mm之内。开发了用于多个设备通信的集中控制系统,包括相机,机器人臂和抓手。最后,进行了实时演示,代表了自动化机器人系统的第一个实际演示,以将钢筋加固与使用BIM生成的数据在物理世界中的印刷结构相结合。
摘要:本文介绍了基于电容性变化的低成本和多触摸传感器的新设计和开发。这个新传感器非常灵活且易于制造,使其成为软机器人应用程序的适当选择。该传感器中使用的材料(导电墨水,有机硅和控制板)是便宜且在市场上很容易找到的。提出的传感器由不同层的晶圆,带有导电墨水的硅胶层和压力敏感的导电纸片制成。像E-Skin这样的先前方法可以测量像人体或纤维等导电物体的接触点或压力,而所提出的设计使传感器能够检测物体的接触点和施加力,而无需考虑对象的材料电导率。传感器可以同时检测五个多点触点。在存在噪声,增益变化和非线性的情况下,使用神经网络结构以可接受的精度来校准施加力。通过商业精确力传感器(ATI)实时测量的力与通过在两个电极层之间更改层的电容获得的产生的电压映射。最后,嵌入建议的触觉传感器的软机器人抓手被用来掌握具有位置和力反馈信号的物体。
摘要:我们介绍了Umi-On-Legs,这是一个新框架,结合了四倍的操纵系统的真实世界和仿真数据。我们使用手持抓手(UMI)在现实世界中以任务为中心的数据收集,这提供了一种廉价的方式来展示与任务相关的操纵技巧,而无需机器人。同时,我们通过训练与任务仿真设置的任务跟踪训练全身控制器在模拟中缩放以机器人为中心的数据。这两个策略之间的接口是任务框架中的最终效应器传播,由操作策略推断,并传递给整体控制器进行跟踪。我们评估了对智力,非划算和动态操纵任务的UMI-ON-LEGS,并在所有任务上报告超过70%的成功率。最后,我们证明了先前工作中预先训练的操作策略检查站的零射击横界部署,该检查点最初是针对我们的四足动物系统在我们的四足动物系统上的。我们认为,该框架为学习动态机器人实施方案学习表达性操纵技能提供了可扩展的途径。请查看我们的网站,以获取机器人视频,代码和数据:https://umi-on-legs.github.io/
摘要 - 生成AI系统在创建文本,代码和图像方面表现出了令人印象深刻的功能。受到组装工业设计研究的丰富历史的启发,我们引入了一个新颖的问题:生成设计 - 机器人组装(GDFRA)。任务是基于自然语言提示(例如“长颈鹿”)生成一个组装,以及可用物理组件的图像,例如3D打印的块。输出是一个组件,这些组件的空间排列,也是机器人构建此组件的指令。输出必须1)类似于请求的对象,2)由6 Dof机器人组可靠地组装,并带有吸入抓手。然后,我们提出了Blox-net,这是一种将一般视觉模型与计算机视觉,模拟,扰动分析,运动计划和物理机器人实验的方法相结合的GDFRA系统,以解决最小的人类监督的GDFRA问题。blox-net在其设计的组件的语义准确性中达到了63.5%的前1个精度。这些设计在自动渗透性重新设计后,由机器人可靠地组装,在10个连续的组装迭代中获得了接近完美的成功,仅在组装前重置期间使用人干预。令人惊讶的是,从文本单词到可靠的物理组装的整个设计过程都是通过零人工干预执行的。
摘要 - 脑计算机界面(BCI)是一种实用的途径,可以通过解码电动机(ME)或电动图像(MI)来解释用户的意图(EEG)信号。但是,开发由我或MI驱动的BCI系统具有挑战性,尤其是在包含连续和复合肌肉运动的情况下。这项研究分析了ME和MI范式下的脑电图的三个抓手动作。我们还研究了植物和伪在线实验中的分类性能。我们提出了一种新的方法,该方法使用卷积神经网络(CNN)的肌肉活动模式(MAP)图像来提高分类精度。我们记录脑电图和肌电图(EMG)同时信号,并通过将两个信号解码为特定的手抓握来创建地图图像。结果,我们获得了ME的平均分类精度为63.6(±6.7)%,四个类别的所有1个受试者中的MI中获得了45.8(±4.4)%。此外,我们进行了伪在线实验,并获得了ME的分类精度,为60.5(±8.4)%,MI中的42.7(±6.8)%。提出的方法MAP-CNN,即使在伪在线实验中,也显示出稳定的分类性能。我们希望将来可以在各种BCI应用程序中使用MAP-CNN。关键字 - 脑 - 计算机接口,电机执行,运动图像,手抓握,脑电图,深度学习
摘要 - 振动感知可以帮助机器人识别其动态状态以探索周围环境。但是,软机器人的内在可拉伸性为整合振动传感器带来了挑战。这项研究引入了一种创新的可拉伸电子皮肤(E-SKIN),可促进软机器人中的振动本体感受。以大约0.1 mm的厚度结构,该超薄e-Skin是使用带有液态金属颗粒(LMP)的屏幕打印技术生产的,并结合了Kirigami设计以进行无缝集成。基于Triboelectric纳米生成器的感应机制的E-Skin作用,该机制将机械振动转导为没有外部电源的电信号。通过分析由软机器人的动态运动产生的振动信号,E-Skin显示了广泛的应用。从软机器人手指的滑动运动的振动信号中,可以以99%的精度区分17种不同的纹理。此外,对软机器人抓手的摇摆运动的振动信号的分析可以估算其抓地的容器内部晶粒的类型和重量,分别达到97.7%和95.3%的精确度。因此,这项工作提出了一种实现软机器人振动本体感受的新方法,从而扩大了动态本体感受在软机器人技术中的应用。
