摘要 - 近年来,机器人主义者通过利用高容量变压器网络体系结构和生成扩散模型来解决灵巧机器人硬件的越来越一般任务取得了良好的进步。毫无意义地结合了这两个正交改进已被证明是非常困难的,因为没有明确且鲜明的理解过程来做出重要的设计选择。在本文中,我们确定,研究和改进了高容量扩散变压器策略的关键架构设计决策。所得模型可以在多个机器人实施方案上有效地解决各种任务,而不会导致主参数调整的痛苦。通过将调查的结果与改进的模型组件结合起来,我们能够提出一种新颖的体系结构,称为DIT-Block策略,该策略极大地超过了解决长期马(1500多个时间步长)与人类的Aloha Aloha Aloha Robot上的Dexteros Dists。此外,我们发现在10小时的高度多模式,语言注释的Aloha演示数据中接受培训时,我们的政策显示出改善的缩放性能。我们希望这项工作将为未来的机器人学习技术打开大门,以利用大型变压器体系结构的可扩展性来利用生成扩散建模的效率。代码,机器人数据集和视频可在以下网址找到:https://dit-policy.github.io
低温电气化是超导技术与低温工程相结合提供的解决方案,有助于解决电网和运输领域的全球变暖、污染、排放、损失等问题,实现许多净零排放计划的目标 [1]。超导变压器是电网低温电气化最有前途的应用之一,因为与传统变压器相比,超导变压器重量更轻(2 到 3 倍)、更紧凑(3 到 5 倍)、效率更高(高达 5%),过载耐受性更强 [2]。此外,超导变压器对环境的影响比传统的油浸式变压器要小,因为超导绕组需要浸入无毒无害的液氮 (LN2) 中。因此,通过省去这种变压器中的油,可以完全消除因油过热引起爆炸的风险。另一方面,与传统变压器相比,这将提高超导变压器的可靠性。这些优势为在高功率应用中实施超导变压器或为敏感负载供电,用传统的油浸式变压器取代它们铺平了道路。目前,使用超导变压器的盈亏平衡为 25 MVA,但随着带/线生产技术的进步以及制造技术的进步,这一功率将在本十年进一步下降。除了超导带制造挑战之外,其他挑战也减缓了超导变压器技术的发展进程,包括容错问题 [3- 4]、绕组低温恒温器制造的线圈架生产成本高以及高效的冷却系统设计。许多研究人员和公司正在努力解决上述挑战,以使超导变压器成为电网的可行商业化组件,并提高其与传统油浸式变压器的竞争力。大多数努力都集中在带生产上
Transformer 最初是作为文本的序列到序列模型提出的,但如今已成为图像、音频、视频和无向图等多种模态的重要工具。然而,尽管 Transformer 可应用于源代码和逻辑电路等无处不在的领域,但用于有向图的 Transformer 却是一个令人惊讶的未被充分探索的课题。在这项工作中,我们提出了两种用于有向图的方向感知和结构感知的位置编码:(1)磁拉普拉斯算子的特征向量——组合拉普拉斯算子的方向感知泛化;(2)方向随机游走编码。从经验上讲,我们表明额外的方向性信息在各种下游任务中都很有用,包括排序网络的正确性测试和源代码理解。结合以数据流为中心的图构造,我们的模型在 Open Graph Benchmark Code2 上的表现比之前的最佳模型高出 14.7%。3
电力变压器是电力供应系统的重要组成部分。变压器将一个电压等级转换为另一个电压等级。在此能量传输过程中,变压器绕组中会发生损耗。这些损耗会转化为热量,从而烧毁变压器绕组。为了克服这些问题,冷却是必需的。变压器的主要故障是由于变压器在工作过程中过热造成的。变压器中产生热量的主要来源是绕组和铁芯中的铜损(I²R 损耗)。内部损耗(如磁滞、涡流、高环境温度和太阳辐射)也会产生热量。消除和降低变压器的热量有助于提高变压器的高效工作、延长使用寿命和提高效率。用于降低变压器温度的各种冷却剂包括空气、合成油、矿物油等。如果变压器产生的热量没有得到适当消散,温度就会持续升高,从而损坏绝缘层,进而损坏变压器。变压器的运行温度仅比额定温度高 10°C,就会使变压器的寿命缩短 50%。
重复使用 本文根据 Creative Commons 署名 (CC BY) 许可条款发布。此许可允许您发布、重新混合、调整和基于作品创作,甚至用于商业用途,只要您注明原创作者即可。更多信息和许可条款的完整内容请见:https://creativecommons.org/licenses/
本研究探讨了如何使用基于 Transformer 的模型(例如 BERT 和 DistilBERT)对 IMDb 电影评论进行情感分析。实验的目的是找到准确率和计算效率之间的平衡,评估两种模型在不同训练参数下的表现。BERT 在三个时期内达到了 91.39% 的峰值准确率,总共需要 54 分钟进行训练。另一方面,DistilBERT 仅用 38 分 25 秒就达到了 91.80% 的类似准确率。尽管准确率略有差异,但 DistilBERT 被证明是一种更高效的训练选择,因此成为资源有限环境的可行替代品。该研究结果与 R. Talibzade (2023) 的研究形成了对比,后者使用 BERT 获得了 98% 的准确率,但需要 12 小时的训练,说明了准确率和训练时间之间的平衡。未来可能的任务包括进一步完善、使用更大的数据集进行测试、研究替代的 Transformer 模型,以及利用更高效的训练方法来提高性能而不牺牲效率。这是一篇 CC BY-NC 许可下的开放获取文章
摘要:本文解决了香草视觉变压器中与多头自我注意(MHSA)相关的高计算/空间复杂性。为此,我们提出了层次MHSA(H-MHSA),这是一种新颖的方法,以层次的方式计算自我注意力。具体来说,我们首先将输入图像分为通常完成的补丁,每个补丁都被视为令牌。然后,提议的H-MHSA学习本地贴片中的令牌关系,作为局部关系建模。然后,将小斑块合并为较大的贴片,H-MHSA对少量合并令牌的全局依赖性建模。终于,将本地和全球专注的特征汇总为具有强大表示能力的功能。由于我们仅在每个步骤中计算有限数量的令牌的注意力,因此计算负载大大减少。因此,H-MHSA可以在不牺牲细粒度信息的情况下有效地模拟令牌之间的环境关系。与H-MHSA模块合并,我们建立了一个基于层次的变压器网络的家族,即HAT-NET。为了证明帽子网络在场景中的优越性,我们就基本视觉任务进行了广泛的实验,包括图像分类,语义分割,对象titection和实例分段。因此,HAT-NET为视觉变压器提供了新的视角。代码和预估计的模型可在https://github.com/yun-liu/hat-net上找到。
I 反激变压器系列 I 变压器/控制电路交叉参考列表 I 1 至 9 W EE 16 74090 – 74091 – 74092 – 74093 – 74094 – 74095 I 1 至 6 W EE 16 74000 – 74001 – 74002 – 74003 I 6 至 12 W EE 16 74010 – 74014 – 74015 I 10 至 18 W EL 19 74020 – 74021 – 74023 I 12 至 24 W EF 20 74080 – 74081 – 74082 I 15 至 30 W EE 25 74030 – 74032 I 35 至 60 W ETD 29 74040 I 35 至 60 W ERL 28 74043 I 60 至 90 W ETD 34 74050 I 70 至 140 W ETD 39 74060 I 120 至 180 W ETD 44 74070
摘要:当前的停车援助和监测系统合成鸟类视图(BEV)图像,以提高驱动程序的可见度。这些BEV图像是使用称为“逆透视图”(IPM)的流行透视转换创建的,该转换将其投射到FishEye摄像头捕获的环绕视图图像的像素上。然而,IPM在准确地表示高度和接缝的对象方面面临挑战,因为它依赖于刚性几何变换,因此将预计的环绕视图缝合在一起。为了解决这些局限性,我们提出了Bevgan,这是一种新型的几何形状引导的条件生成副本网络(CGAN)模型,将多尺度鉴别器与基于变形金刚的生成器相结合,该生成器利用Fisheye摄像机校准和注意力机械机制,以隐含地模拟该视图之间的几个几何形式的变换。实验结果表明,在图像保真度和质量方面,Bevgan的表现优于IPM和最先进的跨视图生成方法。与IPM相比,我们报告了 + 6的改进。在PSNR上的2 dB,MS-SSIM上的 + 170%在描绘停车场和驾驶场景的合成数据集上进行评估。此外,还通过零射推理证明了Bevgan在现实世界中的图像上的概括能力。