摘要 - 近年来,机器人主义者通过利用高容量变压器网络体系结构和生成扩散模型来解决灵巧机器人硬件的越来越一般任务取得了良好的进步。毫无意义地结合了这两个正交改进已被证明是非常困难的,因为没有明确且鲜明的理解过程来做出重要的设计选择。在本文中,我们确定,研究和改进了高容量扩散变压器策略的关键架构设计决策。所得模型可以在多个机器人实施方案上有效地解决各种任务,而不会导致主参数调整的痛苦。通过将调查的结果与改进的模型组件结合起来,我们能够提出一种新颖的体系结构,称为DIT-Block策略,该策略极大地超过了解决长期马(1500多个时间步长)与人类的Aloha Aloha Aloha Robot上的Dexteros Dists。此外,我们发现在10小时的高度多模式,语言注释的Aloha演示数据中接受培训时,我们的政策显示出改善的缩放性能。我们希望这项工作将为未来的机器人学习技术打开大门,以利用大型变压器体系结构的可扩展性来利用生成扩散建模的效率。代码,机器人数据集和视频可在以下网址找到:https://dit-policy.github.io
农业土壤中的碳固化对于可持续农业至关重要,这有助于实现可持续发展目标并打击气候变化。自愿碳市场(VCM)旨在鼓励农民实施封存做法,这是欧洲最近的一项创新,与已建立的美国系统相反。因此,对农民参与的意图的理解有限。这项研究分析了农民通过扩展的计划行为理论(ETPB)参与VCM和影响因素的意愿。为此,从位于西西里岛地区的241名意大利农民收集了数据,并应用了部分最小二乘结构方程模型(PLS-SEM)。结果表明,态度,感知的行为控制和VCM知识对农民参与VCM的意图具有统计学上的显着影响。相比之下,主观规范和感知的环境精神风险没有统计学上的显着影响。我们的发现表明,农民的意图受到对自己能力和对主题知识的信心的强烈影响。这应该指导政策制定者和从业人员提供扩展服务和技术援助,以帮助农民了解VCM的潜力。的确,有限的知识是参与该计划的主要障碍。
糖尿病的全球患病率正在升级,估计表明,到2021年,超过5.366亿个人遭受了折磨,约占全球人口的10.5%。由于与不准确性的严重健康风险(例如低血糖和高血糖)相关的严重健康风险,糖尿病的有效管理,特别是对血糖水平的监测和预测,仍然是一个重大挑战。本研究通过采用混合变压器LSTM(长期短期内存)模型来解决这一关键问题,旨在根据连续葡萄糖监测(CGM)系统的数据增强未来葡萄糖水平预测的准确性。这种创新的方法旨在减少糖尿病并发症的风险并改善患者预后。我们使用了一个数据集,该数据集包含32000多个数据点,其中包括来自中国江苏省苏州市医院收集的八名患者的CGM数据。此数据集包括历史葡萄糖读数和设备校准值,因此由于其丰富性和实时适用性,它非常适合开发预测模型。我们的发现表明,混合变压器LSTM模型显着胜过标准LSTM模型,在预测间隔分别达到1.18、1.70和2.00的均方根误差(MSE)值分别为15、30和45分钟。这项研究强调了先进的机器学习技术在主动管理中的潜力,这是减轻其影响的关键一步。
摘要 - 关于基于相机和LIDAR的语义对象细分的批判性研究,用于自动驾驶的批判性研究显着受益于深度学习的发展。具体来说,视觉变压器是一种新型的突破性,将多头注意机制成功地带入了计算机视觉应用。因此,我们提出了一个基于视觉变压器的网络,以进行摄像机范围融合,以应用于自动驾驶的语义分割。我们的提案在双向网络上使用视觉变压器的新型渐进式策略,然后将结果集成到变压器解码器层上的交叉融合策略中。与文献中的其他作品不同,我们的摄像头融合变压器在诸如雨水和低照明之类的挑战性条件下进行了评估,表现出良好的性能。本文以不同的方式报告了对车辆和人类类别的分割结果:仅相机,仅LIDAR-和摄像头融合。我们对也用于语义分割的其他网络执行相机融合式传输(CLFT)的相干控制的基准实验。实验旨在从两个角度独立地评估CLFT的能力:多模态传感器融合和骨干架构。定量评估表明,与完全跨跨性神经网络网络(FCN)摄像头 - LIDAR-LIDAR融合神经网络相比,我们的CLFT网络可在具有挑战性的暗湿条件下获得高达10%的改善。我们的完整代码可在线提供交互式演示和应用程序1。与变压器主链与网络形成鲜明对比,但使用单一模态输入,全周围的改进为5-10%。
参考文献1。Lazo M,Clark JM。非酒精性脂肪肝病的流行病学:一种全球视角。Semin Liver Dis.2008; 28:339-50。2。Bajaj S,Nigam P,Luthra A等。一项关于胰岛素抵抗,代谢共同变化和预测评分的病例对照研究。印度J Med Res。2009; 129(3):285-292。 3。 Mohan V,Farooq S,Deepa M,Ravikumar R,Pitchumoni CS。 与不同等级的葡萄糖不耐症和代谢综合征有关的南印第安人非酒精脂肪肝病患病率。 糖尿病临床实践。 2009; 84(1):84-91。doi:10.1016/j.diabres.2008.11.039 4。 Romeo S,Kozlitina J,Xing C等。 PNPLA3中的遗传变异赋予对非酒精性脂肪肝病的敏感性。 nat Genet。 2008; 40(12):1461-1465。 doi:10.1038/ng.257 5。 Severson TJ,Bostur S,Bonkovsky HL。 影响非酒精性脂肪肝病的遗传因素:系统的临床综述。 世界J胃烯醇。 2016; 22(29):6742-6756。doi:10.3748/wjg.v22.i29.6742 6。 Kozlitina J,Smagris E,Stender S等。 外显域的关联研究确定了一种TM6SF2变体,该变体赋予了对非酒精性脂肪肝病的易感性。 nat Genet。 2014; 46(4):352-356。 doi:10.1038/ng.2901 7。 Oliveira Ain,Malta FM,Zitelli PMY,Salles APM,Gomes-Gouvea MS,Nastri ACS,Pinho JRR,Carrilho JRR,Carrilho FJ,Oliveira CP,Mendes-CorrêaMC,Pessoa MC,Pessoa MG,Mazo DF。 PMID:33622266; PMCID:PMC7901065。 8。2009; 129(3):285-292。3。Mohan V,Farooq S,Deepa M,Ravikumar R,Pitchumoni CS。与不同等级的葡萄糖不耐症和代谢综合征有关的南印第安人非酒精脂肪肝病患病率。糖尿病临床实践。2009; 84(1):84-91。doi:10.1016/j.diabres.2008.11.039 4。Romeo S,Kozlitina J,Xing C等。PNPLA3中的遗传变异赋予对非酒精性脂肪肝病的敏感性。nat Genet。2008; 40(12):1461-1465。 doi:10.1038/ng.257 5。 Severson TJ,Bostur S,Bonkovsky HL。 影响非酒精性脂肪肝病的遗传因素:系统的临床综述。 世界J胃烯醇。 2016; 22(29):6742-6756。doi:10.3748/wjg.v22.i29.6742 6。 Kozlitina J,Smagris E,Stender S等。 外显域的关联研究确定了一种TM6SF2变体,该变体赋予了对非酒精性脂肪肝病的易感性。 nat Genet。 2014; 46(4):352-356。 doi:10.1038/ng.2901 7。 Oliveira Ain,Malta FM,Zitelli PMY,Salles APM,Gomes-Gouvea MS,Nastri ACS,Pinho JRR,Carrilho JRR,Carrilho FJ,Oliveira CP,Mendes-CorrêaMC,Pessoa MC,Pessoa MG,Mazo DF。 PMID:33622266; PMCID:PMC7901065。 8。2008; 40(12):1461-1465。 doi:10.1038/ng.257 5。Severson TJ,Bostur S,Bonkovsky HL。影响非酒精性脂肪肝病的遗传因素:系统的临床综述。世界J胃烯醇。2016; 22(29):6742-6756。doi:10.3748/wjg.v22.i29.6742 6。Kozlitina J,Smagris E,Stender S等。外显域的关联研究确定了一种TM6SF2变体,该变体赋予了对非酒精性脂肪肝病的易感性。nat Genet。2014; 46(4):352-356。 doi:10.1038/ng.2901 7。 Oliveira Ain,Malta FM,Zitelli PMY,Salles APM,Gomes-Gouvea MS,Nastri ACS,Pinho JRR,Carrilho JRR,Carrilho FJ,Oliveira CP,Mendes-CorrêaMC,Pessoa MC,Pessoa MG,Mazo DF。 PMID:33622266; PMCID:PMC7901065。 8。2014; 46(4):352-356。 doi:10.1038/ng.2901 7。Oliveira Ain,Malta FM,Zitelli PMY,Salles APM,Gomes-Gouvea MS,Nastri ACS,Pinho JRR,Carrilho JRR,Carrilho FJ,Oliveira CP,Mendes-CorrêaMC,Pessoa MC,Pessoa MG,Mazo DF。PMID:33622266; PMCID:PMC7901065。8。PNPLA3和TM6SF2多态性在巴西慢性丙型肝炎患者中对肝纤维化和代谢异常的作用C. BMC胃肠道。2021 Feb 23; 21(1):81。 doi:10.1186/s12876-021-01654-3。SOOD V,Khanna R,Rawat D,Sharma S,Alam S,Sarin SK。研究小儿非酒精脂肪肝疾病中家庭聚类和PNPLA3基因多态性的研究。印度小儿科。2018年7月15日; 55(7):561-567。 pmid:30129536。 9。 Bhatt SP,Nigam P,Misra A,Guleria R,Pandey RM,Pasha MA。 含有非酒精性脂肪肝病的亚洲印第安人中含patatin样磷脂酶结构域蛋白3(PNPLA-3)基因的遗传变异。 Metab Syndr Relat疾病。 2013年10月; 11(5):329-35。 doi:10.1089/met.2012.0064。 EPUB 2013 JUN 4。 PMID:23734760。 10。 Koehler EM,Plompen EP,Schouten JN等。 糖尿病的存在和脂肪变性与一般人群中的肝脏僵硬有关:鹿特丹研究。 肝病学。 2016; 63(1):138-147。 doi:10.1002/hep.27981 11。 张L,You W,Zhang H,Peng R,Yao A,Li X等。 PNPLA3多态性(RS738409)和非酒精性脂肪肝病风险和相关表型:荟萃分析。 J胃肠肝素。 2015; doi:10.1111/jgh.12889 12。 Anstee QM,Day CP。 NAFLD的遗传学。 nat Rev Gastroenterol Hepatol。 2013; 10:645–655。 doi:10.1038/nrgastro.2013.182 PMID:24061205 13。 Shen JH,Li YL,Li D,Wang NN,Jing L,Huang YH。 J脂质res。2018年7月15日; 55(7):561-567。pmid:30129536。9。Bhatt SP,Nigam P,Misra A,Guleria R,Pandey RM,Pasha MA。 含有非酒精性脂肪肝病的亚洲印第安人中含patatin样磷脂酶结构域蛋白3(PNPLA-3)基因的遗传变异。 Metab Syndr Relat疾病。 2013年10月; 11(5):329-35。 doi:10.1089/met.2012.0064。 EPUB 2013 JUN 4。 PMID:23734760。 10。 Koehler EM,Plompen EP,Schouten JN等。 糖尿病的存在和脂肪变性与一般人群中的肝脏僵硬有关:鹿特丹研究。 肝病学。 2016; 63(1):138-147。 doi:10.1002/hep.27981 11。 张L,You W,Zhang H,Peng R,Yao A,Li X等。 PNPLA3多态性(RS738409)和非酒精性脂肪肝病风险和相关表型:荟萃分析。 J胃肠肝素。 2015; doi:10.1111/jgh.12889 12。 Anstee QM,Day CP。 NAFLD的遗传学。 nat Rev Gastroenterol Hepatol。 2013; 10:645–655。 doi:10.1038/nrgastro.2013.182 PMID:24061205 13。 Shen JH,Li YL,Li D,Wang NN,Jing L,Huang YH。 J脂质res。Bhatt SP,Nigam P,Misra A,Guleria R,Pandey RM,Pasha MA。含有非酒精性脂肪肝病的亚洲印第安人中含patatin样磷脂酶结构域蛋白3(PNPLA-3)基因的遗传变异。Metab Syndr Relat疾病。2013年10月; 11(5):329-35。 doi:10.1089/met.2012.0064。EPUB 2013 JUN 4。 PMID:23734760。 10。 Koehler EM,Plompen EP,Schouten JN等。 糖尿病的存在和脂肪变性与一般人群中的肝脏僵硬有关:鹿特丹研究。 肝病学。 2016; 63(1):138-147。 doi:10.1002/hep.27981 11。 张L,You W,Zhang H,Peng R,Yao A,Li X等。 PNPLA3多态性(RS738409)和非酒精性脂肪肝病风险和相关表型:荟萃分析。 J胃肠肝素。 2015; doi:10.1111/jgh.12889 12。 Anstee QM,Day CP。 NAFLD的遗传学。 nat Rev Gastroenterol Hepatol。 2013; 10:645–655。 doi:10.1038/nrgastro.2013.182 PMID:24061205 13。 Shen JH,Li YL,Li D,Wang NN,Jing L,Huang YH。 J脂质res。EPUB 2013 JUN 4。PMID:23734760。10。Koehler EM,Plompen EP,Schouten JN等。糖尿病的存在和脂肪变性与一般人群中的肝脏僵硬有关:鹿特丹研究。肝病学。2016; 63(1):138-147。 doi:10.1002/hep.27981 11。 张L,You W,Zhang H,Peng R,Yao A,Li X等。 PNPLA3多态性(RS738409)和非酒精性脂肪肝病风险和相关表型:荟萃分析。 J胃肠肝素。 2015; doi:10.1111/jgh.12889 12。 Anstee QM,Day CP。 NAFLD的遗传学。 nat Rev Gastroenterol Hepatol。 2013; 10:645–655。 doi:10.1038/nrgastro.2013.182 PMID:24061205 13。 Shen JH,Li YL,Li D,Wang NN,Jing L,Huang YH。 J脂质res。2016; 63(1):138-147。 doi:10.1002/hep.27981 11。张L,You W,Zhang H,Peng R,Yao A,Li X等。PNPLA3多态性(RS738409)和非酒精性脂肪肝病风险和相关表型:荟萃分析。J胃肠肝素。2015; doi:10.1111/jgh.12889 12。Anstee QM,Day CP。NAFLD的遗传学。nat Rev Gastroenterol Hepatol。2013; 10:645–655。doi:10.1038/nrgastro.2013.182 PMID:24061205 13。Shen JH,Li YL,Li D,Wang NN,Jing L,Huang YH。 J脂质res。Shen JH,Li YL,Li D,Wang NN,Jing L,Huang YH。J脂质res。PNPLA3基因和肝硬化的RS738409(I148M)变体:荟萃分析。2015; 56:167–175。doi:10.1194/jlr.m048777 pmid:25378656 14。Singal AG,Manjunath H,Yopp AC,Beg MS,Marrero JA,Gopal P等。PNPLA3对肝细胞癌纤维化进展和发育的影响:一种元分析。Am J胃肠道。2014; 109:325–334。doi:10.1038/ajg.2013.476 PMID:24445574 15。Shen J,Wong GL,Chan HL,Chan Hy,Yeung DK,Chan RS等。pNPLA3基因多态性在没有代谢的社区受试者中说明了脂肪肝
音频denoising,尤其是在鸟类声音的背景下,由于持续的残留噪声,这仍然是一项具有挑战性的任务。传统和深度学习方法通常在人工或低频噪声中挣扎。在这项工作中,我们提出了VITV,这是一种新型的方法,利用了视觉变形(VIT)架构的力量。vitvs熟练地结合了分段技术,从而将清洁音频与复杂的信号混合物中解脱出来。我们的主要贡献涵盖了VITV的发展,引入了全面,远程和多规模的表示。这些贡献直接解决了常规方法固有的局限性。广泛的例子表明,VITV的表现要优于最先进的方法,将其定位为现实世界中鸟类声音降解应用的基准解决方案。源代码可用:https://github.com/aiai-4/vivts。索引术语:音频denoising,变压器,分段
•科学发现:ASTS可用于分析和理解复杂的音频信号,从而在声学,神经科学和语言学等领域引起新的科学发现。•医疗应用:AST可以应用于医学研究,例如根据心脏,肺部或其他器官的音频信号诊断疾病。•教育工具:ASTS可用于开发教育音乐理论,语音疗法和其他与音频相关的学科的教育工具。总而言之,迅速训练的音频谱图变压器系统的开发有可能彻底改变音频处理和分析领域,并在各个行业和研究领域之间产生深远的影响
在生物医学领域中监督的命名实体识别(NER)取决于带有命名实体的大量带注释的文本。创建此类数据集可能是耗时且昂贵的,而新实体的提取需要其他注释任务并重新训练模型。本文提出了一种在生物医学领域中零和少量NER解决这些挑战的方法。该方法基于将多类令牌分类的任务转换为二进制令牌分类,并在大量数据集和生物医学实体上进行预训练,这使该模型可以学习给定和潜在的新颖命名实体标签之间的语义关系。,我们的零拍摄NER的平均F1得分为35.44%,单发NER为50.10%,10-Shot NER的平均F1得分为69.94%,在9种不同的具有基于微调PubMedbert模型的生物医学实体上,100-SHOT NER的平均F1得分为79.51%。结果证明了所提出的方法在识别没有或有限示例的新生物医学实体,优于先前的变压器方法,并且使用少于1000倍的参数的模型与基于GPT3的模型相媲美。我们公开制作模型并开发了代码。
摘要 - 采用人工智力来创建高度逼真的合成媒体,对隐私,安全性和错误信息传播构成了重大威胁。传统的深层检测方法,主要基于电流神经网络(CNN),通常在有效地识别这些复杂的伪造方面掉落。本项目探讨了平行视觉变压器(PVIT)用于深泡探测器的使用,利用其高级功能在建模复杂模式和视觉数据中的长距离依赖性中进行建模。我们使用NVIDIA A100 GPU的Google Colab培训了由140K真实和假面的数据集培训了PVIT模型。我们的结果表明,PVIT可显着提高检测准确性,精度,召回和鲁棒性,提供有希望的解决方案,以打击达到91.92精度的DeepFake技术所带来的挑战。索引术语 - 深层检测,平行视觉变形,以前,AI生成的,伪造的内容识别,变换,网络安全,数字取证,机器学习,深度学习。
摘要。我们提出了一个新颖的统一框架,该框架同时可以解决人体姿势和动作建模的未来预测。以前的作品通常为识别或预测提供了孤立的解决方案,这不仅增加了实际应用中整合的复杂性,而且更重要的是,无法证明双方的协同作用并在各自领域中遭受次优的性能。为了解决这个问题,我们提出了一个具有代表性的变压器VAE架构来模拟手动姿势和动作,在该构图中,编码器和解码器捕获识别和预测会重新恢复,并且它们通过VAE瓶颈进行了联系,要求学习从过去到未来的一致手动运动的学习,并反复使用。此外,为了忠实地对手姿势和动作的语义依赖性和不同的时间粒度建模,我们将框架分解为两个级联的vae块:第一个和后者的区块分别模拟了短跨度的姿势和长跨度的动作,并通过代表一个子second seraps saps sand Hand Poses的中级特征连接起来。将这种分解为块级联反应有助于捕获姿势和动作模型的短期和长期时间规律性,并使训练可以分别训练两个块,以充分利用具有不同时间粒度注释的数据集。我们跨多个数据集训练和评估我们的框架;结果表明,我们对识别和预测的联合建模可以改善孤立的解决方案,并且我们的语义和时间层次结构有助于长期姿势和动作模型。