摘要 深度神经网络 (deep NN) 的性能取决于大量需要训练的权重参数,这是一个计算瓶颈。更深层次的架构日益增长的趋势对资源受限设备上的训练和推理方案造成了限制。剪枝是去除深度 NN 中不重要的参数并使其更容易在资源受限的设备上部署以供实际应用的重要方法。在本文中,我们提出了一种基于启发式的新型滤波器剪枝方法来自动识别和剪枝不重要的滤波器,并加快资源有限设备上的推理过程。不重要的滤波器的选择由一种新颖的剪枝估计器 (c) 进行。所提出的方法在各种卷积架构 AlexNet、VGG16、ResNet34 和数据集 CIFAR10、CIFAR100 和 ImageNet 上进行了测试。在大规模 ImageNet 数据集上的实验结果表明,VGG16 的 FLOP 可降低高达 77.47%,实现 5 倍推理加速。与其他最先进方法相比,更流行的 ResNet34 模型的 FLOP 降低了 41.94%,同时保持了具有竞争力的性能。
葡萄树干疾病(GTD)给全球葡萄行业造成严重的经济损失(Fontaine等,2016b; Mondello等,2018a)。休闲药包括各种分类学上的真菌(Gramaje等,2018; Mondello等人,2018b),可以单独或一起影响植物。除了在叶子和簇上引起外部症状外,这些病原体还会引起内部木材变色。症状表达中不可预测的不连续性是这些疾病的特征(Mugnai等,1999)。GTD包括影响成年和年轻葡萄藤的一系列疾病。esca复合物,杂化磷酸盐死亡和尤特巴死亡被认为是成年葡萄藤的主要GTD(Claverie等,2020)。ESCA复合物与许多系统发育多样的真菌有关(Mugnai等,1999),包括ascomycota和basidiomycota。与ESCA相关的comycetes包括血管病原体phaeomoniella chlamydospora和phaeoacremonium最低限度(Syn。pm。Aleophilum)(u rbez-Torres等,2014)和其他phaeoacremonium。Wood-decay basidiomycetes include Fomitiporia mediterranea in Europe ( Moretti et al., 2021 ), and other pathogens belonging to the genera Fomitiporella, Fomitiporia, Inocutis, Inonotus, Stereum , and Phellinus in non-European countries ( Cloete et al., 2011 ; White et al., 2011 );这些真菌已从受感染的葡萄树干中分离出来,但是它们在疾病病因学中的作用尚未完全了解(Surico等,2006; Bertsch等,2013; Gramaje等,2018),并且在近年来被重新考虑。botryosphaeria dieback是由20种以上的杂化磷酶科引起的,包括dothidea N. Luteum,N。Rib,Eliplodia Serita和D. Mutila(Van Niekerk等,2004; Taylor等,2005;ÚRbez-Torres and Gubler,2009; Amponsah et al。 2013)。eutypa dieback是由eutypa lata和其他diatrypaceai特殊的特殊的(Trouillas and Gubler,2010; Luque等,2012)。这些病原体可以单独从受影响的木材中回收,也可以与其他真菌(例如PA)相结合。衣原体,下午。Aleophilum,Sphaeropsis Mariorum和Diaporthempelina(PéRros等,1999)。GTD症状是多缩的,包括马刺和手臂的死亡,木材的变色或内部条纹,扇形木材坏死和白色腐烂;由于植物可以同时受到多种真菌的影响,因此在其中GTD中,某些症状可能重叠(Gramaje等,2018)。木材变色和de骨是由多种结构和生理变化引起的,由真菌产生的纤维素分解和木质素溶酶,由于凝胶和牙龈由联邦木质部分泌的凝胶和牙龈引起的血管闭塞细胞或木质部实质细胞的坏死,导致真菌毒素(Bertsch等,2013; Claverie等,2020)。所有这些变化都会导致木质部伏特定功能的木质部发生变化,从而导致水和养分运动(Mugnai等,1999; Sparapano等,2000; Andol和Andol et et al。,2011)。最近报道了(Mondello等,2018b),详细描述了与不同GTD的症状。叶子从未分离出GTD真菌(Bertsch等,2013),也显示了多种症状,也已经描述过这些症状(Mugnai等,1999;Amborabé等,2001; Mondello et al。,2018b);木材和木质部血管改变,真菌毒素和继发代谢物的沉积均有助于
我们考虑在具有挑战性的一声/训练后设置中,深度神经网络(DNN)的模型压缩问题,在该设置中,我们将获得一个准确的训练有素的模型,并且必须仅基于少量校准输入数据而无需进行任何重新训练。鉴于新兴软件和硬件支持,该问题已变得很流行,以通过加速进行修剪和/或量化来执行模型,并且已经针对两种压缩方法独立提出了良好的表现解决方案。在本文中,我们引入了一个新的压缩框架,该框架涵盖了在统一的环境中涵盖重量修剪和量化的,这是时间和空间效果,并且在现有后训练方法的实际性能上大大提高。在技术层面上,我们的方法基于[Lecun,Denker和Solla,1990]的经典最佳脑外科医生(OBS)框架的精确而有效的实现,以涵盖现代DNNS规模的体重量化。从实际的角度来看,我们的实验结果表明,它可以在现有训练后方法的压缩准确性权衡方面显着改善,并且它可以在培训后环境中启用修剪和量化的准确复合应用。
如果神经网络规模较大,则往往在训练时获得更高的准确度,即使生成的模型参数过多。但是,在训练之前、之中或之后小心地删除过多的参数,也可能产生准确度相似甚至更高的模型。在许多情况下,这可以通过简单的启发式方法实现,例如删除一定比例的绝对值最小的权重,即使绝对值并不是权重相关性的完美指标。前提是,获得明显更佳的剪枝性能取决于考虑删除多个权重的综合影响,因此,我们重新审视基于影响的剪枝的经典方法之一:最佳脑外科医生 (OBS)。我们提出了一种易于处理的启发式方法来解决 OBS 的组合扩展,其中我们选择要同时删除的权重,并将其与未剪枝权重的单次系统更新相结合。我们的选择方法在高稀疏性方面优于其他方法,如果在这些方法之后应用单次权重更新,也会很有优势。源代码:github.com/yuxwind/CBS。
修剪前奖学金奖学金支持博士生的大量研究活动和培训。每个专业同胞与奥瑟中心教师研究导师密切合作,通常会开发与他们的导师现有研究项目有关的工作。申请人必须在申请该计划之前与他们感兴趣的研究学院联系。如果您有任何疑问,请与程序协调员Yvette Coulter(E:yvette.coulter@ucsf.edu / p:415-353-7991)取得联系。标题:基于群体的综合疼痛管理:一种多层次的方法来解决具有慢性疼痛教师导师的多样化初级保健安全网患者的交叉污名和社会隔离患者:Maria Chao,DRPH,MPA简要项目描述:支持数据收集和分析,用于研究集成小组医疗访问(IGMV)和组针对较低型痛苦的综合小组医疗访问(IGMV)。资格:理想的研究员致力于健康平等,对混合方法感兴趣,并且具有在安全网环境中工作的经验。西班牙语流利性也将是一项巨大的资产。
如果神经网络规模较大,则往往在训练时获得更高的准确度,即使生成的模型参数过多。但是,在训练之前、之中或之后小心地删除过多的参数,也可能产生准确度相似甚至更高的模型。在许多情况下,这可以通过简单的启发式方法实现,例如删除一定比例的绝对值最小的权重,即使绝对值并不是权重相关性的完美指标。在获得明显更佳的剪枝性能取决于考虑删除多个权重的综合影响这一前提下,我们重新审视了基于影响的剪枝的经典方法之一:最佳脑外科医生 (OBS)。我们提出了一种易于处理的启发式方法来解决 OBS 的组合扩展,其中我们选择要同时删除的权重,并将其与未剪枝权重的单次系统更新相结合。我们的选择方法在高稀疏性方面优于其他方法,如果在这些方法之后应用单次权重更新,也会很有优势。源代码:github.com/yuxwind/CBS。
如果神经网络规模较大,则往往在训练时获得更高的准确度,即使生成的模型参数过多。但是,在训练之前、之中或之后小心地删除过多的参数,也可能产生准确度相似甚至更高的模型。在许多情况下,这可以通过简单的启发式方法实现,例如删除一定比例的绝对值最小的权重,即使绝对值并不是权重相关性的完美指标。在获得明显更佳的剪枝性能取决于考虑删除多个权重的综合影响这一前提下,我们重新审视了基于影响的剪枝的经典方法之一:最佳脑外科医生 (OBS)。我们提出了一种易于处理的启发式方法来解决 OBS 的组合扩展,其中我们选择要同时删除的权重,并将其与未剪枝权重的单次系统更新相结合。我们的选择方法在高稀疏性方面优于其他方法,如果在这些方法之后应用单次权重更新,也会很有优势。源代码:github.com/yuxwind/CBS。
由于2 x 151读取长度和短扩增子设计,在读取的开头和结尾都将遇到PCR研究期间引入的合成引物序列。这些人工序列必须在变体调用之前剪辑。为实现这一目标,我们设计了对齐后软剪接底漆底座的推荐工具。Primerclip生物信息夹在5'和3'底漆碱基上,消除了从这些合成序列中调用变体的风险。除了速度外,PrimerClip还具有改进对齐末端的变体调用的优点,而对齐的末端可能会因边缘效应而受到损害。在扩增子的边缘/末端存在的变体将有更大的调用。
重复使用本文根据 Creative Commons 署名-非商业-禁止演绎 (CC BY-NC-ND) 许可条款发布。此许可仅允许您下载此作品并在注明作者的情况下与他人共享,但您不得以任何方式更改本文或将其用于商业用途。更多信息和许可条款的完整内容请参见:https://creativecommons.org/licenses/