自我监督的表示学习(SSL)(Balesteriero等人,2023年)近年来已经成为表示学习的基石。诸如Openai剪辑之类的模型(Radford等人,2021)示例SSL方法如何产生适用于广泛下游任务的表达性表示。此范式依赖于配对的观测值(配对的视图或共享相同内容的方式)来提取有意义的特征。从广义上讲,SSL方法分为两类:歧视性和生成性(或基于重建)。歧视性SSL(Chen等人,2020年)旨在确保比随机采样观测值在潜在空间中更接近配对观测的表示。相反,基于重建的SSL(He等人,2022)涉及从其对中重建一个观察结果。在多视图设置中,数据增强技术(例如图像裁剪和颜色抖动)通常用于人为地创建单个单个观测值。在这些增强中,事实证明,图像裁剪特别有影响力,推动了视觉学习模型(例如Meta's Dino)(Caron等人,2021; Oquab等。,2023)和JEPA(Assran等人,2023)。最近的研究(Bizeul等人,2024)1表明,在图像域中,掩盖(概念上类似于裁剪),而不是单个图像像素可以生成图像对,从而促进基于重建的SSL中表达特征的学习。,2023)。在这个项目中,我们的目标是投资于将类似方法应用于歧视性SSL是否可以产生可比的好处,专门针对Dino,Jepa和Siglip(Zhai等人。
●Jeff F. Miller-加利福尼亚纳米系统研究所(CNSI)主任●同性恋骗子 - 病理学和实验室医学系教授●Lily Yang- Lily Yang-微生物学,免疫学和分子学遗传学(MIMG)教授(MIMG)●Christina Puig -Saus-助理教授,MICERBIOLIGY,MICERGINGICER,MICREC GORICTOR,MICREC GORICTOR,MICREC GORICTOR,MICREC GORICTOR,MICREC GORICTOR,MICREC GORICTOR,MICERGING,MICERGING和分子分数。 - Professor, Departments of Molecular and Medical Pharmacology and Surgery ● Alex Hoffman - Professor, Microbiology, Immunology and Molecular Genetics (MIMG) ● Dino Di Carlo - Professor and Chair, Department of Bioengineering ● Stuart Conway - Professor, Michael and Alice Jung Endowed Chair in Medicinal Chemistry and Drug
生成式深度学习 由 BAŞAK ÇAKMAK 提交,部分满足中东技术大学建筑学硕士学位要求 由 Halil Kalıpçılar 教授 自然科学与应用科学研究生院院长 Fatma Cânâ Bilsel 教授 建筑系主任 Zeynep Mennan 教授 主管,建筑学,中东技术大学 审查委员会成员: İpek Gürsel Dino 副教授 建筑学,中东技术大学 Zeynep Mennan 教授 建筑学,中东技术大学 Mine Özkar 教授 建筑学,ITU Fehmi Doğan 教授 建筑学,IYTE Duygu Tüntaş 助理教授 建筑学,TEDU
机器人手术中的抽象目的深度估计在3D重建,手术导航和增强现实访问中至关重要。尽管基础模型在许多视觉任务中表现出出色的性能,包括深度估计(例如Dinov2),但最近的作品观察到了其在医学和外科域特异性应用中的局限性。这项工作介绍了手术深度估计基础模型的低排名适应性(LORA)。方法我们设计了一种基于基础模型的深度估计方法,称为手术 - 迪诺,这是对内窥镜手术深度估计的Dinov2的低级适应。我们建立洛拉层并将其集成到恐龙中,以适应手术特异性领域知识,而不是传统的调整。在训练期间,我们冻结了Dino Image编码器,该编码器显示出出色的视觉表示能力,仅优化Lora层和深度解码器以整合手术场景的特征。结果,我们的模型在MICCAI挑战数据集上得到了广泛的验证,该数据集是从Da Vinci XI内窥镜手术中收集的。我们从经验上表明,手术迪诺的显着性在内窥镜深度估计任务中的表现优于所有最新模型。进行消融研究的分析表明,我们洛拉层和适应的显着作用的证据。结论手术迪诺(Div)揭示了基础模型成功适应手术领域以进行深度估计。结果有明确的证据表明,对计算机视觉数据集中预训练的权重的零拍预测或幼稚的调整不足以直接在手术域中使用基础模型。
个人信息 地址 电话 电子邮件 marcella.tazzari@irst.emr.it 出生日期和地点 工作经历 2020 年 7 月 1 日 - 至今 IRCCS Istituto Romagnolo per lo Studio dei Tumori (IRST) "Dino Amadori" Srl 博士后研究员,免疫疗法部门 - 细胞疗法和生物库。免疫微环境、过继和疫苗方法计划协调员。 2017 年 6 月 19 日 - 2020 年 7 月 1 日 IRCCS Istituto Romagnolo per lo Studio dei Tumori (IRST) "Dino Amadori" Srl 博士后研究员,免疫疗法部门 - 细胞疗法和生物库,协调员 Massimo Guidoboni。 2016 年 6 月 1 日 - 2017 年 12 月 31 日 在肿瘤免疫学实验室担任博士后研究员,该实验室由 Carl Figdor 教授领导,肿瘤免疫学系,拉德堡德分子生命科学研究所(RIMLS,拉德堡德姆,奈梅亨,荷兰)。2014 年 6 月 25 日 - 2016 年 5 月 15 日 在意大利米兰国家肿瘤研究所 Fondazione IRCCS 担任博士后研究员,人类肿瘤免疫治疗部门(Licia Rivoltini 实验室),实验肿瘤学和分子医学系。 2011 年 1 月 1 日 - 2014 年 6 月 24 日 意大利米兰国立肿瘤研究所基金会博士生,人体肿瘤免疫治疗中心 (Licia Rivoltini 实验室),实验肿瘤学和分子医学系。 2009 年 11 月 1 日 - 2010 年 12 月 31 日 意大利米兰国立肿瘤研究所基金会研究生,人体肿瘤免疫治疗中心 (Licia Rivoltini 实验室),实验肿瘤学和分子医学系。 2008 年 5 月 15 日 - 2009 年 2 月 15 日 瑞典卡罗琳斯卡医院卡罗琳斯卡癌症中心肿瘤病理学系 Rolf Kiessling 教授实验室硕士论文学生。教育与培训 2011 年 1 月 1 日 - 2014 年 6 月 24 日 与米兰大学合作建立生物与分子科学博士学院。
1 帕维亚大学药物科学系,Viale Taramelli 12,I-27100 帕维亚,意大利; elia.bari@unipv.it (EB); massimo.serra@unipv.it (MS); mayra.paolillo@unipv.it (国会议员); eric.bernardi01@universitadipavia.it (EB); sara.tengattini@unipv.it (ST); cristina.lanni@unipv.it (CL); giovanni.bisbano01@universitadipavia.it (英国); enrica.calleri@unipv.it (欧盟); sara.perteghella@unipv.it (SP)2 IRCCS 罗马涅肿瘤研究所(IRST)“Dino Amadori”,Via Piero Maroncelli 40,I-47014 Meldola,意大利; filippo.piccinini@irst.emr.it 3 创新技术系,SUPSI,卢加诺大学中心,Campus Est,Via la Santa 1, 6962 Viganello,瑞士; marzio.sorlini@supsi.ch 4 PharmaExceed Srl, Piazza Castello 19, I-27100 Pavia, 意大利 * 通信地址:marina.torre@unipv.it † 同样为这项工作做出了贡献。
作者分支机构:朴茨茅斯医院NHS University,英国朴次茅斯(Banna,Hassan,Maniam,Acharige);朴次茅斯大学药学与生物医学科学学院,英国朴茨茅斯大学(BANNA);意大利热那亚热那亚大学卫生科学系(Signori);医学肿瘤学系,IRCC伊斯蒂托图Romagnolo per lo Studio dei tumori“ Dino Amadori”,意大利梅尔多拉(Giunta);英国南安普敦(Anpalakhan)的南安普敦综合医院肿瘤学系;英国伦敦的圣巴塞洛缪医院巴特斯癌症中心医学肿瘤学系(Ghose);瑞士日内瓦日内瓦大学医院肿瘤科服务(Addeo)。
描述 使用项目反应理论范式下的单维和多维项目分析模型分析离散响应数据 (Chalmers (2012) < doi:10.18637/jss.v048.i06 >)。探索性和验证性项目因子分析模型使用求积 (EM) 或随机 (MHRM) 方法进行估计。验证性双因子和两层模型可用于使用降维 EM 算法对项目测试集进行建模,同时包括多组分析和混合效应设计,用于检测差异项目、捆绑和测试功能,以及对项目和个人协变量进行建模。最后,支持潜在类别模型,例如 DINA、DINO、多维潜在类别、混合 IRT 模型和零膨胀响应模型,以及广泛的概率展开模型系列。
Cytovale,一家商业阶段的医学诊断公司,致力于推进早期检测技术,以诊断快速移动和免疫介导的疾病。该技术是在加州大学洛杉矶分校的Dino di Carlo博士实验室建立的。校友Henry TSE担任Cytovale的首席技术官。该公司最近宣布已筹集了由Sands Capital领导的D系列资金。这一轮包括加拿大新投资者养老金计划投资委员会(CPP投资)以及现有投资者Norwest Venture Partners,Global Health Investment Corporation和Breakout Ventures的参与,该公司的早期支持者。Cytovale将利用这笔资金来建立其早期临床成功,并加快Intellisep的商业扩展到全国更多医院急诊科(ED)和卫生系统。
1 骨肿瘤学和罕见肿瘤中心,IRCCS Istituto Romagnolo Per Lo Studio Dei Tumori (IRST) “Dino Amadori”,意大利梅尔多拉 47014; alessandro.devita@irst.emr.it (ADV); giacomo.miserocchi@irst.emr.it(总经理) valentina.fausti@irst.emr.it (VF); chiara.spadazzi@irst.emr.it (客户服务); claudia.cocchi@irst.emr.it (抄送); chiara.liverani@irst.emr.it (中文); chiara.calabrese@irst.emr.it (抄送); lorena.gurrieri@irst.emr.it(LG); alberto.bongiovanni@irst.emr.it (AB); laura.mercatali@irst.emr.it (LM)2 病理科,Morgagni-Pierantoni 医院,意大利弗利 47121; federica.pieri@auslromagna.it 3 意大利弗利 47121 Morgagni-Pierantoni 医院骨科; roberto.casadei@auslromagna.it 4 意大利罗马圣乔瓦尼阿多洛拉塔医院肿瘤内科,邮编 00184; federica.recine@irst.emr.it 5 骨肿瘤学、骨与软组织肉瘤和创新疗法科,IRCCS Istituto Ortopedico Rizzoli,意大利博洛尼亚 40136; toni.ibrahim@ior.it * 通信地址:silvia.vanni@irst.emr.it † 这些作者对这项工作做出了同等贡献。
