详细内容或原文请订阅后点击阅览
让人工智能系统更加透明和可信：温熙明专访
我们对 AAAI/SIGAI 博士联盟参与者的系列最新采访采访了正在研究透明且值得信赖的人工智能系统的温熙明。我们了解了更多关于她的工作、她作为研究实习生的经历以及是什么激励她研究人工智能。告诉我们一些关于您的博士学位的信息——您在哪里学习，[...]
来源:ΑΙhub我们对 AAAI/SIGAI 博士联盟参与者的系列最新采访采访了正在研究透明且值得信赖的人工智能系统的温熙明。我们了解了更多关于她的工作、她作为研究实习生的经历以及是什么激励她研究人工智能。
告诉我们一些关于您的博士学位的信息 - 您在哪里学习，您的研究主题是什么？
我是费城德雷克塞尔大学信息科学专业的博士生。我的研究是让人工智能系统更加透明和值得信赖。目前，语言模型可以为您提供听起来非常自信的答案，但没有简单的方法来检查这些答案是否真正正确或它们来自哪里。我正在致力于构建模型，这些模型可以展示他们的推理并指出其输出背后的证据，以便人们能够真正相信人工智能告诉他们的内容，特别是在医疗保健和法律文件审查等领域。
文本分类原型架构的图示。
您能给我们介绍一下您在博士期间迄今为止所进行的研究吗？
我的博士学位始于一个问题：我们能否制作出实际上足以在实践中使用的可解释模型？以前的可解释模型在准确性上总是落后于黑盒模型，这使得它们很难在实践中采用。我开发了一种基于原型的方法来缩小这一差距——该模型通过向您展示它从中学到的类似示例来解释其决策，而不会损失性能。从那里，我将这个想法扩展到生成模型 - 探索模型是否不仅可以给你答案，而且可以准确地告诉你它在哪里找到了答案。在此过程中，我还将这些想法应用到了医疗人工智能中，构建了可解释的诊断工具，即使训练数据非常有限，也能发挥作用。
我们的 iOS 应用程序在 12.9 英寸 Apple iPad Pro 上运行气胸 (PTX) 诊断的屏幕截图。
您的研究中有一个特别有趣的方面吗？
关于西铭
标签：
,