采访Mahammed Kamruzzaman:大语模型中的理解和减轻偏见

在一系列采访中,我们会遇到一些AAAI/Sigai博士联盟参与者,以了解有关他们的研究的更多信息。在最新的采访中,我们听到了Mahammed Kamruzzaman的来信,他正在研究大型语言模型的偏见。我们在博士学位期间发现了他的研究,他打算[…]

来源:ΑΙhub

在一系列采访中,我们会遇到一些AAAI/Sigai博士联盟参与者,以了解有关他们的研究的更多信息。在最新的采访中,我们听到了Mahammed Kamruzzaman的来信,他正在研究大型语言模型的偏见。我们在博士学位期间发现他的研究,他打算接下来要调查的内容,以及促使他专注于该领域的方面。

AAAI/SIGAI博士联盟

告诉我们一些有关您的博士学位的信息 - 您在哪里学习,您的研究主题是什么?

我目前正在南佛罗里达大学计算机科学与工程系的博士学位。我的研究重点是理解和减轻大语言模型(LLMS)的偏见,尤其是这些偏见如何在各种社会人口统计学和文化方面表现出来。具体来说,我研究了社会偏见,例如年龄歧视,国籍偏见,文化规范解释,情感刻板印象和品牌偏见,以研究分配给LLM的不同角色如何影响其产出和决策过程。

您能否概述您在博士学位期间到目前为止进行的研究?

在整个博士学位中,我都探索了LLMS中的多个偏见方面。我的工作包括:

  • 社会偏见:分析了微妙的偏见(年龄,美容,机构和国籍偏见)如何影响LLM的产出,从而揭示了模型预测中可普遍但被忽视的偏见。
  • 社会偏见:
  • 国籍偏见和文化规范:研究将特定于国籍的角色分配给LLM的方式如何影响其对不同国家的看法和刻板印象,从而确定有利于西方国家的重大偏见。
  • 国籍偏见和文化规范:
  • 情感归因偏见:调查的特定于国籍的情感刻板印象,发现LLM生成的情绪与文化规范之间存在显着差异。
  • 情感归因偏见: 品牌偏见: 缓解偏置的技术: banstereoset 是跨学科:

    标签: