了解生成式 AI 用户

普通技术用户对人工智能有什么看法(和了解)?这篇文章《了解生成式人工智能用户》首先出现在《走向数据科学》上。

来源:走向数据科学

最近在一些关于为最终用户设计基于 LLM 的工具的有趣对话中,这提出了重要的产品设计问题之一:“人们对人工智能了解多少?”这很重要,因为正如任何产品设计师都会告诉您的那样,您需要了解用户才能成功构建供他们使用的东西。想象一下,如果您正在构建一个网站,并且您假设所有访问者都会说流利的普通话,因此您用该语言编写了该网站,但结果发现您的用户都说西班牙语。就是这样,因为虽然你的网站可能很棒,但你是用一个致命的假设来构建它的,从而大大降低了它成功的可能性。

因此,当我们为用户构建基于 LLM 的工具时,我们必须退后一步,看看这些用户如何看待 LLM。例如:

  • 他们可能并不真正了解 LLM 的运作方式
  • 他们可能没有意识到他们已经使用了法学硕士支撑工具
  • 由于他们与功能强大的代理的经验,他们可能对法学硕士的能力抱有不切实际的期望
  • 他们可能对LLM技术有不信任或敌意的感觉
  • 根据过去的特定经验,他们对法学硕士所说的话可能有不同程度的信任或信心
  • 即使法学硕士没有提供确定性结果,他们也可能期望确定性结果
  • 用户研究是产品设计中极其重要的一部分,我认为当我们构建基于 LLM 的工具时跳过这一步是一个真正的错误。我们不能假设我们知道我们的特定受众过去如何经历法学硕士,我们特别不能假设我们自己的经历可以代表他们的经历。

    用户个人资料

    幸运的是,关于这个主题恰好有一些很好的研究可以帮助指导我们。用户视角的一些原型可以在印第安纳大学医学院的 Cassandra Jones-VanMieghem、Amanda Papandreou 和 Levi Dolan 开发的四角色框架中找到。

    为什么会发生这种情况

    自治