详细内容或原文请订阅后点击阅览
剪断电缆
大多数人工智能驱动的学习工具向人工智能发送的信息远远超出了它们的需要。通过用结构化数据处理你能做的事情,并保存你真正不能做的事情的生成调用,你可以获得更便宜、更可靠的工具,并且通常会产生更好的结果。这篇文章首先发表在电子学习行业。
来源:eLearning行业 | 在线教育博客为什么您的人工智能学习工具应该减少使用
当我开始构建人工智能驱动的教育工具时,我的本能与大多数人的本能是一样的:将用户的输入发送到人工智能,获得响应,然后显示它。人工智能就是工具。一切都经过它。
它有效,直到它不起作用。一个 API 密钥在很长一段时间内过期了,几周以来都没有人注意到。服务偶尔会出现故障,该工具也随之出现故障。在某些时候,我意识到我每月支付 AI API 账单,相当于一遍又一遍地回答同样的 12 个问题,这开始感觉不太像一个解决方案,而更像是我为自己构建的依赖。
在过去的一年里,我已经构建了大约六个学习工具,在第三个或第四个左右,一种我希望我从一开始就理解的方法开始成形:人工智能应该是最后一层,而不是基础。
在本文中...
原则:在调用 API 之前完成工作
每个 AI API 调用都会产生费用,以发送和接收的代币来衡量。但财务成本实际上是最容易看到的。我花了更长的时间才意识到延迟成本(API 调用会增加用户的体验,而本地查找不会增加几秒)、可靠性成本(任何外部依赖都是您无法控制的故障点),以及环境成本,在一次查询的规模上很容易被忽视,但在每天为数百个用户提供服务的工具中会累积起来。
需要明确的是,这并不是反对使用人工智能的理由。这是精确使用它的一个论据。
这在实践中是什么样的
我最终构建的内容使用了混合方法。当用户输入问题时,该工具首先针对一组精选的常见问题解答条目运行关键字匹配。每个条目都有关联的关键字和同义词,匹配逻辑会计算置信度分数。如果置信度足够高,该工具会立即返回预先写好的答案。无需调用 AI API。
