我如何(以及为何)构建人工智能助手

本文诚实地讲述了我为何构建自定义 AI 助手而不只是付费购买的过程、架构是什么样子、实际代码、出现了什么问题以及我现在真正依赖的它的功能。

来源:KDnuggets

简介

事情从一个完全远离我的星期二开始。我要总结三份客户简报、一堆积压的研究选项卡(我一直向自己保证我会得到这些选项卡)、几封需要深思熟虑的回复的电子邮件,以及一份写了一半的技术文档,在一个选项卡中打开了四天的大部分时间。当我从所有这些内容之间的上下文切换中抬起头来时,已经是晚上 7 点多了,我几乎没有发送任何有意义的东西。

那天晚上,我没有关闭笔记本电脑并称其为失败,而是开始以不同的方式思考这个问题。我的时间并不紧。我缺乏杠杆。我那天所做的每项任务都有一个版本,我可以将其委托给比浏览器书签更智能的东西。所以我开始建造。

这篇文章诚实地描述了这个过程:为什么我构建了一个定制的 AI 助手,而不是仅仅付费购买一个,其架构是什么样的,实际的代码,什么问题,以及它现在我真正依赖的功能。

“为什么”先于“如何”

大多数决定构建人工智能助手的人都是从谷歌搜索“Python LangChain 教程”开始的。那是倒退了。值得思考的第一个问题是:当 Siri、ChatGPT、Copilot 和其他十几种工具已经存在时,为什么还要构建它?

对我来说最诚实的答案是控制。不是偏执、离网的方式,而是从实际意义上讲,每个现成的助手都是围绕别人对你的需求的假设而设计的。它们的设计是通用的,而通用意味着妥协。我想要的东西能够了解我的背景,使用我的语气,连接到我的特定工具,并保持在我已经信任的工作流程中。

还有数据问题。当您使用第三方助手时,您的提示和上下文会通过他们的基础设施。对于个人生产力来说,这可以说是很好的。对于任何与客户相关或商业敏感的事情,情况都会变得更加模糊。构建您自己的意味着您可以决定数据所在的位置。

选择堆栈

设置环境