详细内容或原文请订阅后点击阅览
软件 2.0 意味着可验证的人工智能
量子计算 (QC) 和人工智能有一个共同点：都会犯错误。处理 QC 错误有两个关键： 去年我们在纠错方面取得了巨大进展。质量控制重点关注生成解决方案极其困难但验证解决方案很容易的问题。考虑对 2048 位素数进行因式分解 [...]
来源:O'Reilly Media _AI & ML量子计算 (QC) 和人工智能有一个共同点：都会犯错误。
QC 中处理错误有两个关键： 去年我们在纠错方面取得了巨大进展。质量控制重点关注生成解决方案极其困难但验证解决方案很容易的问题。考虑对 2048 位素数（大约 600 位十进制数字）进行因式分解。这个问题在传统计算机上需要花费数年时间才能解决，但量子计算机可以快速解决它，而且回答错误的可能性很大。所以你必须通过乘以因子来测试结果，看看是否得到原始数字。两个 1024 位数字相乘？简单，对于现代经典计算机来说非常简单。如果答案错误，量子计算机会再次尝试。
人工智能的问题之一是我们经常将其硬塞到难以验证的应用程序中。蒂姆·布雷 (Tim Bray) 最近在 Grokipedia 上阅读了他的人工智能生成的传记。其中有一些大错误，但也有许多除了他之外没有人发现的细微错误。我们都做过同样的事情，使用一种或另一种聊天服务，并且都得到了相似的结果。更糟糕的是，传记中引用的一些旨在验证主张的来源实际上“完全无法支持文本”，这是法学硕士的一个众所周知的问题。
阅读 提议 为人工智能应用程序应该做什么和不应该做什么奠定了基础不管验证的难度如何，Karpathy 对可验证性的关注是一个巨大的进步。 Karpathy 再次指出：“任务/工作越可验证，它就越适合自动化......这就是推动法学硕士进步的“锯齿状”前沿的原因。”
这与软件 1.0 的区别很简单：
软件 1.0 可以轻松地自动化您可以指定的内容。软件 2.0 可以轻松地自动化您可以验证的内容。