详细内容或原文请订阅后点击阅览
过度自信的人工智能的缺陷
新的人工智能工具在许多任务上都非常出色，而且还在不断进步，但它们严重不足的一个领域是在表达对所提供答案的信心程度方面。伟大的数学家陶哲轩最近在接受 Matteo Wong 采访时提出了这一点，关于使用……继续阅读过度自信人工智能的缺陷这篇文章《过度自信人工智能的缺陷》首先出现在《Conversable Economist》上。
来源:对话经济学家新的人工智能工具在许多任务上都非常出色，而且还在不断进步，但它们严重不足的一个领域是在表达对所提供答案的信心程度方面。伟大的数学家陶哲轩最近在接受 Matteo Wong 采访时提出了这一点，内容涉及使用人工智能工具为数学中未解决的问题提供答案（“数学的边缘”，大西洋在线，2026 年 2 月 24 日）。涛说：
一件对数学界有帮助的非常基本的事情：当人工智能给你一个问题的答案时，通常它不会给你任何好的指示来表明它对这个答案的信心有多大，或者它总是会说，我完全确定这是真的。人类就是这样做的。他们对某件事是否有信心是非常重要的信息，可以尝试性地提出一些你不确定的事情，但重要的是要表明你对此不确定。但人工智能工具并不能准确评估自己的信心。这降低了它们的实用性。我们希望有更多诚实的人工智能。
此外，许多人工智能公司都痴迷于按按钮、完全自主的工作流程，你把任务交给人工智能，然后你就去喝杯咖啡，回来后问题就解决了。这实际上并不理想。面对困难的问题，你确实希望人类和人工智能之间进行对话。人工智能公司并没有真正促进这一点。如果我们至少能与一些愿意开发更多互动平台的科技公司合作，那将更容易受到人们的欢迎。
当然，Tao的观点是相互关联的。只有当您完全 100% 确信结果正确且合适时，您才能将工作完全交给人工智能工具。将算术交给电子表格程序就可以了。将公司的战略重点交给人工智能程序是另一回事。