详细内容或原文请订阅后点击阅览
信任还是验证：科学可以依赖 LLM 预言的预测吗？
数学家驯服人工智能黑匣子。
来源:安全实验室新闻频道数学家驯服人工智能黑匣子。
现代科学和商业越来越多地使用复杂的人工智能算法来预测未来事件 - 从学生表现到选举结果。然而，一个严重的问题出现了：这些算法非常复杂，甚至它们的创造者也并不总是准确地理解机器如何做出决策。专家将这种不透明的系统称为“黑匣子”——我们可以看到进出的情况，但不知道内部发生了什么。
专家来电斯坦福大学的数学家在 Emmanuel Candes 的带领下，找到了一种无需查看黑匣子内部即可评估人工智能预测可靠性的方法。他们没有试图理解神经网络的数十亿个参数，而是开发了一种数学装置来分析其工作结果并确定在每种特定情况下预测的准确性。
研究人员首先针对许多大学担心的问题测试了他们的方法：如何预测未来学生的成功？人工智能分析申请人的一系列数据：在校成绩、体育成绩、人口特征。现代法学硕士甚至允许您通过将文本转化为一组数字参数来评估招生论文的质量。
法学硕士新方法的主要优点是系统不仅产生一个预期结果，而且显示可能的分布。例如，对于一名申请人，它可以预测 2.9 到 3.9 范围内的 GPA，而对于另一名申请人，它可以给出更准确的预测 - 从 3.3 到 3.5。这有助于招生委员会在做出决定时更好地评估风险。
学术预测实验的成功启发《华盛顿邮报》的记者采取类似的方法来预测选举结果。他们创建了一个系统，使用人口统计数据和已知的投票结果来预测仍在计票的县的结果。