详细内容或原文请订阅后点击阅览
关于罗生门集、简单的数学以及为什么我们不需要黑匣子：辛西娅·鲁丁 (Cynthia Rudin) 访谈
欢迎回到人工智能先锋 - 与该领域的塑造者进行深入对话。这次，我们采访了可解释机器学习领域的开拓者 Cynthia Rudin。 Cynthia 是 2022 年松鼠人工智能造福人类奖的获得者，她的算法已经可以预测癫痫发作、帮助犯罪侦查并为 [...]
来源:ΑΙhub欢迎回到人工智能先锋 - 与该领域的塑造者进行深入对话。这次，我们采访了可解释机器学习领域的开拓者 Cynthia Rudin。 Cynthia 是 2022 年松鼠人工智能造福人类奖的获得者，她的算法已经在预测癫痫发作、帮助犯罪侦查并为生物研究提供动力。我们讨论了黑匣子、罗生门集，以及她的实验室的下一步发展——从癌症检测到可解释的人工智能生成的音乐。
您能告诉我一些您的背景吗？是什么吸引您进入可解释的机器学习领域？
我正在与联合爱迪生公司合作，通过机器学习维护纽约市电网。这是有史以来第一次大规模尝试通过机器学习来维护电网。数据非常混乱——难以理解的故障单、可追溯到 1880 年代的电缆安装记录，以及大量没有文档记录的其他表格。我最初尝试使用黑盒机器学习方法来识别电网的弱点，但这是一场灾难。我提出的修复建议毫无意义。
但是，当我停止尝试让黑匣子工作并切换到非常简单的模型时，我能够向电力工程师展示可解释的模型，他们帮助我们对模型和数据进行故障排除。然后我们的准确性比黑匣子所希望的要好得多。真是令人大开眼界。
你能告诉我更多关于从数据噪声中产生更简单模型的理论吗？
什么是罗生门集，它们对机器学习领域有什么影响？
您已经看到您的一些算法在广泛的环境中使用：从生物信息学和生态学研究到重症监护和犯罪检测。这些截然不同且高风险的领域教会了您如何设计有用的人工智能？
您认为未来我们还会有黑盒模型吗？
关于辛西娅·鲁丁
标签：